Vorurteile der AI: Deshalb lernen Algorithmen zu diskriminieren | SRF Forward

AI, also Artificial Intelligence wird immer wichtiger. So haben Algorithmen Einfluss auf das Leben von jedem von uns haben. Doch sind in den Algorithmen Vorurteile und somit Diskriminierungen mitprogrammiert. Wie kann es passieren, dass Algorithmen diskriminieren und was kann man dagegen tun? Wir haben uns auf die Suche nach Antworten gemacht.  

Im Video siehst du: 
00:00 Als Gorillas bezeichnet: Beispiele von Diskriminierung
00:32 Einfluss Künstlicher Intelligenz auf unser Leben 
00:57 So funktionieren Algorithmen 
02:50 Diversität in der High-Tech-Branche 
04:05 Wer ist betroffen? 
06:20 Lösungsansätze und ethische Richtlinien 

▪️ Produktion: Michelle Feer, Stefanie Hasler, Zoé Buess 
▪️ Leitung: Sara Maria Manzo   

Im Auftrag von ©2020 SRF  

Quellen: Imago, Nounproject: Eliricon, Anna Sophie 

➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖

🔔 JEDEN MITTWOCH UM 17.00 UHR EINE NEUE REPORTAGE

➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖➖

SRF Impact auf YouTube abonnieren

SRF Impact auf Instagram

..................................................................................

SRF Impact zeigt dir die Welt ungeschönt. Hier findest du Themen, die dich bewegen und betreffen. Geschichten, Hintergründe und Reportagen aus dem Leben. Zum Schauen, Mitfühlen und Diskutieren.
..................................................................................

Social Media Netiquette von SRF:

#SRFImpact #SRFForward #DiskriminierungAI

[srfimpact]

Was meinst du: Sollen Algorithmen Entscheidungen über Menschen treffen oder braucht es in sensiblen Bereichen doch eine Person? LG Michelle

[drthox]

Algorithmen diskriminieren nicht! Zumindest nicht in der heutigen Definition des Wortes. Sie treffen logische Entscheidungen aufgrund von erlernten oder programmierten Befehlen.

Beispiel Gesichts-/Bilderkennung: Falls nicht genug Daten zur verfügung stehen, kann der Algorithmus nicht genug lernen und liegt öfter falsch. Es ist nicht der böse Algorithmus, der eine schwarze Frau als Gorilla bezeichnet. Sondern ein Algorithmus, der noch nicht genug schwarze Frauen gesehen hat, um sie korrekt erkennen zu können.

Der Mangel an Daten könnte ja auch scclicht damit zu tun haben, dass die hier Betroffenen Minderheiten sind. Also weniger Personen, und deshalb auch weniger Daten existieren.

[xZyrux]

Wenn der Bewerbungsalgorithmus von Amazone Männer bevorzugt, könnte es doch sein, dass die Männer im Durchschnitt die besseren Bewerbungen geschrieben haben?

[samaeldementi]

Und das isch da Grund, warum`s Geld fürs schwizar Fernse noch me zämagstricha werde muas.

[Nambla-e]

Wenn ich in Europa das deutsche Wort Hochzeit suche bekomme ich keine chinesische Hochzeit angezeigt? Ich bin mir sicher, dass man auch genau dies gesucht hat.

[TheCrotexHD]

Ich verstehe die Punkte im Video sehr gut, trotzdem kann man eine Minderheit nicht gleich gut präsentieren wie die Mehrheit. Das wäre Datenverfälschung. In den USA sind Schwarze nur 13% der Gesamtbevölkerung. Diese sollten entsprechend nicht überrepräsentiert werden.

Hier ist es wie bei Statistiken. Vertraue nie einer Statistik, die du nicht selbst gefälscht hast.

[Bobby-eriz]

Guet gmeinte Tipp: ihr blamiered eui mit so lachhafte realitätsfremde Theme. Wenn ihr wend öpis guets für benachteiligti mache den spended s Geld wo für sones Video iiplant isch. Oder behandled es relevants Thema und nöd gsuechte Rassismus.

[biberkatze]

Für das sind Algorithmen doch gemach, oder?

[lukasmagnus]

Zum glück lueged eu so wenig sust isch morn mathematik rassistisch

[Adi-ehgp]

Algorithmen sollen helfen Entscheidungen zu treffen. Aber die Entscheidung soll dann von einem Mensch überprüft werden.
Da gibt es echt viel Potential. Zum Beispiel kann ein Algorithmus einem Arzt helfen eine Krankheit schnell zu entdecken. Jedoch muss der Arzt dies vor der Behandlung überprüfen.

[thementos]

Hauptsache alles wieder rassistisch, sexistisch und Minderheiten diskriminierend darstellen...
Alle positiven Faktoren von Algorithmen einfach mal ignorieren... sehr „forward“ thinking
Spieglein Spieglein an der Wand, wer ist am diskriminiertesten im ganzen Land?

[flaviaseker]

Ein riesiges Dankeschön von meinen Ohren an Michelle, dass sie Algorithmus richtig ausspricht :) Abgesehen davon ein informatives und kurzweiliges Video, toll gemacht!

[GrayKuma]

Kein schlechte bitrag für laie, aber ier sötend vlt no erwähne das "me diversität" kei praktikabli bzw. kei direkt beiflussbari lösig isch.

[Gabriel_Tan]

Wenn 100 Menschen individuell eine Wahl treffen und dann die Mehrheit entscheidet, ist die Entscheidung in der Regel besser, als wenn ein einzelner Mensch entscheidet, weil die Chance dass die Mehrheit von 100 Personen in die gleiche Richtung biased sind, viel kleiner ist als dass 1 Mensch biased ist.
Ein Algorithmus kombiniert die Entscheidung von tausenden von Menschen. Alle Beispiele die im Video gezeigt wurden sind Konsequenzen von Algorithmen, die mit zu wenig oder zu wenig diversen Daten "gefüttert" wurden. Daher sollten Algorithmen in der Anfangsphase sicher noch kontrolliert werden und Menschen unterstützen statt ersetzen.

Dennoch wenn ein Algorithmus einen Fehler macht ist es ein riesen Ding. So gab es riesige Schlagzeilen, als ein selbstfahrendes Auto einen Umfall gebaut hat und selbstfahrende Autos allgemein wurden als in frage gestellt, obwohl jedes Tag tausende Umfälle von Menschen verursacht werden und schon zu dieser Zeit das selbstfahrende Auto besser und sicherer gefahren ist als ein Durchschnittsmensch.

Man sollte die Entwicklung von Big Data dennoch mit Misstrauen betrachten, aber weil Algorithmen zu "mächtig" sind und nicht zu "dumm".

[hugoschmitz]

Alternativ könnte man auch mal in die google Bildersuche "happy white woman" eingeben. Das Ergebnis ist eindeutig ein beeinflusstes Ergebnis um irgendwelche Wünsche woker Programmierer zu erfüllen. Mit der Realität hat es aber nur bedingt zu tun. Man könnte auch auf die Idee kommen, durch diese Fokussierung auf das Äußere erzeugt man erst das Gefühl, dass Rassismus antreibt, da erst durch das hervorheben der Unterschiede es einen Sinn macht andere zu diskriminieren.

[rogonderwolf]

Topp Video, sehr gut erklärt. Lasst euch nicht verunsichern von den ganzen Kommentierenden hier, die das Problem nicht verstanden haben!

[baschtler]

Wieder eine wie immer sehr spannende Dokumentation mit einem Einblick in ein Thema, über das ich mir noch nie Gedanken gemacht habe.
Daumen hoch!

[yasminmuller]

Danke für den augenöffnenden Beitrag! Weiter so!

[sofagummel]

Das Ganze ist doch nicht ein Problem der Algorithmen, sondern der Menschen die sie programmieren oder füttern. Also haben wir die selben Probleme wenn ein Algorithmus oder die HR-Abteilung (mit ihren Vorurteilen) entscheidet oder nicht?