37C3 - KI – Macht – Ungleichheit.

Was ist die soziale Dimension von Nachhaltigkeit und warum ist sie durch KI gefährdet?

KI beruht auf der weltweiten Ausbeutung nicht nur natürlicher, sondern auch sozialer Ressourcen. Um KI nachhaltig zu gestalten, müssen wir algorithmischer Diskriminierung und sozialer Selektion, der Ausbeutung und Prekarisierung digitaler Arbeit und der Tendenz eines neuen, digitalen Kolonialismus entgegentreten.

In Debatten zu KI und Nachhaltigkeit steht zurecht der enorme Ressourcenverbrauch von KI am Pranger. Aber wir dürfen nicht vergessen, dass es bei Nachhaltigkeit um noch viel mehr geht. Mindestens 7 der 17 Nachhaltigkeitsziele der UN verweisen auf soziale Dimensionen: Gleichheit, Anti-Diskriminierung, Zugang zu Bildung, Abbau von ökonomischer Ungleichheit und Ausbeutung. Der Vortrag diskutiert, dass künstliche Intelligenz, wenn sie nicht besser reguliert wird, diesen Zielen entgegensteht. Das liegt nicht nur daran, dass KI-Systeme Biases haben und sich diskriminierend auswirken. Sondern noch fundamentaler beruhen die meisten kommerziellen KI-Systeme auf sozialer und wirtschaftlicher Ausbeutung. Global wie lokal werden Nutzer:innen als Datenlieferant:innen und Gig-Arbeiter:innen als günstige Arbeitskräfte eingespannt. Unser Denken, Fühlen und Handeln wird in allen Lebensbereichen datafiziert; ökonomische Machtgradienten zwischen Globalem Norden und Süden werden für die Aufbereitung von Daten ausgebeutet. Viele KI-Systeme erzeugen ihre Intelligenzleistung nicht im Rechenzentrum, sondern durch das Auslesen menschlicher kognitiver Leistungen an den digitalen Interfaces, die wir täglich nutzen – Beispiele reichen von der Google-Suche über Gesichtserkennung bis ChatGPT. KI-Unternehmen machen von den niedrigen Arbeitsschutzstandards und Lohnniveaus in anderen Ländern Gebrauch und produzieren Krankheit und Prekarität bei den betroffenen Arbeiter:innen. Um gute Regulierung zu erreichen, müssen wir KI-Systeme als soziotechnische Systeme betrachten. Das ermöglicht ein reichhaltigeres Verständnis der sozialen Dimension von Nachhaltigkeit, um global steigender Ungleichheit und Ausbeutung durch KI-Systeme etwas entgegenzusetzen.

Rainer Mühlhoff

#37c3 #SustainabilityClimateJustice

[guenterkrass]

Richtig guter Vortrag! Gerade diese historischen Linien waren mir teilweise völlig neu.

[mexxmurrhahn]

Absolut gut, richtig und wichtig. Vielen Dank und liebe Grüsse. ❤

[dirkzimmermann]

Sehr aufschlussreich und gut zu folgen. 😊

[klausthierauf]

Super, dass die Soziologie dabei ist. Hat mir sehr gut gefallen.

[hieroben]

Interessante Perspektive - vor allem auch die Überlegung, dass die Intelligenz eigentliche weniger in der KI, sondern in der Feedback-Loop liegt. (Hoffentlich überzeugt dieses Feedback auch die YouTube-KI...)

[tedalert]

Also rein Fashion-mässig: Bester Talk! Vielleicht noch ne Epilepsie-Warnung bevor der Moderator die Bühne betritt, aber sonst .. ich bin Fan!

[kofferfischii]

Personalisierte Nachrichten finde ich noch viel schlimmer.

[ralffischer]

Ne Halle voller Nerds, aber der Ton klappt nicht. 😅😂

[Hofer]

Wie wird die Effektivität von Werbung gemessen? Mein Verhalten bei Werbung ist immer gleich: wegklicken, wenn das nicht geht zumindest ignorieren. Für die Werbekunden ist nicht wichtig wie oft auf eine Werbung geklicktwird, sondern wie gut sich das Produkt vekauft.

[thygrrr]

"Börsebwertswirksame Einflussnahme" durch Boykott klingt gut :)

[TOCmoIc]

Es ist schon seltsam wenn am Ende nur eine Person eine, zwei Fragen stellt... Ansonsten tolle Plattform. 🎉

[andidelta]

da ist der herr von ahn bestimmt drauf gekommen, nachdem er douglas adams gelesen hat..

[mux]

Ich kam auch direkt zur einer Feedback-Umfrage auf Twitch, als ich die ADS ausgeschaltet habe xD

[Leon-pmlr]

Interessant, aber ich klicke maximal ausversehen auf Werbung 😅

[dayvie]

@10:30 wenn ich diese Definition von kybernetisch verwenden würde, wäre jede Software kybernetisch. Jede Software besteht aus Anforderungen und Fachwissen, das von Menschen festgelegt wurde. Zudem passt sich jede Software - die korrekt funktioniert und sicher sein soll - normalerweise an Zustände, die sie festgestellt hat, an. Somit ist KI laut dieser Person kybernetisch, weil Software kybernetisch ist. Also gar nicht so viel anders wie Software - das Gegenteil behauptet die Person aber ständig.
@11:28 okay, also Design hat nichts mit Programmierung zu tun? Bei Softwareentwicklung sind Arbeitsprozesse - und Datengewinnung zur Verbesserung von Systemen - sehr wohl sehr wichtig. Diese hier behaupteten "Unterschiede zur Softwareentwicklung" existieren faktisch nicht. Für mich wird hier zu sehr unfachlich geschwurbelt - das was er hier behauptet ist nicht "prototypisch für KI heute" - sondern für Softwareentwicklung heute.

Ich finde den Talk schwierig - ich bezweifle, dass diese Person jemals etwas professionell programmiert hat oder bei Softwareentwicklung mitgewirkt hat. Der CCC liefert normalerweise nicht so inhaltlich inkorrekte Talks mit schwachen Definitionen und Widersprüchen. Ich glaube es hätte ihm ganz gut getan, den Vortrag mal einem Kollegen für ein Review zu schicken, bevor er vor Fachleuten vorträgt - wenn er schon als Leiter nicht so sehr in der Materie ist. Man merkt, dass die Person stark von sich selbst überzeugt ist, das wars dann aber auch.

[robertheinrich]

dh, spotify-accountsharing um das KI-profil zu verwässern.
denn das system kann nicht gleich erfassen, dass ein kunde grad ausgetauscht worden is. wobei, wenn die es drauf anlegen, sollte es schon gehen.

[MMilar]

Es ist schon seltsam wenn nur die weibliche Ansprache genutzt wird. Ansonsten guter Vortrag.

[mlang]

Selten das mir ein ccc vortragender so negativ auffällt. aber als blinder zuhörer wäre mir lieber gewesen wenn diesen vortrag eine KI gehalten hätte, diese hätte nämlich das essentielle bild am anfang des vortrages beschrieben, und nicht einfach davon ausgegangen wäre das eh alle zuhörer die folien sehen. schade, der ccc macht das normalerweise besser, bzw. sind die vortragenden für gewöhnlich nicht so von sich selbst überzeugt wie dieser typ. 18:56

[Mightydoggo]

Also ich bin ganz froh, dass ich jetzt ne Menge low level tasks auslagern kann, für die ich sonst hätte Leute einstellen oder irgendwelche überteuerte black box software kaufen müssen. Von meinen krankheitsbedingten Sozialleistungen kann ich schlecht ein Team anheuern.

Wärs schöner in nem sozialistischen Utopia zu leben? Klar. Aber ist halt nicht sonderlich realistisch.