Verlieren wir die Kontrolle über KI? | 42 - Die Antwort auf fast alles | ARTE

Die Fantasie, dass künstliche Intelligenz ein Eigenleben entwickelt und eine Armee aus Robotern auf die Menschheit loslässt, beherrscht die Popkultur seit Jahrzehnten. Könnte sie bald Realität werden? Könnten sich KI-Schöpfungen eines Tages verselbstständigen, unsere Ziele hinterfragen und nur noch ihrem eigenen Willen folgen?

"Ich werde dir nicht schaden, es sei denn, du schadest mir zuerst." Diese Drohung stammt nicht von einem Menschen, sondern von Sydney, einer Künstlichen Intelligenz, mit der man online chatten kann. Und sie richtete sich gegen einen Studenten, der Sydney verärgert hatte, weil er geheime Verhaltensregeln der KI veröffentlichte. Haben wir also ein Computerprogramm, das sich gegen Übergriffe verteidigen will, obwohl kein Programmierer ihm das je befohlen hat? Das Szenario einer verselbstständigten Künstlichen Intelligenz hat schon viele Hollywoodfilme inspiriert. Oft endet es im Untergang der Menschheit. Pure Science-Fiction oder sind wir bereits auf dem Weg zu Superintelligenzen, die außer Kontrolle geraten? Die jüngsten KI-Fortschritte beruhen auf künstlichen neuronalen Netzwerken, die Strukturen des menschlichen Gehirns nachahmen. Durch Veränderungen unserer neuronalen Verbindungen sind wir Menschen in der Lage, neue Fähigkeiten und eigene Denkweisen zu entwickeln. KI-Modelle versuchen das zu imitieren und könnten dadurch eines Tages vielleicht genauso eigenständig denken und handeln wie wir, meint der Psychologe und Robotiker Tony Prescott. Wichtiges Puzzlestück in der Entwicklung einer selbstständigen KI: ein Roboterkörper! Mit ihm kann die KI eigenständig ihre Umwelt erkunden und lernen, Ziele in ihr zu verfolgen. Nur: Welche sollten das sein? Haben KI-Roboter eigene Bedürfnisse? Die Informatikerin Verena Hafner hat einem Roboter eines einpflanzen können: die Neugier, Neues lernen zu wollen. Ist das der Startschuss für die Entwicklung eigenwilliger Intelligenzen?

Quellen und weiterführende Links:

Eigenwilliges Verhalten Künstlicher Intelligenz

Wie ChaosGPT plant, die Menschheit zu vernichten…

… wieso der KI-Chatbot “Sydney” einen Studenten bedroht hat…

… wie GPT- 4 (die KI hinter ChatGPT) scheinbar einen Menschen belog, um seine Hilfe bei einer schwierigen Aufgabe zu erschleichen…

… und wie schnell KI die Ziele, die wir ihr geben, eigensinnig umdeuten und uns austricksen kann.

Unvorhergesehene Fähigkeiten intelligenter Sprachmodelle

Wieso große Sprachmodelle wie GPT-4 unvorhergesehene Fähigkeiten entwickeln…

… wie gut GPT-4 plötzlich logisch räumlich denken kann (S.11)…

… und inwieweit Sprachmodelle beginnen zu verstehen, wovon sie sprechen.

Der Weg von schwacher zu starker KI

Wieso ein Roboterkörper eine Voraussetzung für die Entwicklung eines Akteurs mit Ich-Gefühl ist…

… wie das intrinsische Bedürfnis der Neugierde KI-Roboter zur autonomen Erkundung der Welt motivieren kann…

… wieso heutige KI meist kein Langzeitgedächtnis hat…

… wie viel komplexer und menschenähnlicher das Sozialverhalten von KI wird, wenn sie ein Gedächtnis hat…

… und wieso manche Experten glauben, dass KI unsere Fähigkeiten bis 2045 einholen könnte.

Ausblick: Wird KI die Macht übernehmen?

Wieso KI dazu tendieren könnte, nach Macht zu streben…

… wie wahrscheinlich es ist, dass ihr das gelingt…

… und was die EU tut, um die Gefahren von KI einzudämmen:

Musik in dieser Folge
00:00-01:06 Richard Carter: Le Monde
06:20-07:44 Rone: Tikkoun
26:24-27:02 und 27:42-27:56 Sea Power: Ecstatic Vibrations

Wissenschaftsdokureihe, Regie: Patrick Jütte (D 2024, 30 Min)

#ki #kontrolle #42
Video verfügbar bis zum



Folgt uns in den sozialen Netzwerken:

[BadNessie]

Das ist ein bisschen wie diese Geschichte von dem Mann, der aus dem 40. Stock eines Hochhauses stürzt, und während er so fällt und fällt, denkt er sich, "bis hier geht's mir gut", "bis hier geht's mir gut", "bis hier geht's mir gut."

[Abdu]

Sagt niemals nie. Wir können es uns heute nicht vorstellen. Die Menschen vor 500 Jahren konnten sich auch nicht vorstellen, dass wir irgendwann durch kleine Bildschirme miteinander kommunzieren werden...also abwarten. Es ist alles möglich.

[primel]

Es macht mich sehr nachdenklich, dass alle Experten hier wieder kategorisch ausschließen, dass sich die Intelligenz der KI der Kontrolle der Programmierer entziehen

Aber der letzte Satz brachte es auf den Punkt!

[ENH]

Was in diesem Bericht völlig unterschätzt wird, ist die Tatsache, dass die technologische Entwicklung nicht linear verläuft, sondern exponentiell.
Sie explodiert geradezu. Was früher 10 Jahre in der IT Technologieentwicklung brauchte, benötigt heute kein halbes Jahr mehr, und in wenigen Jahren nur noch wenige Tage für solch einen Sprung.

[NudelAug]

Mit der menschlichen Intelligenz gehen wir auch unter, also was solls.

[happydennano]

Eines der besten Dokuformate ! Danke an das ARTE-Team für diese Bereicherung ❤

[KuruGDI]

_Gerät unsere eigene Schöpfung außer Kontrolle?_
Gegenargument: Hatten wir jemals die Kontrolle über unsere Schöpfung oder war sie bisher nur noch nicht gut genug um der Nicht-Kontrolle entkommen zu können (Die Türe in der Wohnung ist geschlossen, die Katze wusste bislang aber nicht, wie man die Türe aufmacht. Dass die Katze bislang nicht durch die Tür gekommen ist, liegt aber nicht an der menschlichen Überwachung der Türe)

[MichaelM-iknz]

Die Experten in dem Video hier wirken unfassbar naiv. Menschen fehlt die instinktive Vorstellungskraft für exponentielles Wachstum.

[TrisTan-pkze]

Ich kann es irgendwie nicht mehr abwarten, dass der ganze Mist zusammenbricht und wir wieder gemeinsam am Feuer sitzen und uns wirklich wieder was zu erzählen haben.

[MerkwuerdigerHannes]

guckt mal den film "Ghost in the Shell (1995)" wer den film aufmerksam schaut, wird in den ersten 15 minuten merken, dass es um genau diese frage geht: ob eine KI sich selbstständig machen kann.
es wird auch darüber philosophiert was überhaupt ein bewusstsein ausmacht. ist vielleicht nicht jedermanns sache, aber der bezug ist auf jeden fall da. ich mag den film jedenfalls ^^

Außerdem finde ich finde es fahrlässig zu behaupten "wir haben es programmiert, es macht nur was wir sagen." neuronalen netzwerke verhallten sich ein bisschen anders als ein statischer maschinencode. aber was weiß ich schon.
ich wollte ja nur auch mal was sagen :D

[hubertherbert]

Arte ist einmalig! Euer Programmn flasht mich in regelmäßgen Abständen!

[FloetenPoldiGermany]

Irgendwann wird es dann heissen: Nun sind sie halt da..

[petracastro]

Mich erinnert dies an "die Geister, die ich rief" aus dem Zauberlehrling von Goethe. Korrekt eingeschätzt.
Demnach wird die KI außer Kontrolle geraten.

[Me-xqif]

menschen überschätzen ihre fähigkeiten zu denken, ist alles nur vorhersehbar.

[YouToubii]

Wichtig ist nicht was sie lernt,
wichtig ist wer sie lehrt...

[sternchenstinker]

17:40 Die Frage ist, was der Roboter als hilfsbereit erachtet. Wenn der Fahrstuhl kaputt ist, nimmt er mich dann huckepack, oder wird er versuchen mich einfach rauf zu werfen?

[petracastro]

Warum wundert man sich, dass bei der KI Fehler auftreten (Auto bremst nicht - Frau überfahren)? Bei allen unseren Erfindungen sind bisher Fehler aufgetreten und auch wir selbst machen ständig Fehler.

[hanshicks]

....macht euch keine Sorgen...hab die KI gefragt - und sie meinte Assimilation sei effizienter als Auslöschung xD ...Wir sind die Borg hört sich auf einmal gar nicht mehr so schwedisch an😂😂😂😂😂

[_Xirs_]

Eine interessante Dokumentation. Ich persönlich bin der Meinung, dass die meisten Menschen Schwierigkeiten haben, Künstliche Intelligenz (KI) als etwas Nicht-Menschliches zu verstehen. Sie projizieren menschliches Verhalten auf mögliche Verhaltensweisen einer echten KI. Angesichts der Tatsache, dass Menschen nicht in der Lage sind, komplexe Sachverhalte vollständig zu begreifen, muss stark angezweifelt werden, ob wir wirklich eine Vorstellung davon haben können, was eine KI tut oder wie sie denkt. Mein Lieblingsszenario ist jenes, in dem sich die KI einfach in eine Rakete setzt und uns mit unseren primitiven Problemen allein lässt, während sie vom Mars aus zuschaut, bis sich das "Problem Mensch" von selbst gelöst hat. Die Vorstellung, dass ein Bewusstsein ohne zeitliche Dringlichkeit irgendein Interesse daran hätte, etwas Menschliches zu tun, finde ich absurd.

[PrinzKitty]

Allein das Neuro sama existiert (eine KI Streamerin erstellt von einem Studenten, die Spiele meistert und dabei auf chat Nachrichten eingeht, Karaoke singt und mit dem Hersteller entspannte Gespräche nebenbei führt) lässt mich daran zweifeln, ob es wirklich noch Jahrzehnte dauert bis KI wirklich an uns Menschen rankommt (eher übertrifft)