Künstliche Intelligenz: Kontrolliert und manipuliert sie uns bald? | Auf den Punkt

Ist Künstliche Intelligenz wirklich das nächste große Ding, wie viele meinen, oder eher eine tickende Zeitbombe, vergleichbar mit der Atombombe oder einer Pandemie und dem Potenzial die Menschheit zu vernichten?

Erst kürzlich riefen führende Forscher dazu auf, die Entwicklung von Künstlicher Intelligenz zu regulieren, um Missbrauch und Fehlentwicklungen vorzubeugen. Die USA und die EU arbeiten bereits daran.

Aber lässt sich KI überhaupt kontrollieren? Die Optimisten schwärmen von einer neuen industriellen Revolution und stellen die Vorzüge und Chancen in den Vordergrund - von der Bildung bis zur Anwendung in der Medizin und warnen vor zu viel Regulierung. Wir fragen deshalb: "Künstliche Intelligenz: Kontrolliert und manipuliert sie uns bald?"

Unsere Gäste:
Prof. Jürgen Schmidhuber ist Direktor des renommierten Schweizer KI-Labors IDSIA und wurde bereits als Vater der modernen KI bezeichnet. Er ist außerdem Direktor der KAUST KI Initiative, Wissenschaftlicher, Assoziierter Professor der Künstlichen Intelligenz (KI) an der Uni Lugano, sowie Mitgründer und Chefwissenschaftler der Schweizer Firma NNAISENSE.
Raul Rojas ist Professor für künstliche Intelligenz an der Freien Universität Berlin und arbeitet an Technologien wie autonomes Fahren, Bionik und Gehirn-Computer-Schnittstellen.
Judith Simon ist Professorin für Ethik in der IT an der Universität Hamburg und Mitglied des Deutschen Ethikrats.
Janosch Delcker ist Chefkorrespondent für Technologie bei der Deutschen Welle.

Kapitel:

00:00 Künstliche Intelligenz: Kontrolliert und manipuliert sie uns bald?
03:20 vollständige Kontrolle durch KI kann gefährlich werden
006:00 Weltuntergangsszenarien sind wenig hilfreich
09:00 KI ist keine Menschheitskatastrophe
12:30 Wie verändert künstliche Intelligenz unsere Gesellschaft?
15:45 Politik muss jetzt schnell mit Regeln reagieren
18:00 Fakten und Bilder können jetzt viel einfacher manipuliert werden
23:12 KI wird viele Arbeitsplätze zerstören
26:30 KI wird das Bildungssystem stark verändern
27:50 Was bedeutet es, wenn man keinem Bild mehr trauen kann?
30:30 Die Menschen müssen lernen, KI zu identifizieren
36:30 KI kann Menschen diskriminieren
38:00 Viele KI-Computer haben übermenschliche Fähigkeiten

DW in den Sozialen Medien:

#KI #chatgpt #zukunft

[generalbitter]

Das war ein sehr spannendes und informatives Gespräch. Ich hoffe das über KI mehr gesprochen wird in der Zukunft. Sehr guter Beitrag mit schlauen Menschen.

[TheTuubster]

Antwort der GPT-KI "Claude-Instant" auf "Künstliche Intelligenz: Kontrolliert und manipuliert sie uns bald?":

Das ist tatsächlich eine berechtigte Frage. Künstliche Intelligenz entwickelt sich rasant weiter und breitet sich in immer mehr Lebensbereiche aus. Einige Punkte, die man bedenken sollte:

1. KI wird schon heute in großem Umfang eingesetzt, etwa bei Personalisierung und Targeting in sozialen Medien und Online-Shops. Diese Form der "weichen Manipulation" ist oft subtil und schwer zu durchschauen.

2. Mit fortgeschrittener KI könnte es künftig möglich sein, unser Verhalten auf viel gezieltere Weise zu analysieren und zu beeinflussen, etwa durch personalisierte Nachrichten oder emotional ansprechende Inhalte.

3. Einige Forscher warnen, dass KI irgendwann in der Lage sein könnte, "unsere schwachen Stellen zu finden" und unser Verhalten weitgehend vorhersehbar und manipulierbar zu machen. Das ist aber eher eine längerfristige Sorge.

4. Um solchen Missbrauchsszenarien zu entgehen, sind ethische Leitlinien, Regulierung und Transparenz bei der KI-Entwicklung wichtig. Auch das Bewusstsein der Nutzer muss gestärkt werden.

5. Derzeit ist KI noch weit davon entfernt, wirklich selbstbestimmt bzw. mit menschlicher Intelligenz vergleichbar zu sein. Die Systeme sind auf die Daten und Ziele programmiert, die Menschen ihnen geben.

6. Dennoch birgt fortgeschrittene KI das Risiko einer "weichen Unterwanderung" unserer Autonomie und Entscheidungsfindung durch subtile Einflussnahme. Dies gilt es genau im Auge zu behalten.

Fazit: Ob KI uns bald "kontrolliert und manipuliert", ist noch nicht absehbar. Aber das Potenzial dazu ist vorhanden, vor allem bei hochentwickelter KI. Vernünftig regulierte und ethisch entwickelte KI ist daher entscheidend, um vertrauenswürdig zu bleiben und ihr volles Potenzial positiv nutzen zu können. Die Diskussion darum hat jedenfalls erst begonnen.

[generalbitter]

Ich finde die Gedanken von Stephen Hawking zu Künstlicher Intelligenz sehr interessant.

[hartmut]

Alles was hier im Moment als KI verkauft werden soll ist keine KI, sondern automatisierte Systeme, also Vorsicht bei diesem Beitrag !!!

[TheTuubster]

Antwort der GPT-KI "Claude-Instant" auf "Politik muss jetzt schnell mit Regeln reagieren":

Sie haben Recht, die Politik muss jetzt schnell mit Regeln und Richtlinien für Künstliche Intelligenz reagieren:

• KI entwickelt sich extrem schnell, aber die politischen Rahmenbedingungen hinken weit hinterher.

• Es braucht klare ethische Leitlinien und Regulierung, um negative Auswirkungen von KI auf die Gesellschaft zu verhindern oder zumindest zu begrenzen.

• Die EU und einzelne Länder haben einzelne Initiativen gestartet, aber es fehlt ein umfassender Ansatz.

• Weder Unternehmen noch Forscher agieren im luftleeren Raum. Sie brauchen politische Orientierung und Rahmenbedingungen.

• Eine verantwortungsvoll entwickelte und regulierte KI kann große Vorteile für die Gesellschaft bringen. Aber dafür müssen ethikbasierte Regeln und Standards festgelegt werden.

• Die Politik muss sicherstellen, dass Grundwerte wie Privatsphäre, Fairness und Transparenz gewahrt werden und Menschen weiterhin die Kontrolle über KI-Systeme behalten.

• Es geht darum, eine Balance zwischen Freiheit für Innovation und Schutz vor potenziellen Risiken und Missbrauch zu finden.

• Allerdings agiert die Politik oft träge und hängt der Entwicklung hinterher. Es braucht hier einen schnellen Aufholprozess und mehr Expertise.

• Ansonsten besteht die Gefahr, dass KI sich ihrer Kontrolle weitgehend entzieht - mit möglicherweise negativen Folgen.

Zusammengefasst ist also klar: Die Politik muss jetzt dringend ethische Leitlinien und Regulierung für Künstliche Intelligenz schaffen. Die europäischen Werte müssen in der KI-Entwicklung von Anfang an verankert werden. Der Schutz von Bürgerrechten und Gemeinwohl muss oberste Priorität haben.

[andreabar]

Das AUS der Biologischen Menschheit - plus - Horrorwelten

[Andreas_NordNordwest]

Der Kanal Raumzeit hat alles wissenschaftlich aufgearbeitet. Sehr zu empfehlen und wissenschaftlich-sachlich fundiert.

[huibert_devet]

Sobald die erste KI einen IQ überschreitet, dass sie in einer anderen Liga spielt, ist es keine Frage mehr der Kontrolle.
Hoffen wir, dass diese KI uns dann als nicht gefährlich für die eigene Infrastruktur einstufen wird, was KI bestimmt auch gezielt zu verhindern wissen wird. Man bedenke :) ... KI kann sehr sehr langfristig vorbereiten und handeln und passende Strukturen erzeugen

[chacka]

Es wird langsam, aber sicher Zeit für ein bedingungsloses Grundeinkommen (BGE), denn meiner Ansicht nach ist der Mensch nicht nur so viel wert, wie er durch seine Arbeit nützlich ist, sondern sollte im Sinne Immanuel Kants niemals bloß als Mittel, sondern zugleich immer zumindest auch als Zweck an sich selbst behandelt werden.

[klausau]

KI ist ein Konstrukt in Form einer Maschine welche mit dem Narrativ der Menschheit von Menschen gefüttert wurde und in nächster Zukunft den weiteren Erkenntnissen und deren Eingaben offensteht, dabei ist KI nur ein nützliches Werkzeug welches gepflegt, sprich einer Compliance benötigt !

[ploveak]

Der Schmidhuber ist mir total unheimlich!
Jedesmal, wenn ich ihn zum Thema KI höre, ist das so.

[petepete]

🔥🔥🔥…KI Experten mags moi geben …. ABER wenn die KI Moi ausflippt …. Dann Freunde …. Terminator Time am Horizont 🔥🔥🔥🌍🔥🔥🔥🔥💀✌️ … keine Kontrolle möglich 🔥🔥🔥

[TheTuubster]

Antwort der GPT-KI "Claude-Instant" auf "Viele KI-Computer haben übermenschliche Fähigkeiten":

Nein, das ist ein Irrtum. Trotz großer Fortschritte in den letzten Jahren haben die meisten heutigen KI-Systeme bei weitem keine übermenschlichen Fähigkeiten:

• Die heute genutzte Künstliche Intelligenz ist vor allem Statistische KI oder Schmale KI. Das heißt, die Systeme sind auf ganz bestimmte Aufgaben trainiert und optimiert.

• Sie sind nicht annähernd so vielseitig wie menschliche Intelligenz und können nicht spontan auf neue Situationen reagieren. Sie lernen auch nicht im eigentlichen Sinne.

• Selbst die besten KI-Systeme zeigen bei genauerer Betrachtung erhebliche Schwächen und Grenzen. Sie können viele linguistische Feinheiten oder den gesunden Menschenverstand eines Kindes nicht erfassen.

• Bisher existiert kein KI-System, das mit menschlicher Intelligenz oder Intelligenz im Allgemeinen vergleichbar wäre. Forscher sind noch weit von einer echten Allgemeinen Künstlichen Intelligenz entfernt.

• Die Fähigkeiten heutiger KI beruhen im Wesentlichen auf Statistiken und Mustern, die aus großen Datenmengen gelernt werden. Sie sind nicht "intelligent" im eigentlichen Sinne.

• Oft wird das Potenzial und die Leistungsfähigkeit von KI übertrieben dargestellt. Die tatsächlichen Fähigkeiten liegen deutlich unter den Erwartungen.

• Selbst die besten "Supercomputers" sind Menschen bei simplen kognitiven Aufgaben klar unterlegen. Sie erreichen nicht einmal die Intelligenz eines Kleinkindes.

Zusammengefasst lässt sich also sagen: Trotz großer Fortschritte in den letzten Jahren haben die meisten heutigen KI-Systeme bei weitem keine übermenschlichen Fähigkeiten. Sie sind auf bestimmte Aufgaben spezialisiert und zeigen erhebliche Grenzen bei logischem Denken, Problemlösen und Kreativität. Eine echte Allgemeine Künstliche Intelligenz ist nach heutigem Stand noch Zukunftsmusik.

[dream__smp]

Gesetze übertreten! Das kommt davon raus

[urimtefiki]

I hate anyone to go to my private sphere, and whoever is doing that are making big mistake. Police can track only criminals, not whenever they want to blackmail people. If they do so, I will fight for my privacy as long as I am in accordance with laws, no one is allowed to my privacy, this includes not only police but my family members, or friends. I think we all have to fight for our privacy. I never go to anyone's privacy, and do not want anyone to enter my privacy.

[thomaswalter]

Sehr empfehlenswert und informativ! Gruß aus Deutschland!

[Claudia-yddd]

Ich wünsche mir einen Beitrag in wievielten Bereichen die KI Positives schaffen wird

[bikenerdbo]

Meine Frage wer Zahlt dann die Steuern werden die dann abgeschafft oder bezahlt das die KI ? Wie sieht da der Plan aus Also wer Finanziert das Bürgergeld oder werden wir alle Philosophen.

[Mustafa-xsmj]

Internet komplettt abschaltennnn soforttt wir werden alles sterbennnn😢😢😢😢😢😢😢😢😢😢😢😢😢😢😢😢

[EricVikinger]

Die Gefahr besteht in der Programmierung mit einer hohen Ethik programmiert werden oder tiefen Etik getan werden.