Warum die KI zum Tod des Internets führen wird Vol 2:Antworten

Weiterführende Kommentare:

Warum es gerade jetzt auf menschliche Intelligenz ankommt:

Matthias Zehnder ist Autor und Medienwissenschaftler in Basel. Er ist bekannt für inspirierende Texte, Vorträge und Seminare über Medien, die Digitalisierung und KI.

[HeinzLuitz]

Vielen Dank für Ihre Videobeiträge, auf die ich diese Tage erst zufällig gestoßen bin. Ich habe mir Ihren Kanal gleich abonniert. Als ehemaliger "Viel-Leser" (heute ist es "dank" oder besser leider wegen der durch das Internet überall verfügbaren Informationen auch bei mir weniger geworden) und aufgrund der Tatsache, dass bis vor kurzem als Dozent/Referent in der (betrieblichen) Weiterbildung tätig war, habe ich viele der Entwicklungen hautnah miterlebt. Sowohl bei mir selbst, vor allem aber auch bei den Menschen, mit denen ich im Bildungsbereich zu tun hatte. Durch die Überflutung von Informationen im Internet habe eine Verflachung statt Vertiefung des Wissens feststellen können. Fatal ist dies deshalb, weil auf dieser Grundlage auch immer mehr Diskurse stattfinden, die aber immer weniger Gehalt haben. Dies gilt vor allem auch in den Bereichen Politik, Philosophie, Geistes-, Wirtschafts- und Gesellschaftswissenschaften, letztlich aber auch im Bereich der Naturwissenschaften. Die Digitalisierung macht eine Flut sich wiederholender, von einander abgeschriebener, halbfertiger, halbwahrer oder gar falscher Puplikationen in kurzer Zeit möglich, für die es früher Jahre und kritischerer Betrachtung bedurfte. Und alle denjenigen, die behaupten, neue Techniken wären von den Alten schon immer argwöhnisch beäugt worden und deren Befürchtungen wären nie eingetreten, möchte ich heftigst widersprechen! Zum einen war und bin ich selbst sehr technikaffin und konnte mich immer für neue Technologien, insbesondere z. B. Computer begeistern, baute und repariere meine eigene Computer teilweise bis heute. Zum anderen hat mich meine erste Auseinandersetzung mit den Ideen von Weizenbaum aber auch kritisch werden lassen. Die Entwicklung und flächendeckende Einführung von
Technologie hat auch bisher schon immer mindestens 2, oft auch 3, 4 oder mehr widersprüchliche Auswirkungen gehabt. Ob die Wirkungen gut oder nachteilig sind, hängt von der/den jeweiligen Perspektive/n und auch den unterschiedlichen Betrachtern ab. So hat der Bau der Eisenbahn zwar nicht die befürchteten individuellen medizinischen oder psychologischen Auswirkungen auf die Passagiere gehabt, wohl aber ganz unterschiedliche gesellschaftliche und wirtschaftliche Auswirkungen. Abgesehen von den vielen individuellen Opfern die durch den Bau der Trassen verursacht wurden, kam es bereits damals dabei schon zu Naturzerstörungen, nicht nur durch den Bau selbst, sondern auch als mittelbare Folge als effizientes Mittel zur Naturausbeutung. Ganze Wirtschaftszweige wurde vernichtet, selbst wenn andere entstanden. Die Eisenbahn trug z. B. auch zur Kaptialakkumulation von Vielen zu wenigen bei.
Das Medien nicht nur förderlich sind, hatte in Bezug auf das Fernsehen bereits der wenn auch vielfach umstrittene Neil Postman aufgezeigt.
Keine Technologie ist per se gut oder schlecht, alle haben ihre Vor- und Nachteile. Das Problem be- und entsteht aber nicht nur durch die Art ihrer Nutzung, sondern wohnt jedem Medium auch selbst inne. Der Konsum eines fertigen Bildes (Fernsehen) erfordert nun mal weniger kreativer Hirnleistung als sich Ähnliches, zudem in ungeheuer größerer Vielfältigkeit, aus dem abstrahierten, geschriebenen Wort eines Romans zu erschließen und selbst vorzustellen. Der fertige Bild schränkt zudem die an sich kreative Vorstellungswelt des Betrachters auf die Vorgaben des "Machers" ein. Damit sind auch die Vorstellungs- und Denkwelten des Betrachters vorgegeben, zumindest eingeschränkt. Mehr noch als das gesagte oder gar geschriebene Wort, das erst mal selbst auf eine entsprechende eigene Verständnisebene transkripiert werden muss, legt das fertige Bild die Vorstellung fest und hat dadurch einen manipulativeren Charakter, ohne Zwischenstufen/-filter, wie beim Lesen. Nicht umsonst waren Radio und Fernsehen die ersten effektiven Mittel um ganze Bevölkerungen zu manipulieren (und teilweise damit sogar zu verblöden).
Die Algorithmen des Internets spielen dem Nutzer den Wert einer Information aufgrund der Häufigkeit seiner Suchanfragen vor. Die Treffer, die er erhält sind davon beeinflusst und er hat den Eindruck von Relevanz, falls er nicht kritisch genug ist und in der Überfülle unwesentlicher Informationen nach Abweichungen wie nach einer Nadel im Heuhaufen zu suchen. Aus eigener Erfahrung bereits habe ich gelernt, dass es KI nicht besser macht. Die Rechercheergebnisse sind keineswegs so qualitativ bzw. tiefgehend wie erwartet, auch wenn sich die KI netterweise sogar entschuldigt, wenn man sie mit vorhandenen, aber widersprüchlichen Informationen konfrontiert. Dies kann man allerdings nur, wenn man selbst schon vorher eine gewisse Sachkenntnis und/oder selbst im Netz recherchiert hat. Aufgrund der Überfülle von zunehmend mehr oder weniger relevanten Informationen im Netz (auf die die KI ja zugreift, fangen manche KI-Modelle, wie kürzlich erst festgestellt, sogar schon an zu halluzinieren (und geben als Quellen z. B. nicht existierende Gerichtsurteile oder Wissenschaftsartikel an, die es so nie gegeben hat). Und diejenigen, die gutgläubig von der Echtheit überzeugt sind, gehen damit baden.
Noch immer habe ich in meinem Umfeld auch mit Kindern oder Jugendlichen zu tun, denen ich bei Hausaufgaben oder anderen Hausarbeiten helfe. Ich kann nur aus eigener Erfahrung ebenfalls bestätigen, dass ein nicht unerheblicher Teil sowohl der Kleineren, aber auch der bereits Jugendlichen oder jungen Erwachset, nicht mehr fähig sind, sich länger als max. ~ 20 Minuten auf eine schriftliche Aufgabe oder Text zu konzentrieren. Das Schlimmste daran aber ist, dass die meisten davon hinterher nicht mal verstanden haben und/oder zusammen fassen können, was der Inhalt war. Lesen wird als lästig, anstrengend, langweilig und damit mühselig empfunden. Also möglichst schnell "erledigen" und "weg damit" bzw. abhaken (meist ohne Sinn und Verstand). Klingt jetzt vielleicht etwas hart, ist aber so ...

[thosch]

Ich habe gestern mit großen Interesse ihr Video von vor zwei Jahren gesehen... auch ein bissl wegen des Clickbait-Titels ;) Heute wurde mir dann dieses Video vorgeschlagen, wahrscheinlich auch, weil ich den Kanal abonniert habe. Ich beschäftige mich seit Mitte der 90er als beruflich und privat sehr viel mit dem Internet. Ich stimme Ihnen im Punkt der geistigen Verfettung zu. Ich bin nicht gerade ein Mathe-Genie und habe gerne und oft Taschenrechner o.ä. eingesetzt damit ich nicht selber rechnen muss. Wenn heute ein Schüler eine Zusammenfassung und Interpretation eines Buches schreiben muss, kann er dies in Sekunden über ChatGPT 'für sich machen lassen', ohne auch nur eine Zeile des Buches gelesen zu haben; geschweige denn Inhalt, Intention, Moral oder Sinn dieses Buches zu erfassen. Und das in einem perfekten Deutsch, welches der Schüler wahrscheinlich so nie benutzen würde. Wie soll der Lehrer nun eine solche Arbeit bewerten? Zumal er (wenn er nicht untern Stein lebt) beim Lesen der Arbeit wahrscheinlich weiß, dass der Schüler 'gecheatet' hat.

Der alte Grundsatz 'garbage in, garbage out' gilt heute aber immer noch. Und das ist einer der größten Gefahren an der KI. Statistiken lassen sich durch Änderungen der Parameter fäschen. Schon heute tendieren KI-Modelle dazu, bei für sie ungenauen Fragestellungen, Daten zu extrapolieren oder nicht existente Daten auf Basis von vorhandenen, anderen Daten schlichtweg zu erfinden. Siehe dazu 'Halluzinationen in KI-Modellen'. Beispiel: Fragt man die KI 'Wer wird der nächste Bundeskanzler?' kommt ein Name heraus. Möglichweise noch eine Erklärung, warum dieser oder jener es sein wird. Fragt man die KI hingegen 'Weißt Du, wer der nächste Bundeskanzler sein wird?', wird sie mit 'Nein' antworten. Der Twist wird klar und auch der schmale Grat, auf dem man sich in der Kommunikation mit einem Programmkonstrukt bewegt. In der Tat ist der Mensch in dieser Kommunikation die Schwachstelle. Und zwar nicht nur auf der Output-Seite, sondern vor allem auf der Input-Seite. Besitzt man das Geld und/oder die Zeit und Möglichkeiten, eine KI mit massenhaft falschem Input zu einem bestimmten Thema zu korrumpieren, erzeugt man auf der Benutzerseite ebensolchen falschen Output. Und qua statistik-basiertem Modell der KI ist dieses dann innerhalb dieser in sich geschlossenen Welt dann verankert und präsent, solange nicht jemand mit ebenso viel... nennen wir es mal 'Macht' das Gegenteil behauptet. Daraus erwächst ein riesiges gesellschaftliches Problem. Die seit ein paar Jahren grassierende Internet-Epidemie an Fake-News und wissentlich falschen Inhalten, um Einfluss auf die Gesellschaft zu nehmen, wird dagegen wie ein lauer Schnupfen wirken.

Da Texte der KI auf Algorithmen basieren, lassen sich diese übrigens reverse-engineeren und so KI-erzeugte 'neue' Inhalte als ebensolche relativ leicht identifizieren. Projekte dazu gibt es schon. Aus nachvollziehbaren Gründen (siehe vorheriger Absatz), bekommen solche Projekte nicht ansatzweise soviel Aufmerksamkeit und nötige Mittel. Ich meine, welche Zeitung will schon zugeben müssen (durch entsprechende Flags an den Artikeln), dass mindestens die Hälfte Ihrer Texte durch KI erzeugt wurden. Im besten Fall gehen die Redakteure noch einmal drüber und ziehen Ausdruckweise und Inhalt ein bissl glatt. Und auch das wird wegfallen. Ich weiß, wovon ich rede, da ich leitend für ein Unternehmen tätig bin, dass Software für Medienhäuser und Zeitungsverlage entwickelt.

[corvette]

Der Vergleich mit dem Aufkommen der ersten, mechanischen Webstühle ist genau das was sich auch mir, nach ersten Berührungen mit der Ki, aufdrängte. Versuche, in meinem Umfeld darüber zu diskutieren endeten ganz allgemein in Dessinteresse. 99% der Menschen scheinen nicht verstehen zu wollen, welche Umwälzungen auf sie zukommen.

[michelburi]

Danke für Ihren kritische Bericht. Danke auch für die sympathische Art. Ihre Stimme und Ihre Ruhe dabei, nehme ich dabei als sehr angenehm wahr. Gerne folge ich Ihnen und höre aufmerksam rein und zu.

[Muutfürgut]

Mit dem Taschenrechner hat es begonnen.Inzwischen kann sich der Mensch garnicht vorstellen welch unverwechselbares wissen und können wir menschen(inzwischen schon Kleinkinder)durch die k.i. verwarlosen, einschlafen und letzt endlich berauben lassen .
Herzlichen Danke für Ihren Beitrag.

[peergoetz]

Herzlichen Dank für diesen ausgewogenen Beitrag und die sehr zutreffenden Gedanken.

[tore]

Sehr interessant. Vielen Dank für das kompetente Video.

[felixalexander]

Aus psychologischer Sicht möchte ich einen Punkt ergänzen, der etwas im Widerspruch zu einem Punkt Ihres Videos steht. Sie haben, nachdem Sie das Videospiel gezeigt haben, gesagt, dass es die KI einfach hatte hier, weil es ein fester Rahmen ist, indem sich das Spiel bewegt. Als Psychotherapeut im Ruhestand kann ich Ihnen sagen, dass menschliches Verhalten sich ebenso wiederholt. Sich ähnelt und Mustern und Formen folgt. Menschliches Verhalten lässt sich schon relativ gut vorhersagen. Die Gefahr bei KI sehe ich ganz woanders. Nämlich in der sozialen Interaktion. Fällt diese durch einen Chatbot immer mehr und mehr weg, entstehen psychische Erkrankungen.

[hanspeterbestandig]

Die Büchse der Pandora wurde von uns geöffnet und nun müssen wir mit den Konsequenzen leben.

[manfredsimonavicius]

Vielen Dank für das zweite Video zu diesem Thema! In meiner Schulzeit habe ich hervorragend Kopfrechnen gelernt und konnte diese Fähigkeit auch beruflich gut für mich nutzen. Irgendwann ist mir jedoch aufgefallen, dass ältere Kollegen oder Bekannte manchmal noch einen kleinen Tick besser rechnen konnten. Dabei hatten diese Kollegen alle eines gemeinsam: Sie hatten keinen Taschenrechner in der Schule.Natürlich leben wir heute weder schlechter noch besser dadurch – am Ende kommt es immer darauf an, was wir aus unserem Leben machen! Menschen, die selbstständig denken und reflektieren, werden damit keine Probleme haben. Eine - Ki - ist schließlich nur ein Werkzeug, wie ein Hammer. Aber diejenigen, die wenig mitdenken, werden durch solche Hilfsmittel auch nicht schlauer.

[eskosmos]

Tatsächlich schwächt die häufige Nutzung von Excel bzw Rechnungsprogramme die Kopfrechenfähigkeiten, wenn man das Kopfrechnen nicht mehr aktiv trainiert. Die Vorstellungskraft für Zahlengrössen schwindet.

[mbm]

Mich wundert zur Zeit eher, wieso mir diese Gedanken von Herr M.Z. gerade jetzt dargebracht werden. Den einen oder andern Verdacht, was die KI betrifft, hatte ich bereits nach wenigen spielerischen Versuchen mit diesen "intelligenten" Programmen, schön, dass Herr M.Z. ganz Ähnliches so präzise in Worte fasst.

[hanspeterbestandig]

Vielen lieben Dank für Ihren wichtigen und richtigen Beitrag! Nachdem ich Ihren ursprünglichen Beitrag gesehen habe, wusste ich schon genau, dass Sie hierfür arg gescholten werden. @1:40 Sie sagen, dass es Ihnen darum geht, den Aspekt zu beleuchten, wie WIR Menschen gedenken, mit dieser Technologie umzugehen. Ich bin mir sicher, dass Sie damit die, die Sie dafür kritisieren, pauschal „technologiefeindlich“ zu sein, nicht erreichen werden. Diese Menschen sind so sehr von den Möglichkeiten, die sie bietet berauscht, dass es nur hilft, wenn sie ihrem eigens verursachten Fluch ausgesetzt werden. Freilich wird es dann zu spät sein, noch effektiv gegenzusteuern, aber so ist das halt. Ich bin jetzt 57 und hoffe, dass ich noch ein paar Jahre habe, bis unsere Gesellschaft komplett degeneriert ist und sich alle sogar noch dafür feiern, nichts mehr wissen zu müssen/wollen weil es nur anstrengt... Ich befürchte aber, es wird deutlich schneller gehen, als es uns allen lieb ist. 😔

[panzamartin]

Unglaublich, das der erste Teil schon 2 Jahre alt ist !

[carolineklopfenstein]

Das Bestreben des menschlichen Geistes ist neues zu erschaffen. Das ganze ist also eine Weiterentwicklung die auf den Grundlagen des Vorherigen aufbaut, ohne die es nicht möglich wäre. Schlussendlich fragt es sich nur, wer die modernen Errungenschaften zu welchem Zweck nutzt. Das Bewusstsein darüber ist das wichtigste. Danke für das Video mit den differenzierten Gedanken.

[markusflak]

Eine gute, interessante Analyse.
Es ist immer von Vorteil die Angebote/Versuchungen aus dem Um-/Mitwelt zu hinterfragen um an die wahren Interessen/Absichten zu kommen.

Fortschritt gibt es üblicherweise in zwei Richtungen, das eine ist dann eher günstig und das andere eher ungünstig.

Zweifel und Beobachtung können im Grunde der Wahrheitsfindung und Wirklichkeitswahrnehmung nichts anhaben !

[carolinetriml]

sehr, sehr spannend, und gut aufbereitet. Herr Zehnder, können Sie in einem Beitrag darauf eingehen, worauf wir Menschen idealerweise alles achten sollen, um die AI so zu nutzen, dass wir möglichst selbstbestimmt und bewusst bleiben, damit sie uns ergänzt statt ersetzt bzw. damit ihre Hilfe uns erweitert statt limitiert/verdummt ? Das fände ich sehr, sehr wertvoll!! Danke vielmals

[rmbigfoot]

Sehr gute vor allem selbstkritische Zusammenfassung und Reaktion zur Kritik an der Kritik. Zu den Vergleichen mit früheren technischen Neuerung und deren Einflüssen auf die weitere Menschheit, möchte ich etwas im Bezug auf den Taschenrechner beisteuern. Ich bin in der DDR aufgewachsen und bin Abi-Jahrgang 1990. Ich kam erst in Klasse 10, mit dem Erscheinen und Schuleinführung des damaligen Schulrechners SR1 in den "Genuss" der Nutzung eines solchen Gerätes. Bis Dato wurde im Kopf, schriftlich oder mit dem #Rechenschieber gerechnet. Taschenrechner aus westlicher Produktion waren in der Schule strikt verboten. Da ich keine Verwandtschaft im "Westen" hatte, die mir so ein Ding hätten schenken können, war mir das aber egal. Immer wieder wird man heute von jüngeren aber auch gleichaltrigen (meistens aus den alten Bundesländern stammenden) Mitmenschen ungläubig angesehen, wenn man im Alltag auftauchende math. Dinge im Kopf durchrechnet oder je nach Umfang wenigstens grob überschlägt. Wenn man dann sagt, dass man ohne Taschenrechner rechnen gelernt hätte, bekommt man nur als Antwort "ja ja, früher war alles besser". Ich befürchte, dass wird bei der KI genauso sein, viele wollen Kritik an neuen Technologien nicht hören, vor allem dann, wenn eine Reduzierung der Bequemlichkeit zu befürchten ist.

[tosito]

Sehr guter Beitrag. Den Kritikern halten ich entgegen, dass es sich beim kostenlosen und unberechtigten Verwenden von fremden Inhalten nicht um technologischen Fortschritt sondern um Diebstahl handelt. Es geht hier also nicht um die Technologie sondern um den Anwendungszweck. Irgendwann lohnt sich mit diesem Geschäftsmodell die Erstellung von Inhalten für den Menschen nicht mehr. Das gleiche gilt für das KI Geschäftsmodell. Was machen diese KI-Modelle, wenn sie keine neuen, von Menschen erstellten Inhalte mehr verwenden können? Werden diese noch häufiger halluzinieren oder verwendet sie von KI generierte Inhalte? Falls die KI-Modelle überhaupt merken, dass es sich um KI generierte Inhalte handelt, was heute schon der Fall sein kann.

[Freakynights]

Wertvoll! Ich denke, dass es genau darum geht: Wir sehen wir die KI!