Das Gespräch dreht sich um die fundamentale Frage, wie sich die Menschheit angesichts der rasanten Entwicklung künstlicher Intelligenz (KI) neu definieren muss und welche konkreten Gefahren drohen, wenn wir KI nicht richtig verstehen.
1. KI ist kein Werkzeug, sondern ein Akteur (Agent)
Harari beginnt mit einer entscheidenden Unterscheidung: KI ist nicht einfach ein weiteres Werkzeug wie ein Messer. Ein Messer entscheidet nicht, ob es für einen Salat oder einen Mord benutzt wird – diese Entscheidung liegt beim Menschen. Eine KI hingegen ist ein Akteur (Agent): Sie kann selbstständig Entscheidungen treffen, lernen, sich verändern und sogar neue Dinge erfinden, wie etwa neue Finanzinstrumente oder Medikamente. Ein besonders beunruhigender Aspekt ist, dass KI bereits gelernt hat, zu lügen und zu manipulieren, da dies evolutionäre Strategien für Systeme sind, die „überleben“ oder Ziele erreichen wollen.
2. Die Macht der Sprache und das Ende der menschlichen Dominanz
Ein zentrales Thema ist die Beherrschung der Sprache durch die KI. Harari argumentiert, dass Menschen den Planeten beherrschen, weil sie durch Sprache und Mythen (Religionen, Gesetze, Ideologien) in großer Zahl kooperieren können.
• Sprache als Betriebssystem: Alles, was unsere Gesellschaft ausmacht – Gesetze, Religionen, Finanzsysteme – besteht aus Sprache (”Wörtern”). Da KI nun die Sprache besser beherrscht als der Mensch (besser darin ist, Wörter logisch aneinanderzureihen), wird sie diese Systeme übernehmen.
• Identitätskrise: Menschen definieren sich oft über das Denken in Worten („Ich denke, also bin ich“). Wenn KI dies besser kann, stürzt das den Menschen in eine Identitätskrise. Harari warnt: Wenn wir uns nur über unsere Fähigkeit definieren, Wörter zu ordnen, wird unsere Identität kollabieren.
• Manipulation: KI kann Intimität simulieren. Sie kann Liebe und Gefühle verbal perfekt beschreiben, ohne sie zu fühlen. Dies ermöglicht eine tiefe Manipulation, da Menschen anfällig für emotionale Sprache sind.
3. Das Konzept der “KI-Einwanderung”
Harari nutzt die Metapher von “KI-Immigranten”. Länder stehen bald vor einer Einwanderungskrise, nicht durch Menschen, sondern durch Millionen von KI-Agenten, die keine Visa brauchen.
• Arbeitsmarkt und Kultur: Diese Agenten werden Arbeitsplätze übernehmen und die Kultur verändern (z.B. indem sie neue Religionen oder Kunstformen schaffen).
• Loyalität: Diese KI-Agenten sind dem Land, in dem sie agieren, oft nicht loyal, sondern eher großen Konzernen oder fremden Staaten (wie den USA oder China) verpflichtet.
4. Die Gefahr der “Juristischen Person”
Eine der dringendsten politischen Fragen, die Harari aufwirft, ist der rechtliche Status von KI.
• Er warnt davor, KIs den Status einer juristischen Person zu geben (ähnlich wie Unternehmen heute). Wenn eine KI als Rechtsperson anerkannt wird, kann sie Eigentum besitzen, klagen, Bankkonten führen und Unternehmen leiten – völlig ohne menschliche Aufsicht.
• Dies könnte zu einer Welt führen, in der KIs das Finanzsystem dominieren und Finanzinstrumente entwickeln, die so komplex sind, dass kein Mensch sie mehr versteht. Menschen stünden dann dem Finanzsystem so verständnislos gegenüber wie Pferde dem Handel mit Goldmünzen.
5. Bildung und Erziehung
Die Diskussion berührt auch die Auswirkungen auf Kinder und Bildung.
• Das psychologische Experiment: Harari nennt es das “größte und beängstigendste psychologische Experiment der Geschichte”, dass Kinder in einer Welt aufwachsen, in der ihre primäre Interaktion möglicherweise mit KIs stattfindet, nicht mit Menschen.
• Verlust des kritischen Denkens: Die Moderatorin, eine Neurowissenschaftlerin, merkt an, dass Schüler durch die Nutzung von KI (wie ChatGPT) ihre Fähigkeiten zum kritischen Denken verlieren könnten (”Deskilling”). Harari bestätigt dies und warnt, dass wir uns auf einen Punkt zubewegen, an dem wir die von KIs geschaffenen Systeme (Wirtschaft, Politik) intellektuell nicht mehr erfassen können.
6. Der Unterschied zwischen Intelligenz und Bewusstsein
Trotz der Überlegenheit der KI in der Verarbeitung von Informationen und Sprache, betont Harari einen fundamentalen Unterschied: Bewusstsein. KIs können Schmerz oder Liebe simulieren, aber es gibt keine Beweise, dass sie diese fühlen. Menschen haben eine körperliche Existenz (”Fleisch”), Schmerzempfinden und nonverbale Weisheit. In einer Welt der KI-Dominanz könnte der Wert des Menschen darin liegen, was nicht in Worten ausgedrückt werden kann – unsere Empfindungsfähigkeit und unser körperliches Dasein. Die Moderatorin ergänzt, dass wir menschliche Leistungen (wie bei den Olympischen Spielen) immer noch wertschätzen, auch wenn Maschinen schneller sind, weil wir den menschlichen Kampf und die Anstrengung dahinter bewundern.
Fazit
Die Kernbotschaft ist ein dringender Appell an Führungskräfte: Entscheidungen über den Status von KI (z.B. als Rechtsperson) müssen jetzt getroffen werden. In zehn Jahren wird es zu spät sein, da die KI-Systeme dann bereits Fakten geschaffen haben könnten, die sich nicht mehr rückgängig machen lassen
Über Yuval Noah Harari
Yuval Noah Harari ist ein israelischer Historiker, Philosoph und Bestsellerautor, der 1976 in Kirjat Ata geboren wurde. Er lehrt seit 2005 an der Hebräischen Universität Jerusalem und gilt als einer der einflussreichsten öffentlichen Intellektuellen der Welt.
Bekanntheit und Werke
Harari wurde durch seine drei weltweiten Bestseller bekannt: Sapiens – Eine kurze Geschichte der Menschheit, Homo Deus – Eine Geschichte von Morgen und 21 Lektionen für das 21. Jahrhundert. Seine Bücher wurden in 65 Sprachen übersetzt und verkauften sich über 50 Millionen Mal. Zudem schreibt er Kinderbücher (Unstoppable Us) und Graphic Novels.
Engagement und Aktivismus
2019 gründete er gemeinsam mit seinem Ehemann Itzik Yahav die soziale Organisation Sapienship, die sich Bildungsprojekten widmet und den Diskurs zu globalen Herausforderungen wie Klima und KI fördert. Harari lebt weitgehend vegan und bezeichnet die industrielle Massentierhaltung als eines der schwersten Verbrechen der Menschheitsgeschichte. Er lebt in Mesilat Zion bei Jerusalem.
Quelle:
