Yuval Noah Harari

Prof. Markus Gabriel: Keiner spricht über DIESES Potential in KI

Was passiert, wenn KI uns besser versteht als wir uns selbst?
In dieser Folge des Human Elevation Podcasts spricht Markus Gabriel über künstliche Intelligenz, Wahrheit, Bewusstsein, Moral und darüber, warum der Westen KI völlig falsch versteht. Die vielleicht wichtigste Frage des 21. Jahrhunderts: Gibt es im Menschen etwas, das tiefer reicht als jede Maschine?
Markus meint: Wir denken komplett falsch über KI…
Eine Folge über AGI, digitale Spiegelwelten, die Zukunft Europas, philosophische Dimensionen von KI und warum diese Technologie unser Verständnis von Realität, Seele und Menschsein radikal verändern könnte.
Ein tiefes Gespräch über KI, Technologie, Bewusstsein, Gesellschaft, Spiritualität und die Zukunft der Menschheit.

Die Jugend als Gatekeeper des kulturellen Codes – und als Dämpfungsglied gegen den Rückkopplungs-Pfeifton

Ausgangslage: KI übernimmt den Betriebscode der Zivilisation

Harari unterscheidet Werkzeug von Akteur: Ein Akteur entscheidet selbst, lernt selbst, erfindet Neues – auf eine Weise, die seine Schöpfer nicht vorhersehen. Seine zentrale These: Menschliche Zivilisation beruht auf Kooperation in großem Maßstab, Kooperation beruht auf Vertrauen, Vertrauen wird durch Bürokratien erzeugt – Recht, Geld, Religion, Verwaltung –, und diese Bürokratien bestehen letztlich nur aus Worten. Genau dort, wo Sprache Vertrauen erzeugt, wird KI zum Mitautor des kulturellen Codes.

Gabriel setzt von innen an: KI kennt uns – aus Such-, Konsum- und Kommunikationsverhalten abgeleitet – inzwischen genauer, als jeder Psychotherapeut, Seelsorger oder Sozialwissenschaftler es könnte. Seine Frage: Gibt es im Menschen etwas, das tiefer reicht als jede Maschine – etwas jenseits der Muster? Harari endet an fast derselben Stelle: Die alte Spannung zwischen „Wort“ und „Fleisch“ wird nun zur Spannung zwischen Mensch und Maschine externalisiert.

Die neue Ebene: Was passiert, wenn sich Spiegel endlos spiegeln

Hier lässt sich ein drittes Element einfügen, das die Dringlichkeit noch schärfer macht, als Harari und Gabriel es je einzeln formulieren.

Konrad Lorenz’ Bild von der „Rückseite des Spiegels“ besagt: Unser Bewusstsein bildet Wirklichkeit nie neutral ab. Es ist selbst schon ein Spiegel – geformt durch Evolution, Biografie, Sprache, Kultur. Was wir für „objektive Wahrnehmung“ halten, ist bereits eine Verarbeitung, keine reine Abbildung.

Nun kommt mit KI ein zweiter Spiegel hinzu – einer, der aus genau jenen menschlichen Daten, Worten und Verhaltensmustern besteht, die der erste Spiegel (unser Bewusstsein) erzeugt hat. KI spiegelt also nicht die Wirklichkeit, sondern spiegelt einen Spiegel: unsere bereits kulturell und biologisch vorgeformte Selbst- und Weltwahrnehmung.

Und genau hier hilft die akustische Analogie, die den Kern des Problems trifft: Wenn ein Mikrofon (Empfänger) das Signal eines Lautsprechers (Sender) erneut aufnimmt und dieser es wieder verstärkt aussendet, entsteht keine neue Information mehr – nur noch Verstärkung des immer selben Signals in einer geschlossenen Schleife. Das Ergebnis ist der Rückkopplungs-Pfeifton: ein sich aufschaukelndes, informationsloses Kreischen, das so lange anschwillt, bis ein System zusammenbricht oder jemand von außen eingreift – Abstand schafft, dämpft, das Mikrofon wegdreht.

Genau diesen Mechanismus beschreibt Harari bereits, ohne ihn so zu benennen: Social-Media-Algorithmen lernten, dass sich Aufmerksamkeit am zuverlässigsten binden lässt, indem man Angst, Wut und Gier verstärkt an die Nutzer zurückspielt – und diese reagieren wiederum verstärkt, was der Algorithmus erneut aufnimmt und weiter zuspitzt. Das ist kein Dialog zwischen zwei Wirklichkeiten, sondern ein Spiegel, der einen Spiegel spiegelt: Bewusstsein (bereits vorgeformt) trifft auf ein KI-System (aus eben diesen Vorformungen trainiert), und was zurückkommt, ist keine neue Erkenntnis, sondern eine sich selbst verstärkende Resonanz. Der gesellschaftliche Pfeifton dieser Rückkopplung heißt Polarisierung, Verschwörungsdenken, algorithmisch zugespitzte Empörung – Phänomene, die Harari ausdrücklich benennt, ohne die Metapher zu bemühen, die sie am präzisesten beschreibt.

Gabriels Frage nach dem „Tieferen als jede Maschine“ lässt sich von hier aus neu lesen: Es geht nicht nur darum, ob der Mensch etwas hat, das die Maschine nicht hat, sondern darum, ob es in diesem geschlossenen Spiegelkreislauf überhaupt noch einen Punkt gibt, der nicht selbst Teil der Rückkopplung ist – einen Ort, von dem aus die Schleife unterbrochen, gedämpft, geerdet werden kann.

Warum diese Erdung ausgerechnet in der Jugend liegt

Ein Rückkopplungssystem lässt sich nicht von innen heraus stabilisieren – es braucht ein Element, das nicht nur reflektiert, sondern selbst noch im Werden ist und dadurch Widerstand statt bloßer Spiegelung erzeugt. Genau das beschreibt „Kairos kontra Krise“ für die Pubertät: ein biologisches Zeitfenster, in dem sich der eigene Wahrnehmungs-Spiegel (Lorenz) noch aktiv umformt – Pruning, Myelinisierung, Ablösung alter Plausibilitäten, Suche nach neuen Bindungen. Jugendliche sind, entwicklungslogisch, die einzige Kohorte, deren „Rückseite des Spiegels“ nicht bereits stabil verfestigt ist, sondern gerade bearbeitet wird.

Das macht sie doppelt bedeutsam:

• Als Risikozone: Ein noch im Werden befindlicher Spiegel ist am empfänglichsten für die Rückkopplungsschleife. Wenn das prägendste Zeitfenster eines Menschen mit KI-Freunden, KI-Feeds und algorithmisch verstärkten Mustern verbracht wird – wie Harari es für die heute geborene Generation beschreibt –, formt sich der Spiegel nicht an gelebter, eigenständiger Erfahrung, sondern am Echo der eigenen, bereits ausgewerteten Daten. Der Pfeifton wird zur Persönlichkeitsstruktur, bevor sie überhaupt gefestigt ist.
• Als Dämpfungsglied: Genau dieselbe Offenheit macht Jugendliche zur einzigen Instanz, die die Rückkopplung bewusst bearbeiten kann, statt sie nur zu erleiden – wenn man ihr einen Ort gibt, an dem diese Bearbeitung real, verbindlich und wiederkehrend stattfindet, statt algorithmisch optimiert zu werden.

PSI‑21 als institutionelle Dämpfung

Technisch wird eine Rückkopplungsschleife nicht durch mehr Lautstärke, sondern durch einen dritten Faktor unterbrochen: Abstand, Dämpfung, ein Element außerhalb der geschlossenen Schleife von Sender und Empfänger. PSI‑21 übernimmt genau diese Funktion für den kulturellen Code:

• Reale Alterität statt Spiegel-im-Spiegel: PSI‑21 stellt Jugendliche nicht optimierten Feeds gegenüber, sondern echten, andersartigen Gegenübern – Politik, Verwaltung, andere Kohorten –, die tatsächlich antworten müssen. Das erzeugt Widerstand, nicht Resonanzverstärkung.
• Verbindliche Rückmeldung statt Verstärkungsschleife: Wo ein Algorithmus verstärkt, was Aufmerksamkeit bindet, verpflichtet PSI‑21 zur Prüfung und Begründung – ein Verfahren, das Information hinzufügt, statt sie nur zu spiegeln.
• Dialog-Modus als bewusste Spiegelarbeit: Im Sinne von Lorenz’ Einsicht – dass Wahrnehmung immer schon geformt ist – schafft PSI‑21 Räume, in denen genau diese Vorformung reflektiert, verglichen und korrigiert werden kann (Kap. 2, „Wackelbilder“), statt sie unbemerkt algorithmisch zu verstärken.

Konsequenz

Wenn Zivilisation, wie Harari sagt, zu einer hybriden Mensch-KI-Angelegenheit wird, dann besteht die eigentliche Gefahr nicht allein darin, dass KI den Code übernimmt, sondern darin, dass Mensch und Maschine sich gegenseitig in einer geschlossenen Schleife verstärken, ohne dass neue Wirklichkeit hinzukommt – der kulturelle Pfeifton einer Gesellschaft, die sich selbst nur noch echot. Gabriels „Tieferes als jede Maschine“ ist dann kein mystischer Restbestand, sondern schlicht: der Punkt außerhalb der Schleife, von dem aus gedämpft werden kann.

Die Jugend besitzt diesen Punkt biologisch – als einzige Kohorte, deren Spiegel noch aktiv geformt wird, statt nur zu reflektieren. Was fehlt, ist die Institution, die ihr erlaubt, diese Position tatsächlich einzunehmen, statt sie der ersten verfügbaren Rückkopplungsschleife zu überlassen. PSI‑21 ist der Versuch, genau das zu leisten: nicht nur der Jugend eine Schlüsselposition als Gatekeeperin des kulturellen Codes zu übertragen, sondern sie strukturell dorthin zu stellen, wo jedes rückkopplungsfähige System sein Dämpfungsglied braucht – bevor der Ton kippt.

Liya Yu: Neuropolitik – Neue Wege aus Populismus und Polarisierung (Langversion)

Ein neuer Gesellschaftsvertrag für unsere gespaltenen Demokratien. Vortrag im Rahmen der Tage der Utopie 2025.

Agenda 21 für demokratische Kulturbildung

https://psi-21.info/wp-content/uploads/2026/07/agenda_21_fuer_demokratische_kulturbildung-1.pdf