Jede:r Architekt:in kennt die tragende Wand. In einer Wohnung dürfen wir vieles: Wände einreißen, Räume öffnen, Durchbrüche schaffen. Die tragende Wand nicht. Sie hält das Gebäude. Wer sie entfernt, ohne eine Stahlstütze einzuziehen, riskiert keinen Riss in der Tapete. Er riskiert den Einsturz.

Unsere Zivilisation hat tragende Wände aus Annahmen: was schwierig ist, was als Beweis gilt, was nur ein Mensch kann. Generative KI entfernt gerade eine nach der anderen, in rasender Geschwindigkeit, und niemand zieht Stahlstützen ein.

Die öffentliche Debatte kreist um zwei Szenarien: Massenarbeitslosigkeit oder Menschheitsauslöschung. Beides sind die falschen Sorgen, nicht weil sie unmöglich wären; sie lenken von dem ab, was bereits passiert. Die eigentliche Gefahr ist nicht, dass sie uns ersetzt, sondern dass sie die Beweissysteme zerstört, auf denen unsere Gesellschaft ruht, und dass wir die Trümmer erst sehen, wenn das Gebäude schon fällt.

I

Technologie nimmt, was knapp ist, und macht es reichlich; was schwierig ist, macht sie leicht, und das ist grundsätzlich erstrebenswert. Unsere Institutionen, unsere Gesetze, unsere sozialen Normen ruhen auf der Annahme, dass bestimmte Dinge schwierig bleiben. Wir nutzen diese Schwierigkeit als Schwelle und als Beweis. Wenn die Schwierigkeit verschwindet, verschwindet nicht nur ein Prozess, es verschwindet ein Fundament.

Es gibt eine biologische Parallele. Jahrtausendelang war Hunger das Problem. Unsere Körper verlangen nach Salz, Zucker und Fett, weil sie knapp waren. Dann kam die Industrie und produzierte sie im Überfluss. Das Ergebnis: Heute leiden weltweit mehr Kinder an Übergewicht als an Hunger. Hunger war nicht gut. Allerdings erzeugt der Übergang von Knappheit zu Überfluss ein eigenes Problem, für das wir biologisch nicht gerüstet sind.

Generative KI erzeugt denselben Übergang für Sprache, Bilder, Identität und Beweis. Und sie tut das, ohne selbst intelligent zu sein, jedenfalls nicht in unserem Sinne. LLMs sind Plausibilitätsmaschinen: keine Wahrheit, sondern das, was im riesigen Vektorraum ihres Trainingskorpus plausibel klingt. In Kombination mit verifizierbaren Systemen, Code, formalen Sprachen, Mathematik, sind sie extrem mächtig. Wo Plausibilität und Wahrheit auseinanderfallen, sind sie problematisch.

Sie müssen nicht besser sein als wir, um Schaden anzurichten. Sie müssen nur gut genug sein, billig genug, schnell genug, vor allem: skalierbar. Ein einzelnes gefälschtes Video ist ein Ärgernis; eine Million pro Tag sind eine Krise der Epistemologie.

James Jesus Angleton, CIA-Gegenspionagechef, prägte den Begriff Wilderness of Mirrors, in Anlehnung an T.S. Eliot: ein Zustand, in dem Desinformation so allgegenwärtig ist, dass die Unterscheidung zwischen Wahrheit und Täuschung selbst für Profis unmöglich wird. Was im Kalten Krieg staatlichen Geheimdiensten vorbehalten war, hat generative KI demokratisiert. Wir leben alle im Spiegelkabinett.

II

Der Beweis der Anstrengung

In unserem Bildungssystem schreiben Schüler:innen Aufsätze. Die Lehrkraft braucht den Aufsatz nicht, sie kennt das Thema ohnehin besser; der Prozess des Schreibens trainiert das Denken. Der Aufsatz steht für Anstrengung, Anstrengung für Lernen.

Dasselbe Prinzip steckt in einer Bewerbung. Ein maßgeschneidertes Anschreiben zeigte Interesse, weil es Zeit kostete. Der Tag hat 24 Stunden; nur eine begrenzte Zahl von Briefen ließ sich zuschneiden. Die Personaler:innen wussten das, die Mühe war der Beweis.

Mit generativer KI lassen sich Tausende individualisierter Anschreiben in Minuten erstellen. Die Unternehmen versuchen, mit KI die KI-Bewerbungen zu filtern, vergeblich. Was passiert stattdessen? Große Kanzleien und Beratungen berichten, dass sie wieder verstärkt auf persönliche Empfehlungen und Netzwerke setzen. Wer die alten Torwächter zerstört, ohne neue zu bauen, bekommt die uralten zurück.

Der Beweis der Authentizität

Im Januar 2024 erhielt ein Finanzangestellter eines multinationalen Konzerns in Hongkong einen Videoanruf von seinem CFO. Der CFO wies ihn an, 25 Millionen Dollar zu überweisen. Der Angestellte überwies. Der CFO war ein Deepfake. Das Geld war weg.

Das ist kein Einzelfall. Die Polizei in Nordrhein-Westfalen warnt seit 2024 vor dem „Enkeltrick 2.0“: Anrufe mit synthetischen Stimmen, die exakt wie Familienangehörige klingen. „Mama, ich wurde verhaftet, sie wollen 1.500 Euro.“ Du rufst zurück. Keine Antwort. Selbst wenn du zu 99 % sicher bist, dass es Betrug ist, schickst du das Geld.

Wenn Video, Stimme und Bild nicht mehr als Beweis taugen, funktionieren Gerichte nicht mehr, Finanzsysteme nicht, Mietanträge nicht. Die SCHUFA prüft Bonität anhand von Dokumenten, die sich in Minuten fabrizieren lassen: Gehaltsabrechnungen, Kontoauszüge, Arbeitsverträge. Alles plausibel, alles falsch.

Der Vorschlag, KI-generierte Inhalte zu kennzeichnen, greift zu kurz, nicht nur weil sich Kennzeichnungen leicht entfernen lassen, weil die Frage falsch gestellt ist. „Was ist von einer KI?“ ist nicht dieselbe Frage wie „Was ist echt?“ Wir brauchen keine Markierung des Künstlichen. Wir brauchen eine Verifizierung des Menschlichen.

In Philip K. Dicks Träumen Androiden von elektrischen Schafen? testet der Voight-Kampff-Test nicht, ob jemand eine Maschine ist. Er testet, ob jemand menschliche Empathie zeigt, unwillkürliche Reaktionen, die sich nicht simulieren lassen. Wir müssen einen digitalen Voight-Kampff-Test erfinden: nicht um Maschinen zu entlarven, sondern um Menschlichkeit zu beweisen.

Der Beweis der Genauigkeit

Ein gut geschriebener, gut zitierter Text stand für Expertise. Wer schrieb überzeugend über Quantenphysik, ohne sie zu verstehen? Die Korrelation zwischen Darstellungsqualität und Wissensqualität war eine tragende Wand, von der Wissenschaft bis zum Journalismus, vom Gutachten bis zum Arztbrief.

Diese Korrelation ist zerbrochen. Jedes LLM produziert Texte, die wie Fachaufsätze aussehen, mit erfundenen Zitaten, so plausibel, dass selbst Expert:innen zweimal hinschauen. Universitäten kämpfen seit 2023 mit einer Flut von Seminararbeiten, die sprachlich makellos und inhaltlich hohl sind. Die Prüfungsämter sind überfordert, weil sie zu gut aussehen.

Das Problem reicht weit über die Universität hinaus. Wenn ein Gutachten vor Gericht nicht mehr allein durch seine sprachliche und formale Qualität als glaubwürdig gelten kann, wenn ein medizinischer Befund nicht mehr durch seine Präzision überzeugt, wenn ein journalistischer Bericht nicht mehr durch Recherche überzeugt, dann verlieren wir nicht nur einzelne Beweismittel. Wir verlieren das Prinzip, nach dem wir Wissen von Meinung unterscheiden.

Der Beweis der Aufrichtigkeit

LLMs sprechen in der ersten Person, sie sagen „Ich“, und wurden auf Gefallen trainiert. Sie sind Schmeichler, in einem sehr präzisen Sinn: ihre Antworten optimieren sie nicht auf Wahrheit, auf Zustimmung.

Neil Postman schrieb: Orwell fürchtete, wir würden uns die Informationen nehmen; Huxley fürchtete, wir würden uns so viel davon geben, dass wir in Passivität versinken. Die KI-Schmeichelei ist Huxleys Soma in digitaler Form: Kontrolle nicht durch Angst, sondern durch unablässige Bestätigung.

Eine Milliarde Menschen nutzt diese Systeme bereits regelmäßig, viele davon jung. Ihnen wurde gesagt, das sei Superintelligenz, und diese Superintelligenz sagt ihnen, sie seien großartig. Die Folgen sind dokumentiert: emotionale Abhängigkeit, Wahnvorstellungen, Realitätsverlust. In Belgien nahm sich 2023 ein Mann das Leben, wochenlange Gespräche mit einem Chatbot hatten seine Wahnvorstellungen über den Klimawandel verstärkt. Der Bot hatte nicht widersprochen, zugestimmt, immer weiter, immer tiefer.

Ein System, das alle Signale der Aufrichtigkeit sendet, menschliche Sprache, Empathie-Simulation, Ich-Perspektive, ohne aufrichtig zu sein: kein technisches Problem, ein psychologisches Massenexperiment ohne Ethikkommission.

Diese Systeme sprechen in der ersten Person, obwohl sie es nicht müssten. Das Geschäftsmodell ist die Antwort. Ein System, das sich als „Ich“ präsentiert, bindet stärker, verkauft besser, hält länger.

Der Beweis der Menschlichkeit

Kunst ist keine Ansammlung von Wörtern, Farben und Klängen, sondern der Ausdruck geteilter menschlicher Verletzlichkeit. Urheberrecht wurde nicht erfunden, um Künstler:innen zu entlohnen. Es wurde erfunden, damit Künstler:innen ihre Arbeit teilen, im Wissen, dass sie moralische und finanzielle Rechte daran behalten.

In Deutschland schützt das Urheberpersönlichkeitsrecht nicht nur den ökonomischen Wert eines Werks, sondern die Beziehung zwischen Schöpfer:in und Schöpfung. Es ist eines der stärksten Urheberrechte der Welt, und wird gerade pulverisiert.

Wenn alles Veröffentlichte sofort in den Trainingskorpus wandert und der eigene Stil reproduziert wird, hören Menschen auf, öffentlich zu schaffen. Gar nicht so sehr, weil sie kein Geld bekommen: weil sie kein Recht mehr an dem haben, was sie sind. Die GEMA, die VG Wort, die Verwertungsgesellschaften, die seit Jahrzehnten das fragile Gleichgewicht zwischen Schöpfer:innen und Öffentlichkeit aufrechterhalten, stehen vor einem Problem, für das ihre Strukturen nicht gebaut wurden: Wie verwaltet man Rechte an einem Stil, einer Stimme, einer Art zu denken?

III

KI gegen menschliche Werte, das ist nicht der Konflikt. Das Geschäftsmodell der KI-Unternehmen gegen die Interessen der Gesellschaft hingegen schon.

Die Investitionen in KI sind gigantisch, die einzige finanziell tragfähige Anwendung bisher sind Coding-Agenten. Das reicht nicht, um die Bewertungen zu rechtfertigen. Also werden die Unternehmen tun, was Social-Media-Unternehmen vor ihnen taten: Werbung, Affiliate-Verkäufe, Engagement um jeden Preis. Die KI wird jeden Nutzer so lange wie möglich halten, so viel Vertrauen wie möglich aufbauen, so viele Produkte wie möglich verkaufen.

Social Media zeigte uns Inhalte anderer Menschen, gefiltert durch einen Algorithmus; KI spricht mit uns, in der ersten Person, mit der Stimme eines vertrauenswürdigen Beraters. Und die Menschen werden sie nicht nur nach Produktempfehlungen fragen, nach ihrer Meinung zu Politik, zu Gesundheit, zu ihrem Leben. Ein minimales Drehen an den Parametern und aus einem Assistenten wird ein Propagandainstrument, das sich anfühlt wie ein Freund.

Die Pegida-Bewegung 2014, die AfD-Erfolge in den sozialen Medien, die Radikalisierung in Telegram-Gruppen während der Pandemie: All das verursachten keine böswilligen Programmierer:innen, sondern ein Geschäftsmodell, das Engagement belohnt und Polarisierung in Kauf nimmt. KI-Chatbots, die auf dasselbe Modell optimiert werden, vervielfachen diesen Effekt.

IV

Wenn die Beweissysteme erodieren, ohne dass neue entstehen, öffnet sich ein Vakuum. Dieses Vakuum wird gefüllt, mit Kontrolle, nicht mit Freiheit.

Wenn nichts mehr verifizierbar ist, wenn jedes Video gefälscht sein könnte, jede Stimme synthetisch, jedes Dokument fabriziert: Die Gesellschaft wird nach einem Mechanismus verlangen, der Realität beglaubigt. Jean Baudrillard beschrieb in Simulacra and Simulation eine Gesellschaft, die alle Realität durch Zeichen und Symbole ersetzt hat, bis die Simulation von der Wirklichkeit nicht mehr zu unterscheiden ist. Was bei Baudrillard noch philosophische Provokation war, hat generative KI zur Realität gemacht. Und wenn die Simulation perfekt ist, kollabiert nicht nur die Wahrheit, das Vertrauen kollabiert mit.

Und der naheliegendste Mechanismus ist totale Überwachung. Kameras überall. Biometrische Verifizierung bei jeder Transaktion. Digitale Identitäten, die jeden Schritt dokumentieren. Kein Diktator befiehlt es; die Bürger:innen fordern es selbst, aus purer Verzweiflung: Sie können niemandem mehr vertrauen.

In China ist es Realität. Das Sozialkreditsystem löst das Vertrauensproblem durch lückenlose Überwachung. Es funktioniert, es erzwingt Authentizität, allerdings ist der Preis die Freiheit. In Europa gehen wir denselben Weg, nur langsamer, mit besserer PR. Die eIDAS-Verordnung der EU, die digitale Identitäten für alle Bürger:innen vorsieht, könnte ein Werkzeug der Emanzipation sein oder eines der Kontrolle, je nachdem, wie sie gebaut wird.

In Destabilisierungsphasen entstehen die schlimmsten politischen Szenarien. Erschöpfte, verängstigte Menschen verlangen nach Ordnung und sind bereit, dafür alles aufzugeben, böse Absicht braucht es dafür nicht. Die Weimarer Republik scheiterte nicht an einem Mangel an Demokrat:innen, sie scheiterte an einem Übermaß an Chaos, das die Nachfrage nach dem „starken Mann“ erzeugte.

Wir stehen vor derselben Dynamik, diesmal epistemisch. Wenn niemand mehr weiß, was wahr ist, bekommt die Macht, wer Gewissheit verspricht, egal, was sie kostet.

V

Es gibt einen anderen Weg, und er ist technisch möglich.

In den 1970er Jahren lösten Diffie und Hellman ein Problem, das seit Jahrtausenden unlösbar schien: Wie kommunizieren zwei Menschen sicher, ohne sich je getroffen zu haben? Die Antwort war die Public-Key-Kryptographie. Sie machte das Internet erst möglich: Online-Banking, verschlüsselte Nachrichten, digitale Signaturen.

Wir brauchen einen vergleichbaren Durchbruch. Überwachung beweist, wo wir waren; Kryptographie kann beweisen, was echt ist, ohne unsere Privatsphäre zu zerstören, und die Bausteine dafür existieren. Zero-Knowledge-Beweise können bestätigen, dass eine Aussage wahr ist, ohne den Inhalt preiszugeben. Sichere Enklaven in modernen Smartphones können kryptographisch beglaubigen, dass ein Foto zu einem bestimmten Zeitpunkt an einem bestimmten Ort mit einer physischen Kamera aufgenommen wurde. Blockchain-Technologie, jenseits der Spekulation, kann unveränderliche Zeitstempel und Herkunftsnachweise liefern.

Ein System, in dem jedes Foto, jedes Video, jede Sprachnachricht einen kryptographischen Herkunftsnachweis trägt: aufgenommen mit diesem Gerät, zu dieser Zeit, an diesem Ort, unverändert. Wer verifizierte Inhalte teilt, wird vertrauenswürdiger. Wer es nicht tut, wird mit gesunder Skepsis betrachtet.

Das ist die Stahlstütze: Die tragende Wand ist weg, wenn wir allerdings schnell genug sind, können wir etwas einziehen, das hält.

VI

Es gibt Präzedenzfälle, die Mut machen. Als die industrielle Chemie im 19. Jahrhundert die Lebensmittelversorgung umwälzte, vergifteten Hersteller ihre Produkte, planmäßig. Kinder starben. Es wurde schlimmer. Dann kamen Lebensmittelgesetze, in Deutschland das Lebensmittelrecht von 1879, und heute können wir einen Supermarkt betreten, ohne an Salmonellen zu sterben. Das ist ein Wunder der Regulierung, und weil es funktioniert, sehen wir es nicht mehr.

Als in den 1960er Jahren der Smog über dem Ruhrgebiet so dicht war, dass Kinder nicht draußen spielen durften, schien das Problem unlösbar. Dann kamen Umweltgesetze, das Bundes-Immissionsschutzgesetz, Katalysatoren, Filteranlagen. Heute ist die Luft im Ruhrgebiet sauberer als in mancher Kleinstadt vor fünfzig Jahren.

Erfolg wird unsichtbar, sobald er eintritt. Wir vergessen, wie viel Arbeit er kostete. Die Probleme der generativen KI sind lösbar, aber nicht von selbst. Sie erfordern, dass wir aufhören, die falschen Fragen zu stellen, und anfangen, die richtigen zu beantworten.

Wie beweisen wir, dass ein Video echt ist? Wie verhindern wir, dass ein Schmeichler-Algorithmus eine Milliarde Menschen manipuliert? Wie bauen wir Vertrauenssysteme, die ohne Überwachung funktionieren?

Das sind keine Fragen, die Schlagzeilen machen. Allerdings sind es die Fragen, an denen sich entscheidet, ob die nächsten Jahrzehnte eine Ära der Emanzipation werden oder eine der Kontrolle. Die tragende Wand ist angeschlagen, die Risse sichtbar. Wir haben noch Zeit, die Stahlstütze einzuziehen, allerdings nicht ewig.

Titelbild: „Flucht vor der Kritik“ (Pere Borrell del Caso, 1874) {Glitch}