# Deepfakes, Cyberkrieg und die Erosion der Realität
Die stille Gefahr der künstlichen Intelligenz liegt nicht in ihrer Sichtbarkeit, sondern in ihrer Unsichtbarkeit. Wo die Dampfmaschine lärmte und die Elektrizität flackerte, arbeitet der Algorithmus geräuschlos, und gerade deshalb verändert er die Bedingungen der Wahrnehmung tiefer, als frühere Technologien es vermochten. In meinem Buch ALGORITHMUS habe ich die strukturellen Machtmechanismen des KI-Zeitalters beschrieben. Dieser Essay greift einen Strang heraus, der in Teil IV des Bandes verhandelt wird: die Frage, wie Deepfakes, synthetische Medien und die Ökonomie der digitalen Manipulation die Voraussetzung aller demokratischen, wirtschaftlichen und juristischen Ordnung zersetzen, nämlich die Unterscheidbarkeit von Wahrheit und Fälschung.
## Die unsichtbare Manipulation und das Erbe von Cambridge Analytica
Der Skandal um Cambridge Analytica, 2018 öffentlich geworden, war kein Betriebsunfall der Plattformökonomie, sondern ihre logische Konsequenz. Psychographische Profile von siebenundachtzig Millionen Facebook-Nutzern wurden ohne deren Wissen in politisches Micro-Targeting überführt. Die Methode war präzise: aus Verhaltensspuren auf Persönlichkeitsdimensionen, aus Persönlichkeitsdimensionen auf emotionale Verwundbarkeit, aus Verwundbarkeit auf maßgeschneiderte Botschaften schließen, die genau jene Reaktion auslösen, die eine bestimmte Wahlentscheidung begünstigt. Ob diese Methoden den Ausgang des Brexit-Referendums oder der amerikanischen Präsidentschaftswahl 2016 entschieden, bleibt umstritten. Dass sie eingesetzt wurden, ist dokumentiert, und dass sie seither verfeinert worden sind, ist offenkundig.
Die philosophisch interessante Eigenschaft dieser Form der Manipulation liegt darin, dass sie sich ihrer Sichtbarkeit entzieht. Wer klassische Propaganda wahrnimmt, kann sie ablehnen. Wer algorithmisch optimierte, individuell zugeschnittene Botschaften empfängt, erlebt sie als organische Resonanz der eigenen Überzeugungen. Diese Asymmetrie zwischen Präzision der Einflussnahme und Blindheit gegenüber der Einflussnahme ist, wie ich in ALGORITHMUS ausführe, die eigentliche demokratietheoretische Provokation der Gegenwart. Sie ist nicht laut, sie ist nicht grob, und sie hinterlässt keine Spuren, die ein durchschnittlicher Bürger identifizieren könnte.
## Synthetische Medien und die Erosion der Beweisbarkeit
Deepfakes sind in der öffentlichen Wahrnehmung oft auf ihre spektakulären Ausformungen reduziert worden: der gefälschte Prominentenauftritt, die manipulierte Rede eines Regierungschefs, das obszöne Bild einer Person, die es nie aufgenommen hat. Diese Fälle sind relevant, aber sie verdecken das strukturell Bedeutsamere. Synthetische Medien erodieren nicht in erster Linie dadurch, dass sie Falsches als Wahres verkaufen. Sie erodieren die Möglichkeit, Wahres noch als wahr zu erweisen. Wer beschuldigt wird, und dessen Beweis in einer Videoaufnahme besteht, kann diese Aufnahme heute mit plausiblem Zweifel als Fälschung deklarieren. Der Jurist nennt das die Umkehrung der Beweislast durch technologische Verdachtsverschiebung.
Die Konsequenzen reichen weiter, als die aktuelle Debatte zugesteht. Gerichtsverfahren, in denen audiovisuelle Aufzeichnungen eine zentrale Rolle spielen, werden in den nächsten Jahren eine epistemische Belastungsprobe durchlaufen, auf die weder die Prozessordnungen noch die forensischen Verfahren der meisten Rechtsordnungen vorbereitet sind. Journalistische Recherchen, die auf Video- oder Tonmaterial beruhen, müssen künftig mitliefern, was sie bisher voraussetzen durften: den Nachweis, dass die Aufnahme keine synthetische Konstruktion ist. Und Unternehmen, die auf Basis von Kommunikationsmitschnitten arbeiten, von der Compliance bis zur internen Ermittlung, verlieren eine Evidenzqualität, auf deren Stabilität ihre Prozesse bisher gebaut waren.
## Cyberkrieg, Desinformation und die neue Grammatik des Konflikts
Der Begriff Cyberkrieg wird in der öffentlichen Diskussion oft auf Angriffe gegen kritische Infrastruktur verkürzt: Stromnetze, Wasserversorgung, Krankenhäuser, Finanzsysteme. Diese Dimension ist real und wird in Teil VI meines Buches im Kontext der europäischen KRITIS-Regulierung behandelt. Aber die weichere, kognitive Dimension des Konflikts ist mindestens so folgenreich. Staatliche und halbstaatliche Akteure betreiben inzwischen permanente Desinformationsoperationen, in denen generative Modelle synthetische Personen, synthetische Beiträge und synthetische Netzwerke in einem Maßstab produzieren, der die herkömmliche Aufklärungsarbeit überfordert.
Was hier entsteht, ist keine klassische Propagandaschlacht, sondern eine dauerhafte Verwaschung des öffentlichen Raums. Die Kosten der Erzeugung eines überzeugenden synthetischen Beitrags sind in den letzten drei Jahren um Größenordnungen gefallen, während die Kosten der Widerlegung konstant geblieben oder gestiegen sind. Diese Asymmetrie ist ökonomisch bemerkenswert und politisch destabilisierend. Eine Demokratie, deren Bürger nicht mehr zwischen einer realen und einer fingierten Debatte unterscheiden können, verliert nicht nur an Entscheidungsqualität, sondern an jener Voraussetzung, ohne die Demokratie kein sinnvoller Begriff mehr ist: der geteilten Wirklichkeit.
## Das Black-Box-Problem und die Ethik als Marketingstrategie
Zu den verstörenden Eigenschaften moderner Foundation Models gehört, dass selbst ihre Entwickler nicht im strengen Sinne erklären können, warum ein bestimmter Output auf einen bestimmten Input erfolgt. Diese Black-Box-Qualität wird oft als vorübergehende technische Unreife dargestellt, die durch bessere Interpretierbarkeitsforschung behoben werden könne. Ich halte diese Darstellung für verharmlosend. Die Undurchschaubarkeit ist nicht ein Fehler der Systeme, sondern eine Eigenschaft ihrer Architektur, und sie kollidiert strukturell mit dem rechtsstaatlichen Grundsatz, dass belastende Entscheidungen begründet werden müssen.
In diese Lücke tritt, mit bemerkenswerter Regelmäßigkeit, die Ethik als Marketingstrategie. Unternehmen veröffentlichen Prinzipien-Chartas, berufen Ethikbeiräte und bebildern ihre Kommunikation mit sorgsam gewählter Inklusionsrhetorik, ohne dass diese Selbstbeschreibungen die operativen Entscheidungen substantiell prägen. Dr. Raphael Nagel (LL.M.) hat in ALGORITHMUS auf die Gefahr hingewiesen, dass Ethikdiskurs zur kommunikativen Hülle wird, die regulatorische Eingriffe bremst, ohne die Praxis zu binden. Eine Governance, die diesen Namen verdient, misst sich nicht an Prinzipienpapieren, sondern an überprüfbaren Verfahren: Audit-Pflichten, Dokumentation der Trainingsdaten, Bias-Testungen, Pflicht zur Offenlegung synthetischer Inhalte.
## Unternehmensreputation und die Verwundbarkeit der Marke
Für Unternehmen verschiebt die synthetische Medienwirklichkeit das Reputationsrisiko in eine neue Kategorie. Eine gefälschte Sprachnachricht des Vorstandsvorsitzenden, in der scheinbar eine Gewinnwarnung oder eine diskriminierende Bemerkung geäußert wird, kann innerhalb weniger Stunden Aktienkurse bewegen, Kundenbeziehungen belasten und interne Spannungen auslösen, noch bevor eine forensische Prüfung die Fälschung bestätigt. Die Zeitachse zwischen Veröffentlichung und Widerlegung ist der eigentliche Schadenskorridor, und sie schließt sich in den meisten Fällen nicht rechtzeitig.
Die Antwort kann deshalb nicht reaktiv sein. Unternehmen, die in exponierten Branchen agieren, werden künftig Medien-Authentizität als interne Disziplin etablieren müssen, vergleichbar mit Cybersicherheit oder Datenschutz. Dazu gehören kryptographische Signaturverfahren für offizielle Kommunikation, dokumentierte Protokolle für die Verifizierung interner Aufnahmen und eine Krisenkommunikation, die auf den plausiblen Fall der gezielten Deepfake-Attacke vorbereitet ist. Dass diese Maßnahmen heute noch als futuristisch erscheinen, ist weniger ein Urteil über ihre Notwendigkeit als eine Aussage über die Geschwindigkeit, mit der Vorstandsetagen die Realität ihres eigenen Risikoraums wahrnehmen.
## Governance-Strukturen für eine Ökonomie der Authentizität
Die Antwort auf die Erosion der Realität kann weder in technologischer Resignation noch in rhetorischer Panik liegen. Sie muss in einer nüchternen Neuordnung der Verantwortlichkeiten bestehen. Der europäische AI-Act, die Initiativen zur Kennzeichnung synthetischer Inhalte, die Diskussion um Herkunftsnachweise bei digitaler Kommunikation: all das sind Bausteine, die für sich genommen unzureichend bleiben, in Summe aber die Grundlage einer Ordnung bilden, in der Authentizität nicht mehr vorausgesetzt, sondern institutionell hergestellt wird.
Zur Ehrlichkeit dieser Diagnose gehört, dass Regulierung allein nicht genügt. Plattformen, Medien, Gerichte, Bildungssysteme und Unternehmen müssen gemeinsam an einer Infrastruktur des Vertrauens bauen, die der Infrastruktur der Manipulation gewachsen ist. Dr. Raphael Nagel (LL.M.) vertritt in ALGORITHMUS die Position, dass technologische Souveränität im einundzwanzigsten Jahrhundert nicht nur Chips, Cloud und Modelle umfasst, sondern auch die Fähigkeit einer Gesellschaft, ihre eigenen Wahrnehmungsvoraussetzungen zu verteidigen. Diese Fähigkeit ist nicht angeboren und sie ist nicht kostenlos. Sie muss erarbeitet werden, und die Zeit, in der sie erarbeitet werden muss, ist die Gegenwart.
Die Erosion der Realität ist kein Naturereignis, das über uns kommt, sondern das Ergebnis von Entscheidungen, die in Forschungslabors, Konzernvorständen, Regierungen und Parlamenten getroffen oder unterlassen werden. Wer sie als unabwendbar beschreibt, delegiert Verantwortung an eine Technik, die diese Verantwortung nicht tragen kann. Die produktive Haltung liegt weder im kulturpessimistischen Rückzug noch in der technikoptimistischen Verdrängung, sondern in einer nüchternen Arbeit an Institutionen, Verfahren und Kompetenzen, die der Schnelligkeit der synthetischen Medien eine Langsamkeit der Prüfung entgegensetzen. Demokratien, die diese Arbeit leisten, werden eine neue Form der Öffentlichkeit gewinnen, die ihre Vorläuferin an Robustheit übertreffen kann. Demokratien, die sie unterlassen, werden erfahren, dass die Kontrolle über den Algorithmus, wie es der Untertitel meines Buches benennt, tatsächlich die Kontrolle über die Zukunft bedeutet. Der Essay, der hier geschrieben wurde, versteht sich deshalb als Einladung, in den kommenden Jahren weniger über die Wunder der Technologie zu sprechen und mehr über die Ordnungen, in denen sie wirkt.
Für wöchentliche Analysen zu Kapital, Führung und Geopolitik: Dr. Raphael Nagel (LL.M.) auf LinkedIn folgen →