# Deepfakes, ciberguerra y la erosión de la realidad
Cuando una fotografía, una voz o un vídeo dejan de constituir prueba de algo, la arquitectura epistémica sobre la que descansan nuestras democracias, nuestros tribunales y nuestros mercados comienza a temblar. No se trata de un sobresalto pasajero ni de un pánico mediático: es un desplazamiento silencioso, comparable al que supuso la imprenta para la autoridad eclesiástica o la radio para la política de masas. En el libro ALGORITHMUS. Wer die KI kontrolliert kontrolliert die Zukunft, Dr. Raphael Nagel (LL.M.) sostiene que la revolución algorítmica no es ruidosa precisamente porque opera sobre el sustrato mismo de lo que consideramos real. Este ensayo recoge esa intuición y la desarrolla en torno a tres ejes: la manipulación invisible, la emergencia de los medios sintéticos como instrumento de ciberguerra y la necesidad de estructuras de gobernanza para la autenticidad mediática.
## La manipulación invisible y la lección de Cambridge Analytica
El caso Cambridge Analytica, hecho público en 2018, reveló que perfiles psicográficos de 87 millones de usuarios de Facebook habían sido empleados sin su conocimiento para microtargeting político en el referéndum del Brexit y en la campaña presidencial estadounidense de 2016. Lo relevante no es únicamente la magnitud cuantitativa del episodio, sino su lógica cualitativa: modelos construidos a partir de datos de redes sociales permitían inferir disposiciones políticas, rasgos de personalidad y vulnerabilidades emocionales, y a partir de esa inferencia se fabricaban mensajes diseñados para provocar reacciones emocionales concretas que desembocaran en una decisión de voto determinada.
La cuestión de si estas técnicas fueron efectivamente decisivas para el resultado de aquellos comicios sigue siendo objeto de debate. Lo que no se discute es que fueron empleadas, que funcionaron con un nivel de precisión previamente desconocido y que la opinión pública las advirtió sólo cuando el proceso ya había concluido. La manipulación invisible, en este sentido, no es la manipulación oculta en un sótano, sino aquella que ocurre a plena vista y que permanece imperceptible porque no dispone de un lenguaje cultural con el que ser nombrada.
Dr. Raphael Nagel (LL.M.) describe este fenómeno como una consecuencia natural de la economía algorítmica de la atención: las plataformas no venden publicidad en el sentido clásico, sino la capacidad de calcular, para cada usuario concreto, qué mensaje en qué momento y en qué formato producirá con mayor probabilidad una reacción determinada. La precisión predictiva es el núcleo de esa destilación económica del poder algorítmico, y su aplicación política no es una desviación del modelo sino su extensión lógica.
## Medios sintéticos: cuando la evidencia pierde su fuerza probatoria
Los deepfakes, entendidos como audios, imágenes y vídeos generados o manipulados mediante modelos generativos de inteligencia artificial, no son una curiosidad técnica: representan una mutación en la condición epistémica de la prueba. Durante siglos, la fotografía y el registro audiovisual funcionaron como anclajes de realidad en los procedimientos judiciales, en el periodismo y en el debate público. Ese anclaje presuponía un coste de falsificación lo suficientemente alto como para que, en la práctica, la sospecha sistemática resultase irrazonable. Los modelos generativos han reducido ese coste de manera drástica.
La consecuencia no se limita a la proliferación de falsificaciones. El efecto más profundo es inverso: la existencia generalizada de medios sintéticos permite cuestionar la autenticidad de cualquier material genuino. Un vídeo incómodo puede ser descalificado como deepfake sin necesidad de prueba contraria, y una grabación comprometedora puede ser relativizada invocando simplemente la posibilidad técnica de su fabricación. Este efecto, que algunos investigadores han denominado liar's dividend, constituye quizá la erosión más silenciosa y más grave de la realidad compartida.
En el terreno de la ciberguerra, los medios sintéticos se han incorporado al repertorio de operaciones de información de numerosos actores estatales y paraestatales. Discursos falsos atribuidos a jefes de Estado, comunicados militares fabricados en momentos de tensión, declaraciones apócrifas de directivos empresariales difundidas en momentos de apertura bursátil: el abanico de aplicaciones abarca desde la desestabilización política hasta la manipulación de mercados financieros, pasando por el sabotaje reputacional dirigido contra figuras individuales.
## El problema de la caja negra y la trazabilidad imposible
A las dificultades de autenticación se suma un problema estructural que el libro ALGORITHMUS examina con particular insistencia: el carácter de caja negra de los sistemas algorítmicos contemporáneos. Un modelo de lenguaje entrenado sobre billones de tokens, ajustado mediante aprendizaje por refuerzo a partir de retroalimentación humana y desplegado en miles de casos de uso simultáneos, no admite una explicación causal granular de cada una de sus salidas. Ni sus desarrolladores pueden reconstruir con precisión por qué el modelo produjo una respuesta determinada, ni los usuarios disponen de herramientas efectivas para auditar el proceso.
Esta opacidad no es un defecto accidental que pueda ser corregido con una actualización de software. Es una propiedad emergente de la escala y la arquitectura de los sistemas actuales. Y su consecuencia jurídica y política es considerable: las obligaciones clásicas de motivación y trazabilidad, sobre las que descansa buena parte del derecho administrativo y del derecho probatorio, se encuentran con un interlocutor técnico que no puede cumplirlas en los términos tradicionales.
El estudio NIST de 2019, que analizó 189 sistemas de reconocimiento facial comercialmente desplegados, documentó tasas de error hasta cien veces superiores en la identificación de mujeres de piel oscura respecto a hombres de piel clara. Esta asimetría, conocida y publicada, no impidió el despliegue de los sistemas por parte de autoridades policiales en numerosas jurisdicciones estadounidenses. La combinación entre opacidad técnica y deferencia institucional hacia lo presuntamente objetivo constituye un terreno especialmente fértil para la erosión de la realidad.
## Democracia, campañas electorales y reputación corporativa
En el contexto democrático, los efectos convergen hacia un mismo punto: la fragilización del consenso sobre los hechos. Una campaña electoral en la que cualquier declaración pueda ser fabricada y, simultáneamente, cualquier declaración genuina pueda ser desacreditada como fabricación, no es una campaña más ruidosa que la tradicional: es una campaña en la que el terreno común sobre el que deliberar ha desaparecido. La deliberación presupone un mínimo de hechos compartidos, y ese mínimo es lo que los medios sintéticos erosionan.
Para las empresas, la amenaza es análoga aunque menos discutida. Un vídeo sintético en el que un consejero delegado aparente anunciar una operación corporativa inexistente puede mover cotizaciones en minutos. Un audio fabricado de una negociación confidencial puede destruir la confianza entre socios comerciales antes de que cualquier desmentido circule. La reputación, construida durante décadas, es vulnerable a operaciones de información cuyo coste marginal se aproxima a cero y cuya atribución resulta técnicamente ardua.
Dr. Raphael Nagel (LL.M.) subraya que estas amenazas no pueden ser delegadas al departamento de tecnología ni tratadas como incidentes aislados de seguridad informática. Son cuestiones de gobernanza corporativa en sentido estricto: afectan a la integridad de la comunicación institucional, a la relación con inversores y reguladores, y a la resiliencia informacional de la organización frente a actores hostiles.
## Gobernanza de la autenticidad: elementos de una respuesta posible
Frente a esta constelación, la respuesta no puede ser únicamente defensiva. El autor de ALGORITHMUS argumenta que se requieren estructuras de gobernanza específicas para la autenticidad mediática, articuladas en al menos tres planos. En el plano técnico, la adopción progresiva de estándares de procedencia y marcas criptográficas que permitan verificar la cadena de custodia de un contenido desde su captura original. En el plano regulatorio, obligaciones de documentación, transparencia y auditabilidad para los sistemas de alto riesgo, en la línea trazada por el reglamento europeo sobre inteligencia artificial. En el plano institucional, la creación de capacidades forenses públicas y privadas capaces de analizar contenidos sospechosos con rapidez suficiente para ser relevantes en el ciclo informativo.
Ninguno de estos planos basta por separado. Los estándares técnicos sin marco regulatorio generan fragmentación. La regulación sin capacidades forenses produce normas inaplicables. Las capacidades forenses sin estándares técnicos trabajan a ciegas. La gobernanza de la autenticidad es, por definición, una tarea sistémica que exige coordinación entre jurisdicciones, entre sectores y entre niveles de actuación.
Para Europa, este terreno presenta una oportunidad específica. La combinación entre tradición jurídica de protección de la persona, capacidad regulatoria probada y sensibilidad pública hacia las cuestiones de privacidad y autenticidad ofrece un punto de partida más favorable que en otras regiones. La cuestión es si esa ventaja de partida se traducirá en arquitectura institucional operativa o si permanecerá en el plano de la declaración de principios.
La erosión de la realidad no es un escenario futuro, sino un proceso en curso que se manifiesta cada vez que un ciudadano duda de la autenticidad de una imagen legítima, cada vez que un tribunal debe ponderar si un registro audiovisual puede seguir siendo admitido como prueba sin verificación adicional, cada vez que una empresa descubre que una declaración fabricada ha circulado durante horas antes de poder ser desmentida. La pregunta que recorre el libro ALGORITHMUS y que este ensayo ha intentado desarrollar no es si la tecnología permitirá fabricaciones cada vez más convincentes, porque esa respuesta está dada. La pregunta es qué instituciones, qué normas y qué prácticas estamos dispuestos a construir para preservar un espacio común de hechos sobre el que la deliberación democrática y la actividad económica puedan seguir siendo posibles. Delegar esa pregunta a los proveedores de los sistemas equivale a delegar la definición misma de la realidad compartida. Asumirla, en cambio, exige una conversación sostenida entre juristas, tecnólogos, responsables públicos y dirigentes empresariales, en la línea reflexiva que propone Dr. Raphael Nagel (LL.M.) cuando recuerda que el algoritmo pertenece a alguien, y que la cuestión de a quién pertenece es la pregunta de poder más relevante del siglo XXI.
Para análisis semanales sobre capital, liderazgo y geopolítica: seguir al Dr. Raphael Nagel (LL.M.) en LinkedIn →