IA, deepfakes y fraude sintético

La rueda de reconocimiento que nunca ocurrió: el Deepfake como amenaza interna para la organización

Las personas de este video no fueron detenidas. Pero el video ilustra un problema que todo responsable de seguridad, de recursos humanos y todo CEO debe conocer.

En el video de arriba aparecen las figuras de Sam Altman, CEO de OpenAI, Dario Amodei, CEO de Anthropic, Mark Zuckerberg y Donald Trump, y frente a ellos Jensen Huang, mientras están en una rueda de reconocimiento policial y cantan juntos.

La situación es ridícula, el resultado es divertido y el video parece asombrosamente creíble.

Pero ninguna rueda de reconocimiento así tuvo lugar. El video se creó con inteligencia artificial como parte de una sátira sobre la industria de la IA.

Matthias Schmidt (@eurofounder) publicó el video en X el 16 de octubre de 2026: https://x.com/eurofounder/status/2111122495667413424

Lo vi y pensé en algo completamente distinto: ¿qué ocurre cuando la capacidad de producir una realidad tan convincente se encuentra con el mundo de la fiabilidad organizacional?

Hasta hace poco, una imagen, una grabación de voz y, sin duda, una videollamada se consideraban pruebas significativas de que una persona determinada realmente había dicho o hecho algo.

Hoy esa suposición ya no es segura.

Estamos entrando en una época en la que no solo se puede falsificar una identidad, sino que se puede generar para esa misma identidad un comportamiento, una voz, expresiones faciales e interacciones que parecen totalmente auténticos.

Y esto ya no es solo un problema de difusión de información falsa. Es un riesgo real para la seguridad de la organización.

De amenaza externa a amenaza interna

Piensen en tres escenarios:

Un candidato a un puesto sensible realiza una entrevista por video con una identidad ficticia, con un rostro, una voz y una trayectoria profesional que no son suyos. La organización está convencida de que ha contratado a una persona concreta, pero en la práctica concede permisos y acceso a otra persona.

Un responsable financiero recibe una videollamada de alguien que se ve y suena exactamente como el CEO, con una instrucción urgente de transferir dinero o información sensible. El empleado cumple la instrucción de buena fe, y la organización sufre el daño desde dentro.

Y un video de un empleado que circula en internet y que supuestamente registra una conducta delictiva, una declaración extremista o una filtración de información. La organización se apresura a sacar conclusiones, aunque el hecho nunca ocurrió.

En cada uno de estos casos, la tecnología permite que un actor externo explote la confianza, los procesos y los permisos de personas dentro de la organización.

Así, una amenaza que se origina fuera de la organización puede convertirse en un incidente de amenaza interna.

Verificar la historia, no solo el video

Y aquí surge la pregunta realmente importante:

Si ya no es posible confiar en lo que vemos y oímos, ¿en qué sí se puede confiar?

En mi opinión, la respuesta está en cambiar el método de verificación.

En lugar de preguntar solo si el video es real, hay que preguntar si la historia que hay detrás es real.

Aquí entra en juego la importancia de las verificaciones de antecedentes y de la inteligencia de fuentes abiertas (OSINT).

Una verificación OSINT profesional no se limita al análisis de una sola imagen o un solo video. Examina el contexto amplio y conecta información de distintas fuentes, preferiblemente independientes, para construir una imagen más fiable.

Por ejemplo:

1. Verificación de la fuente de la información: ¿quién publicó el video por primera vez? ¿Cuándo? ¿Es posible localizar la fuente original de la difusión, y no solo decenas de veces que se compartió el mismo contenido?

2. Verificación de identidades: ¿la persona que aparece en el video coincide con su identidad digital a lo largo del tiempo? ¿Existe un historial profesional coherente, actividad en redes, contactos y datos externos que respalden su identidad?

3. Cruce de fuentes: ¿existen pruebas independientes del hecho que se alega? ¿Las fechas, los lugares, las personas y las circunstancias concuerdan con otra información que se pueda verificar?

4. Análisis de patrones de actividad: ¿hay una discrepancia entre un comportamiento digital conocido y un hecho inusual? ¿Han aparecido recientemente cuentas nuevas, cambios de identidad o intentos deliberados de crear una representación falsa?

5. Comprensión del contexto y de los posibles motivos: ¿quién está detrás de la difusión, cuál es su entorno de actividad y hay indicios de un intento de engañar, influir o causar daño?

Es importante subrayarlo: OSINT no es una solución mágica. Las fuentes abiertas también pueden ser falsas, estar coordinadas o ser erróneas. Y la ausencia de hallazgos no demuestra que una persona o un video sean auténticos.

Pero cuantas más fuentes independientes se cruzan y más se examina la secuencia de los hechos, más difícil resulta sostener un fraude sobre un único dato falsificado.

Y esa es precisamente la ventaja de examinar el panorama completo.

Qué cambiar en los procedimientos

Junto con las verificaciones de inteligencia, las organizaciones también deben adaptar sus procedimientos: verificar las instrucciones inusuales por un canal de comunicación independiente, aplicar un doble control a las operaciones sensibles, verificar identidades en los procesos de contratación y evitar tomar decisiones a partir de un solo video.

Esto significa que la responsabilidad de distinguir entre lo verdadero y lo falso ya no puede depender solo de nuestros ojos, o de un software que intenta detectar Deepfake.

Requiere pensamiento crítico, cruce de información y comprensión del contexto humano, profesional y organizacional.

El video de arriba está hecho para hacer reír. Y de verdad es gracioso.

Pero también ilustra lo fácil que será presentarnos una realidad que nunca existió.

En una era en la que se puede falsificar casi todo lo que vemos y oímos, la confianza no puede basarse en lo convincente que sea la prueba. Debe basarse en la capacidad de verificarla mediante pruebas adicionales.

Y este es, a mi juicio, uno de los cambios más importantes que deben producirse hoy en el mundo de la fiabilidad y la seguridad organizacional.

La base profesional de las recomendaciones

Las recomendaciones de este artículo se basan en tres publicaciones de organismos gubernamentales de EE. UU.:

1. La publicación conjunta de NSA, FBI y CISA (septiembre de 2023). El documento Contextualizing Deepfake Threats to Organizations: las amenazas de Deepfake para las organizaciones y las formas de prepararse, detectarlas, defenderse y responder. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats

2. El documento NIST AI 100-4 (noviembre de 2024). Reducing Risks Posed by Synthetic Content: un panorama de la verificación del origen del contenido, el marcado y la detección de contenido sintético, y las limitaciones de estas tecnologías. https://www.nist.gov/publications/reducing-risks-posed-synthetic-content-overview-technical-approaches-digital-content

3. El programa Guardians of Forensic Evidence de NIST. Un programa para evaluar herramientas automáticas de detección de Deepfake. Según NIST, existe una brecha entre la alta precisión en la investigación y la dificultad de aplicar las herramientas en el mundo real. https://www.nist.gov/programs-projects/guardians-forensic-evidence

La publicación conjunta de NSA, FBI y CISA

Los consejos para detectar deepfakes, con una fuente para cada recomendación, están disponibles como documento de dos páginas en inglés.Descargar los consejos

Documento descargable

Consejos para detectar deepfakes.

Qué revisar en la imagen, la voz y la conversación, y qué procedimientos protegen a la organización cuando el ojo no basta. El documento está en inglés. Deja tus datos y la descarga se abrirá en esta página.