Una videollamada muestra a tu jefe pidiendo una transferencia urgente. Su rostro parece correcto. Su voz también. Responde preguntas y parece estar hablando en tiempo real.
¿Es suficiente para confiar?
Ya no necesariamente.
La inteligencia artificial permite generar o modificar imágenes, video y audio con un nivel de realismo cada vez mayor. Entre las aplicaciones más problemáticas se encuentran los deepfakes: contenido sintético o manipulado capaz de representar de manera convincente a personas haciendo o diciendo cosas que no ocurrieron de esa forma.
La tecnología también tiene usos legítimos en entretenimiento, accesibilidad, producción audiovisual y creación digital. El problema aparece cuando se utiliza para engañar, suplantar identidades, cometer fraude, acosar o presentar contenido sintético como evidencia auténtica.
Y detectar un deepfake ya no consiste simplemente en buscar un parpadeo extraño o una boca mal sincronizada.
En esta guía de TuParadaDigital explicaremos qué son los deepfakes, cómo pueden crearse, cuáles son sus principales riesgos y, sobre todo, cómo verificar contenido sospechoso sin depender de supuestos trucos infalibles.
¿Qué es un deepfake?
El término deepfake combina originalmente las ideas de aprendizaje profundo —deep learning— y contenido falso o manipulado.
En la práctica se utiliza para describir contenido sintético o alterado mediante técnicas de inteligencia artificial que puede imitar características de personas, objetos, escenas o voces de forma convincente.
Un deepfake puede hacer parecer que una persona:
- dijo algo que nunca dijo;
- apareció en un lugar donde nunca estuvo;
- realizó una acción que nunca realizó;
- participó en una conversación inexistente;
- envió un mensaje de audio que nunca grabó.
La manipulación puede afectar solamente una parte del contenido o prácticamente toda la escena.
No todos los deepfakes son videos
Aunque el término suele asociarse con videos donde se sustituye un rostro, el problema es mucho más amplio.
Deepfakes de video
Pueden modificar rostro, expresión, labios, movimientos o incluso generar una persona completa.
Deepfakes de audio
La clonación de voz puede reproducir características de una voz real y generar frases que la persona nunca pronunció.
Imágenes sintéticas
Una fotografía aparentemente real puede haber sido generada completamente mediante IA o modificada parcialmente.
Contenido multimodal
Las técnicas pueden combinar video, voz y otros elementos sintéticos para crear una representación mucho más convincente.
Esto significa que verificar solamente el rostro no siempre es suficiente.
¿Cómo se crea un deepfake?
No existe una única técnica.
Los sistemas modernos pueden utilizar diferentes modelos generativos y herramientas para sintetizar o transformar contenido.
Conceptualmente, el proceso puede incluir:
- obtener material de referencia de una persona;
- analizar características como rostro, voz o movimientos;
- generar o transformar contenido;
- sincronizar diferentes elementos;
- editar el resultado para aumentar su realismo.
Las herramientas actuales han reducido considerablemente la barrera técnica necesaria para crear contenido sintético convincente.
¿Qué es un face swap?
Un face swap sustituye el rostro de una persona por otro.
Es una de las formas más conocidas de manipulación.
Pero no todos los deepfakes modernos necesitan funcionar de esa manera.
Los sistemas generativos pueden modificar expresiones, sincronizar labios con audio diferente, generar rostros completos o crear escenas que nunca existieron.
¿Qué es la clonación de voz?
La clonación de voz utiliza inteligencia artificial para generar audio que reproduce características de la voz de otra persona.
Puede tener aplicaciones legítimas, por ejemplo en accesibilidad o producción creativa.
Pero también puede utilizarse para suplantación.
La FTC ha advertido que estafadores pueden utilizar muestras de voz obtenidas de contenido publicado online para intentar imitar a familiares, ejecutivos u otras personas y solicitar dinero o información. :chatgpt-content-reference{index="1"}
El deepfake no necesita ser perfecto para funcionar
Este punto es fundamental.
Un fraude no necesita producir un video digno de Hollywood.
Solamente necesita resultar suficientemente convincente durante el tiempo necesario para provocar una acción.
La urgencia puede reducir además la capacidad de la víctima para analizar detalles.
Por ejemplo:
“Soy yo. Tuve un accidente. Necesito que envíes dinero ahora mismo.”
Si la voz parece la de un familiar y la situación provoca miedo, la víctima puede actuar antes de verificar.
Los deepfakes pueden formar parte de una estafa mayor
La manipulación sintética suele ser solamente una pieza.
Un atacante puede combinar:
- información obtenida de redes sociales;
- phishing;
- suplantación telefónica;
- clonación de voz;
- documentos falsificados;
- mensajes urgentes;
- ingeniería social.
Por eso centrarse exclusivamente en detectar defectos del video puede hacer que ignoremos señales mucho más importantes del fraude.
Principales riesgos de los deepfakes
Suplantación de familiares
Un estafador puede hacerse pasar por un familiar en una supuesta emergencia.
Suplantación empresarial
La voz o imagen de un ejecutivo puede utilizarse para intentar convencer a empleados de transferir dinero o revelar información.
Fraude financiero
Una identidad aparentemente auténtica puede utilizarse para aumentar la credibilidad de solicitudes fraudulentas.
Desinformación
Un video manipulado puede aparentar documentar declaraciones o acontecimientos inexistentes.
Daño reputacional
Una persona puede aparecer falsamente asociada con declaraciones o conductas que nunca realizó.
Acoso y abuso
La tecnología también puede utilizarse para crear contenido íntimo o degradante sin consentimiento.
Debilitamiento de la confianza
Existe además un efecto más amplio: cuando sabemos que los videos pueden falsificarse, una persona puede intentar negar contenido auténtico alegando que es un deepfake.
Por eso la procedencia verificable resulta cada vez más importante.
Las estafas de suplantación ya generan pérdidas enormes
Los deepfakes forman parte de un problema más amplio de suplantación.
Según datos publicados por la FTC en junio de 2026, los consumidores reportaron pérdidas de aproximadamente 3.500 millones de dólares por estafas de suplantación durante 2025. Casi uno de cada tres reportes de fraude recibidos correspondió a este tipo de estafa. :chatgpt-content-reference{index="2"}
Esto no significa que esos 3.500 millones fueran causados específicamente por deepfakes.
La cifra corresponde al conjunto de estafas de suplantación.
La distinción es importante: la inteligencia artificial puede potenciar modalidades de fraude existentes, pero no debemos atribuirle automáticamente todas las pérdidas de la categoría.
¿Cómo detectar un deepfake?
No existe una señal universal.
El método más sólido consiste en combinar varias capas de verificación.
Paso 1: no empieces por los píxeles
Empieza por el contexto.
Pregunta:
- ¿quién publicó el contenido?
- ¿cuándo apareció?
- ¿dónde ocurrió supuestamente?
- ¿existen otras grabaciones?
- ¿medios o fuentes fiables documentan el acontecimiento?
- ¿puedes localizar la publicación original?
Un video auténtico también puede presentarse con una descripción falsa.
Paso 2: busca versiones anteriores
Una imagen o fotograma del video puede haberse utilizado anteriormente en otro contexto.
Extraer fotogramas representativos y realizar búsquedas inversas puede ayudar a localizar:
- versiones anteriores;
- el material original;
- publicaciones relacionadas;
- una fuente diferente.
Encontrar el contenido original puede resolver la investigación sin necesidad de utilizar ningún detector de deepfakes.
Paso 3: comprueba la fuente por otro canal
Este paso es especialmente importante cuando el contenido solicita una acción.
Si recibes una llamada que parece de un familiar:
cuelga y llama a esa persona utilizando un número que ya conozcas.
La FTC recomienda precisamente verificar la historia contactando directamente con la supuesta persona mediante un número conocido, en lugar de confiar en la voz recibida. :chatgpt-content-reference{index="3"}
Lo mismo aplica en una empresa.
Una solicitud extraordinaria de transferencia debería comprobarse mediante un canal independiente ya establecido.
Paso 4: sospecha de la urgencia
Los estafadores intentan reducir el tiempo disponible para pensar.
Frases como:
“Hazlo ahora.”
“No se lo digas a nadie.”
“No puedo hablar mucho.”
“Envía el dinero inmediatamente.”
deberían aumentar tu nivel de precaución.
La FTC identifica urgencia y secretismo como características habituales de las falsas emergencias utilizadas por estafadores. :chatgpt-content-reference{index="4"}
Paso 5: examina el contenido visual
La inspección visual todavía puede aportar pistas.
Busca posibles inconsistencias en:
- movimiento de labios;
- expresiones faciales;
- bordes del rostro;
- cabello;
- reflejos;
- sombras;
- iluminación;
- movimiento de objetos;
- continuidad entre fotogramas.
Pero estas señales tienen una limitación fundamental:
su ausencia no demuestra que el video sea auténtico.
Los sistemas mejoran y los defectos clásicos pueden desaparecer.
Paso 6: escucha el audio
En contenido sospechoso puedes prestar atención a:
- entonación poco natural;
- ritmo extraño;
- respiraciones inconsistentes;
- cambios inexplicables de calidad;
- pronunciaciones anómalas;
- desajustes entre voz y entorno;
- sincronización labial.
De nuevo, son pistas.
Una grabación real con mala conexión puede presentar muchos de estos problemas.
Paso 7: revisa procedencia y Content Credentials
Los sistemas de procedencia intentan responder una pregunta diferente:
“¿Qué información verificable existe sobre cómo se creó o modificó este archivo?”
C2PA publicó en 2026 nuevas directrices para comunicar mediante Content Credentials cuándo contenido digital es sintético, no sintético o ha sido modificado con IA.
Estas credenciales utilizan manifiestos firmados criptográficamente y pueden proporcionar información sobre acciones realizadas durante la creación o edición. :chatgpt-content-reference{index="5"}
Esto puede ser mucho más útil que intentar adivinar el origen solamente mirando el contenido.
La ausencia de credenciales no demuestra autenticidad
Esta regla también aplica a deepfakes.
Una credencial válida puede aportar evidencia de procedencia.
Pero si no existe una credencial disponible, no podemos concluir automáticamente:
“Entonces el video es real.”
No todos los dispositivos, plataformas y herramientas utilizan el mismo sistema de procedencia, y la cadena puede perder información durante determinados procesos.
¿Funcionan los detectores automáticos de deepfakes?
Pueden ayudar, pero no deberían tratarse como máquinas infalibles de verdad.
Un detector puede analizar patrones que diferencian contenido auténtico y sintético dentro de las condiciones para las que fue diseñado.
El problema es que:
- los generadores evolucionan;
- aparecen modelos nuevos;
- el contenido se comprime;
- puede editarse;
- las condiciones reales difieren de los conjuntos de prueba;
- pueden existir falsos positivos y falsos negativos.
La FTC, al estudiar posibles defensas frente a clonación de voz, destacó que existen diferentes enfoques —prevención, autenticación, detección en tiempo real y evaluación posterior— y que no existe una única solución. :chatgpt-content-reference{index="6"}
No confíes en un único porcentaje
Si una herramienta afirma:
“94 % deepfake”
necesitas saber:
- qué mide exactamente;
- con qué modelos fue evaluada;
- qué tasa de falsos positivos tiene;
- cómo responde a compresión y edición;
- si soporta ese tipo concreto de contenido.
Un porcentaje sin contexto puede crear una falsa sensación de certeza.
¿Puede una videollamada ser un deepfake?
Sí, la manipulación sintética no está limitada a archivos pregrabados.
Los avances en generación y transformación en tiempo real permiten plantear escenarios de suplantación durante comunicaciones interactivas.
Eso cambia una vieja regla de seguridad:
“Lo vi y hablé con él, por tanto era él.”
La identidad debería verificarse por mecanismos independientes cuando la acción solicitada sea sensible.
Crea un protocolo familiar de verificación
Una familia puede establecer previamente una palabra o procedimiento para emergencias.
Pero evita depender únicamente de información que pueda encontrarse públicamente en redes sociales.
Si recibes una llamada sospechosa:
- no envíes dinero inmediatamente;
- termina la llamada si es necesario;
- contacta directamente a la persona;
- consulta a otro familiar;
- verifica la historia por un canal independiente.
El objetivo es romper el escenario creado por el estafador.
Crea un protocolo empresarial
Las organizaciones también deberían asumir que voz y video ya no son suficientes para autorizar determinadas acciones.
Una política puede exigir verificación adicional para:
- transferencias;
- cambios de cuenta bancaria;
- credenciales;
- información confidencial;
- pagos extraordinarios;
- cambios de proveedores;
- solicitudes fuera del procedimiento habitual.
Una videollamada convincente no debería saltarse controles financieros establecidos.
Deepfakes y clonación de voz
La voz merece atención especial porque no necesita acompañarse de video.
Un atacante puede intentar crear una situación emocionalmente creíble utilizando una voz familiar.
La FTC ha documentado riesgos relacionados con suplantación de familiares y ejecutivos y continúa señalando que la detección técnica es solamente una parte de la defensa. :chatgpt-content-reference{index="7"}
En nuestra siguiente guía explicaremos cómo funciona la clonación de voz con inteligencia artificial y cómo protegerse de estafas.
Deepfakes y redes sociales
Las plataformas sociales pueden acelerar la difusión antes de que se verifique un contenido.
Cuando encuentres un video espectacular o indignante, evita utilizar la viralidad como evidencia.
Que miles de personas lo hayan compartido no demuestra su autenticidad.
Busca la fuente original y corroboración independiente.
Deepfakes y figuras públicas
Las personas conocidas públicamente disponen además de enormes cantidades de imágenes y audio accesibles.
Eso puede facilitar la creación de imitaciones convincentes.
Una declaración extraordinaria atribuida a una persona conocida debería verificarse mediante:
- canales oficiales;
- grabaciones completas;
- fuentes periodísticas fiables;
- contexto del evento;
- procedencia del archivo.
Deepfakes y evidencia periodística
Un video no debería considerarse automáticamente evidencia suficiente solamente porque parece documental.
La verificación periodística puede incluir:
- procedencia;
- geolocalización;
- cronología;
- fuente;
- otros ángulos;
- testigos;
- metadatos;
- corroboración independiente.
La IA añade otra posible capa de manipulación, pero muchos principios clásicos de verificación siguen siendo útiles.
Un video auténtico también puede engañar
Este punto no debería olvidarse.
Un video completamente real puede:
- estar recortado;
- comenzar demasiado tarde;
- terminar antes de una explicación;
- llevar subtítulos falsos;
- utilizar audio diferente;
- atribuirse a otra fecha;
- atribuirse a otro lugar.
Por tanto, “no es deepfake” tampoco significa automáticamente “la publicación es verdadera”.
Deepfakes e imágenes generadas por IA
Los mismos principios de procedencia aplican a imágenes estáticas.
En nuestra guía sobre cómo saber si una imagen fue creada con inteligencia artificial explicamos por qué manos extrañas, texto deformado y otros defectos clásicos ya no deberían tratarse como detectores fiables.
La estrategia más robusta combina procedencia, contexto y análisis técnico.
Deepfakes y alucinaciones no son lo mismo
Una alucinación ocurre cuando un sistema genera información falsa o no respaldada.
Un deepfake es contenido sintético o manipulado que representa de manera convincente algo que puede no haber ocurrido.
Los dos problemas pueden combinarse.
Una IA podría inventar una afirmación y otra herramienta generar contenido audiovisual que parezca respaldarla.
Por eso resulta útil conocer también cómo detectar alucinaciones de inteligencia artificial y verificar respuestas.
Qué hacer si recibes un posible deepfake utilizado para pedir dinero
Si alguien parece ser un familiar, ejecutivo, banco o autoridad y solicita dinero:
- detén la operación;
- no confíes solamente en la voz o imagen;
- contacta a la persona o entidad mediante un canal conocido;
- no utilices automáticamente el teléfono o enlace proporcionado en el mensaje;
- verifica la situación de forma independiente;
- conserva evidencia si sospechas de fraude;
- reporta el intento a las autoridades o plataformas pertinentes.
La FTC también advierte que solicitudes de transferencias, criptomonedas o tarjetas regalo pueden ser señales características de determinadas estafas de emergencia. :chatgpt-content-reference{index="8"}
Un método rápido: CONTEXTO
Puedes recordar esta secuencia:
C — Comprueba quién publicó.
O — Observa el contexto completo.
N — No actúes bajo presión.
T — Traza el origen del archivo.
E — Examina audio y video.
X — Cruza información con otras fuentes.
T — Toma un canal independiente para verificar identidad.
O — Obtén una conclusión proporcional a la evidencia.
No necesitas demostrar técnicamente qué modelo produjo un archivo para protegerte de una estafa.
A veces basta con descubrir que la persona supuestamente representada confirma por otro canal que nunca realizó la solicitud.
Qué no hacer
Evita estas conclusiones rápidas:
- “Parpadea raro, así que es falso.”
- “La boca está bien, así que es real.”
- “Un detector dijo 95 %, así que está demostrado.”
- “No tiene Content Credentials, así que es auténtico.”
- “Lo compartieron miles de personas, así que ocurrió.”
- “Reconozco su voz, por tanto realmente es esa persona.”
Todas confunden una señal con una conclusión.
El futuro de la autenticidad digital
A medida que el contenido sintético se vuelve más convincente, intentar reconocerlo únicamente por defectos visuales será cada vez menos sostenible.
Por eso están ganando importancia mecanismos de:
- procedencia;
- firmas digitales;
- credenciales de contenido;
- marcas de agua;
- autenticación del origen;
- protocolos independientes de verificación.
C2PA está desarrollando precisamente un estándar abierto para registrar información verificable sobre la creación y modificación de activos digitales.
Pero tampoco existe una solución única.
La seguridad dependerá de combinar tecnología, procedimientos y hábitos humanos.
Conclusión
Los deepfakes representan una evolución importante del contenido sintético porque pueden imitar rostros, voces y comportamientos con suficiente realismo para engañar.
Pero la defensa no consiste en convertirnos en detectores humanos de píxeles.
Consiste en verificar.
Busca el origen, comprueba el contexto, utiliza fuentes independientes, revisa procedencia cuando esté disponible y no permitas que una voz o una videollamada sustituyan los controles de identidad cuando hay dinero, credenciales o información sensible en juego.
Y recuerda:
si una persona te pide algo extraordinario, verifica a la persona mediante un canal extraordinariamente confiable.
La pregunta decisiva no siempre será:
“¿Puedo demostrar que esto es un deepfake?”
A menudo será:
“¿Puedo demostrar que esta solicitud realmente procede de quien afirma enviarla?”
Preguntas frecuentes sobre deepfakes
¿Qué es un deepfake?
Es contenido sintético o manipulado mediante técnicas de inteligencia artificial que puede representar convincentemente a personas, voces o escenas haciendo o diciendo algo diferente de lo ocurrido realmente.
¿Cómo puedo detectar un deepfake?
Combina comprobación de la fuente, contexto, búsqueda de versiones anteriores, análisis visual y auditivo, procedencia digital y corroboración independiente. Ninguna señal aislada funciona para todos los casos.
¿Los deepfakes pueden utilizarse en videollamadas?
Las técnicas generativas y de transformación pueden aplicarse también en escenarios interactivos. Para acciones sensibles, una videollamada por sí sola no debería sustituir mecanismos independientes de autenticación.
¿Un detector de deepfakes puede garantizar que un video es falso?
No debería tratarse ningún detector como infalible. Su rendimiento depende de modelos, datos, tipo de contenido y transformaciones, y pueden existir falsos positivos y negativos.
¿Qué son las Content Credentials?
Son credenciales de procedencia basadas en estándares como C2PA que pueden proporcionar información firmada sobre la creación y modificación de contenido digital.
¿Una voz idéntica a la de un familiar demuestra que realmente es esa persona?
No. La clonación de voz puede imitar características de una persona. Ante una solicitud urgente, contacta al familiar mediante un número que ya conozcas.
¿Todos los deepfakes son ilegales?
No. Existen usos legítimos en entretenimiento, accesibilidad y creación. Las implicaciones legales dependen del uso, jurisdicción, consentimiento y daño causado.
¿Qué debo hacer si sospecho que utilizan un deepfake para estafarme?
No envíes dinero ni información sensible. Interrumpe la comunicación, verifica la identidad mediante un canal independiente, conserva evidencia y reporta el intento a las entidades pertinentes.
0 comentarios:
Publicar un comentario