Riesgos de la inteligencia artificial en la elaboración y difusión de los Deepfake
Autor: Magda Ceballos
- Que es Deepfake
El Deepfake es la combinación de deep learning (aprendizaje profundo) y fake (falso), y hace referencia a imágenes, vídeos o audios generados o manipulados mediante IA para imitar de forma realista el rostro, la voz o los movimientos de una persona (IAON, 2026).
No se trata solamente de un error tecnológico, detrás, está en juego la dignidad de las personas afectadas frente a, muchas veces, millones de personas.
Bien dice la Biblia (proverbios 22:1), “la reputación es más preciosa que el oro “.
- Herramientas de la inteligencia artificial para su elaboración
Existe actualmente una gran competencia entre las diferentes herramientas de inteligencia artificial que pueden servir para hacer videos, lo que incluye altas capacidades de cambiar de un rostro o personaje a otro, de forma tal que llega a ser imperceptible cuál es el video original y cuál ha sido modificado.
A mayores avances de estas herramientas, mayor facilidad para generar videos tipos “Deepfake”.
- Difusión masiva
Uno de los aspectos que hace más peligroso el deepfake es la cantidad de personas a las que puede llegar gracias a las redes sociales.
Los usuarios de redes sociales en el mundo a octubre de 2025 eran los siguientes (Mejia Llano, 2026) :
- YouTube: 2.580 millones de usuarios
- Facebook:350 millones de usuarios
- TikTok:990 millones de usuarios
- Instagram:910 millones de usuarios
- LinkedIn:330 millones de usuarios
- Snapchat: 738 millones de usuarios
- X: 557 millones de usuarios
- Pinterest: 351 millones de usuarios
- Casos reales
A principios de 2024, un empleado de la empresa de ingeniería británica “Arup” realizó una transferencia aparentemente rutinaria de 25 millones de dólares de la compañía, tras una videollamada con la alta dirección. Sin embargo, resultó que el empleado no había estado hablando con los gerentes de Arup, sino con deepfakes creados por inteligencia artificial. El empleado había sido engañado (Elliot, 2025).
Los datos muestran que el uso de “deepfakes” con fines dañinos se concentra especialmente en tres grandes áreas: el entretenimiento, la política y el entorno empresarial. En estos rubros, se utilizan para desinformar, manipular percepciones, dañar reputaciones o ejecutar fraudes, aprovechando tanto la viralidad de las redes sociales como la dificultad creciente para distinguir entre lo real y lo artificial (IAON, 2026).
Los casos que se han ocurrido en virtud del Deepfake ha disparado las alarmas y se buscan varias vías para su control.
La legislación de Dinamarca está en el proceso de aprobar una ley que proyecta que cualquier imitación realista del cuerpo, rasgos o voz de una persona sin su consentimiento constituye una violación legal (Legal & Arts, 2025).
En el evento de Impact AI Summit – Nueva Delhi India 2026, se ha propuesto bajar de 36 a 3 horas el tiempo que tienen las redes sociales para eliminar un contenido por orden judicial.
Por su parte, la Unión Europea ha propuesto la prohibición de los deepfake sexualizados, ya que, en tan solo 11 días, los usuarios de X generaron tres millones de imágenes sexualizadas incluyendo 33.000 menores de edad, reveló el Centro para Contrarrestar el Odio Digital (Suarez, 2026).
- Deepfake y procesos electorales
En este punto, estamos ante un apartado peligroso, ya que hablamos de líderes que tomarán decisiones que tendrán consecuencias en el presente y futuro de un país.
El voto libre es tutelado, incluso, por la Convención Americana de los Derechos Humanos que en el literal b del artículo 23 señala que debe existir “el voto secreto que garantice la libre expresión de la voluntad de los electores”.
Una voluntad manipulada a través del deepfake no es libre; un voto que se ejerce creyendo una falsedad derivada de un deepfake no refleja la voluntad del elector.
El deepfake es lo contrario a la libre expresión, puesto que deteriora y contamina la libre expresión del ciudadano.
El uso generalizado de la tecnología deepfake supone un peligro importante para las instituciones democráticas mundiales y la credibilidad de los debates públicos, debido a que los deepfakes permiten crear contenido audiovisual falso que se ve muy realista . (Ramos-Zaga, 2024)
El riesgo del uso de los deepfake en el entorno electoral se agudiza si los perpetradores utilizan tecnologías como bots, trolls, inteligencia artificial, ciencia de datos, astroturfing, por mencionar algunas otras tecnologías.
6. Posible confusión ante los jueces
El discernimiento facial también puede llegar a afectar a jueces y magistrados, al momento de tomar decisiones a través de sus fallos y sentencias.
Los ‘deepfakes’ pueden ser introducidos como prueba en diferentes procesos al ser presentados como fuentes de prueba de naturaleza electrónica (Agencia española Infobae, 2025).
En sentido contrario, la contraparte puede señalar que un video auténtico sea un Deepfake (Universidad de Colorado, 2025), lo que requiere mayor preparación para jueces y jurados.
7. Otros derechos vulnerados
Además de la suplantación de identidad, las estafas financieras, la vulneración de la intimidad por videos sexualizados, daño masivo a la imagen personal, los derechos políticos a ejercer un sufragio sin engaños, el uso del “deepfake” también pueden implicar el mal uso de datos biométricos, invasión a la privacidad, poner en riesgo la salud mental de los afectados, inducir a suicidios, el derecho a la rectificación, derecho al olvido, por mencionar algunos.
8. Conclusiones
Si bien la tecnología es un avance importante para la sociedad, también deben analizar los aspectos negativos, a fin de contrarrestarlos en debida forma.
9. Bibliografía
Agencia española Infobae. (24 de mayo de 2025). Los juristas alertan del riesgo de que los ‘deepfakes’ lleguen a todo tipo de procesos judiciales. Obtenido de https://www.infobae.com/espana/agencias/2025/05/22/los-juristas-alertan-del-riesgo-de-que-los-deepfakes-lleguen-a-todo-tipo-de-procesos-judiciales/
Elliot, D. (4 de febrero de 2025). ‘This happens more frequently than people realize’: Arup chief on the lessons learned from a $25m deepfake crime. Obtenido de World Forum: https://www.weforum.org/stories/2025/02/deepfake-ai-cybercrime-arup/
IAON. (14 de enero de 2026). Los deepfakes como un problema real en la sociedad. Obtenido de IAON: https://www.ia-on.es/tendencias/los-deepfakes-en-la-sociedad/
Legal & Arts. (14 de noviembre de 2025). Dinamarca reconoce el derecho legal al propio rostro y voz para frenar los deepfakes. Obtenido de https://abogadosculturales.com/blog/derechos-autor-rostro-voz-deepfake/
Mejia Llano, J. (28 de enero de 2026). Usuarios de redes sociales en el mundo 2026: Facebook, Instagram, Tiktok, YouTube, LinkedIn, Pinterest, X y otros. Obtenido de https://www.juancmejia.com/marketing-digital/estadisticas-de-redes-sociales-usuarios-de-facebook-instagram-linkedin-twitter-whatsapp-y-otros-infografia/
Ramos-Zaga, F. (2024). Deepfake: Análisis de sus implicanciastecnológicas y jurídicas en la era de la inteligencia artificial. Obtenido de https://www.scielo.org.mx/pdf/dgedj/v9n27/2448-5136-dgedj-9-27-359.pdf
Suarez, E. (16 de marzo de 2026). EU busca eliminar plataformas de IA que generen deepfakes sexuales tras polémica con Grok, de X. Obtenido de https://contra-punto.mx/eu-busca-eliminar-plataformas-de-ia-que-generen-deepfakes-sexuales-tras-polemica-con-grok-de-x/
Universidad de Colorado. (abril de 2025). VIDEO’S DAY IN COURT. Obtenido de https://www.colorado.edu/lab/visualevidence/media/52
Leyes y convenios
- Convención Americana de los Derechos Humanos
Nota editorial:
El presente artículo refleja las opiniones y criterios de su autor/a, bajo su exclusiva responsabilidad.
La APANDETEC promueve un espacio plural para el intercambio de ideas y el desarrollo del pensamiento jurídico, por lo que las publicaciones no necesariamente representan una postura institucional.
Invitamos a otros profesionales a compartir sus análisis y contribuir a este diálogo.
