Deepfakes: Qué son, Cómo Funcionan y Regulación

¿Para qué sirven?

Las deepfakes son herramientas versátiles, por lo que pueden ser utilizados en una variedad de contextos, tanto para propósitos positivos como negativos. Algunos ejemplos son:

• Cine y televisión: Se usan para recrear la apariencia de actores ya fallecidos o para rejuvenecer la imagen de actores en pantalla, como se demostró con Carrie Fisher en “Rogue One: Una historia de Star Wars”.
• Marketing: Facilitan la participación de figuras públicas en campañas publicitarias sin necesidad de su presencia física.
• Desinformación y noticias falsas: Son utilizados para fabricar vídeos falsos de personajes famosos realizando acciones o declaraciones que nunca llevaron a cabo.
• Suplantación de identidad y estafa: Se usan para usurpar la identidad de individuos con el propósito de cometer fraudes y engaños.
• Acoso y chantaje: Han llegado a ser utilizados para crear contenido comprometedor falso de una persona y posteriormente utilizarlo para chantajear o acosar a dicha persona.

¿Cómo funcionan?

Éstas operan a través del machine learning, en particular, mediante el uso de técnicas de aprendizaje profundo y redes adversarias generativas (GAN). Te lo explicamos de mejor forma así:

• Recopilación de datos: Inicialmente, se requiere un vídeo de destino como base del deepfake, así como una colección de videoclips de la persona cuya apariencia se imitará. Estos videos pueden no estar relacionados entre sí. 
• Codificación automática: Se usa un programa de IA de aprendizaje profundo para analizar los videoclips y comprender cómo se ve la persona desde diversos ángulos y condiciones ambientales. Posteriormente, se realiza un mapeo de estas características comunes con el individuo.
• Redes adversarias generativas (GAN): Se añade otro tipo de aprendizaje automático denominado redes adversarias generativas. Estas redes detectan y corrigen posibles defectos en el deepfake, dificultando la detección por parte de sistemas de reconocimiento. Además, las GAN son utilizadas para la creación misma de las deepfakes, aprendiendo de grandes volúmenes de datos para generar nuevos ejemplos con una precisión más exacta.
• Software de deepfakes: Hoy en día existen múltiples programas que facilitan la generación de deepfakes, algunos de ellos accesibles incluso para principiantes. Ejemplos de estos son la aplicación china Zao o DeepFace Lab, FaceApp, Face Swap, etc.

Tipos de deepfakes

Las noticias falsas se pueden dividir principalmente en dos categorías, cada una con su propio propósito y técnica de generación:

• Deepface: Este se especializa en la creación de imágenes totalmente ficticias desde cero. Su uso principal radica en la modificación del rostro de una persona en una imagen o video, generando resultados visualmente convincentes.
• Deepvoice: las deepfakes de tipo deepvoice están diseñados para replicar la voz de una persona en un audio.
• Deepfake de cuerpo completo: A diferencia de Deepface, que se concentra en el rostro, este tipo de deepfake se centra en la manipulación de cuerpos completos en imágenes o videos. Es decir, es el usado para hacer que una persona parezca estar en lugares o situaciones en las que nunca estuvo.

Riesgos de las deepfakes

• Desinformación y noticias falsas: Pueden ser utilizados para crear videos falsos de figuras públicas realizando acciones o declaraciones ficticias, propagando la desinformación y socavando la confianza.
• Suplantación de identidad y fraude: Son utilizados para usurpar la identidad de individuos con el fin de cometer fraudes y engaños, teniendo consecuencias financieras y personales devastadoras.
• Acoso y chantaje: Ser usados para crear contenido comprometedor falso de una persona y luego chantajearla.
• Influencia en las elecciones: Existe la posibilidad de que las deepfakes se usen para influir en procesos electorales o incitar a disturbios civiles.
• Guerra psicológica: Tienen el potencial de convertirse en armas de guerra psicológica si efectivamente son utilizados para difundir propaganda o desinformación con el fin de desestabilizar a poblaciones enteras o sembrar discordia en países y comunidades.
• Manipulación de los mercados financieros: Se pueden utilizar para difundir información falsa sobre empresas o eventos económicos, generando volatilidad y pérdidas de dinero.

¿Cómo detectar un deepfake?

Identificar una noticia falsa representa un total desafío debido a la sofisticación de la tecnología utilizada en su creación, y el hecho de que dicha tecnología cada vez avanza más. Sin embargo, si existen algunas claves que ayudan a identificarlos. Te las contamos a continuación:

• Bordes del intercambio de caras: Observar con detenimiento los bordes de las caras puede revelar incoherencias visuales, especialmente cerca de la ropa, el cabello o las joyas. 
• Pendientes: La precisión en la reproducción de joyas complicadas es muy difícil para los algoritmos de las GAN. 
• Gafas: Las gafas suelen ser un indicador muy útil para detectar manipulaciones en los videos. Cualquier distorsión o inconsistencia en el aspecto de las gafas que revelaría estar presenciando un deepfake. 
• Fondo: Si el fondo parece irreal o distorsionado de manera poco natural, podría indicar la presencia de un deepfake. 
• Dientes: Los algoritmos encuentran dificultades para generar dientes de forma precisa. Por lo tanto, si los dientes en una foto o video parecen borrosos o carecen de detalles definidos, es muy probable que se trate de un deepfake. 

Ejemplos de deepfake

Video de Jordan Peele como Barack Obama

El actor Jordan Peele participó en un video producido por BuzzFeed en el que su rostro fue reemplazado digitalmente por el del expresidente Barack Obama. Aunque se advirtió al inicio que era falso, la calidad realista del deepfake llamó la atención. Peele utilizó esta oportunidad para crear conciencia sobre las deepfakes y sus posibles consecuencias.

Personas (y gatos) que no existen

El sitio web “This Person Does Not Exist” genera imágenes de rostros humanos utilizando tecnología GAN. Aunque muchos de los resultados son impresionantemente realistas, ocasionalmente se pueden observar fallas y un efecto general como de “valle misterioso”. Este concepto ha inspirado otros proyectos, como “This Cat Does Not Exist”.

Deepfake del presidente Zelenski

Durante la guerra entre Ucrania y Rusia en marzo de 2022, se difundió un deepfake del presidente ucraniano Volodímir Zelenski. En el video, se falsificó un mensaje en el que se pedía la rendición de las fuerzas ucranianas al ejército ruso. Este caso fue especialmente preocupante, ya que un canal de televisión ucraniano llegó a emitir el video falsificado, lo que generó confusión y desinformación de forma masiva. Las autoridades tuvieron que intervenir para desmentir el video y evitar una mayor propagación de dicha desinformación.

¿Cómo protegerse de las deepfakes?

Está clara la amenaza que las deepfakes representan pero, ¿cómo protegerse de ellas? Te damos algunos consejos:

• Comparte con cuidado: Sé prudente al compartir información personal en línea. Limita la cantidad de datos disponibles sobre ti, especialmente fotos y vídeos de alta calidad.
• Habilita una configuración de privacidad sólida: Aprovecha al máximo las opciones de configuración de privacidad para controlar quién puede acceder a tu información y contenidos personales. 
• Marca de agua en las fotos: Considera la posibilidad de agregar una marca de agua digital a tus imágenes o vídeos al compartirlos en Internet. Esto podría llegar a disuadir a los creadores de deepfakes, ya que hace que sus esfuerzos sean más rastreables.
• Infórmate sobre deepfakes e IA: Mantente al tanto de los últimos avances en inteligencia artificial generativa y deepfakes. Estar informado sobre cómo funcionan y cómo se pueden detectar te ayudará a mantenerte alerta y tomar las mejores medidas para protegerte.
• Reduce al mínimo los canales de comunicación empresarial: Si tienes una empresa, asegúrate de tener una distribución coherente de la información y desarrolla un plan de respuesta para combatir la desinformación. 

¿Qué dice el derecho digital acerca de esto?

• Derecho al honor: las deepfakes son capaces perfectamente de infringir el derecho fundamental al honor de una persona, constituyendo delitos de injurias o calumnias.
• Libertad de expresión: Si bien la libertad de expresión es un derecho fundamental, tiene límites establecidos en la ley, como el derecho al honor, la intimidad y la propia imagen. las deepfakes pueden entrar en conflicto con estos límites, por ende se requiere un equilibrio entre la libertad de expresión y la protección de otros derechos.
• Regulación de la IA: La Comisión Europea ha propuesto un reglamento de IA para armonizar su uso y establecer normas de transparencia. Esto incluye regulaciones específicas para los sistemas de IA utilizados en la generación o manipulación de contenidos de imagen, audio o vídeo.
• Regulaciones internacionales: Varios países, como China y Estados Unidos, están implementando regulaciones sobre el uso de deepfakes, incluyendo sanciones penales por la difusión de vídeos falsos. 
• Propiedad intelectual: La autenticidad de los contenidos generados por deepfakes plantea desafíos muy complicados en términos de propiedad intelectual. Determinar la autoría y la autenticidad de estos contenidos es difícil y requiere enfoques legales muy específicos.
• Detección de deepfakes: Se están desarrollando herramientas de detección de deepfakes, como el Deep Fake Detector Challenge de Facebook, Microsoft y la Universidad UC Berkeley. Estas iniciativas buscan mitigar los riesgos asociados con las deepfakes y fortalecer la capacidad de detectar y abordar su uso indebido.

¿Te gustaría aprender más sobre derecho digital?

El mundo digital está en constante transformación, y el derecho no puede quedarse atrás. En EBIS tenemos un Máster en Derecho Digital Online  que te preparará para afrontar los retos legales del presente y del futuro, brindándote una formación de excelencia en las áreas más relevantes del derecho digital. ¿Que serás capaz de hacer una vez finalizado el máster?

• Comprender los fundamentos del derecho digital: Teoría del derecho digital, derecho constitucional digital, derecho administrativo digital, derecho civil digital, derecho mercantil digital, etc.
• Especializarte en áreas de vanguardia: Protección de datos y privacidad, propiedad intelectual, ciberseguridad, comercio electrónico, big data, IA para redes sociales, IoT, blockchain, inteligencia artificial y bigdata, metaverso, criptomonedas, etc.
• Desarrollar habilidades prácticas: Análisis de casos, resolución de problemas, negociación, redacción jurídica, etc.
• Realizar prácticas profesionales: Pondrás en práctica tus conocimientos en empresas líderes del sector y mucho más.

Estudiando en EBIS Business Techschool conseguirás:

• Obtener un título oficial: Máster Universitario en Derecho Digital, Inteligencia Artificial y Blockchain.
• Aprender con una metodología innovadora: Clases online en directo, casos prácticos, tutorías personalizadas y un campus virtual intuitivo.
• Flexibilidad: Estudiar a tu ritmo y desde cualquier lugar del mundo.
• Red de contactos: Ampliar tu red profesional y conectar con los mejores expertos del sector.
• Acceso de por vida: Tendrás acceso de por vida a nuestra plataforma por lo que siempre te mantendrás a la vanguardia en tu profesión.

Comienza hoy a formarte sobre el futuro. 

Conclusión 

Ha quedado más que claro que las deepfakes representan un desafío significativo en el panorama mediático actual. Si bien esta tecnología ofrece posibilidades fascinantes para la creación de contenido digital, también plantea serias amenazas. 

Es imperativo que se tomen medidas para abordar estos riesgos y garantizar que como sociedad estemos adecuadamente protegidos contra el potencial abuso de las deepfakes. En todo esto, la regulación juega un papel crucial, pero también se necesita de una colaboración activa entre la industria, los investigadores y los responsables políticos para desarrollar soluciones efectivas. En última instancia, enfrentar este desafío requiere un enfoque multifacético y proactivo que reconozca tanto los beneficios como los peligros de la tecnología, y que busque equilibrar la innovación con la protección de los derechos.