Deepfake
El término «deepfake» hace referencia a un tipo de contenido multimedia sintético que combina material audiovisual ya existente con técnicas de inteligencia artificial (IA) para crear contenido manipulado o falsificado que parece auténtico. El término «deepfake» deriva de las palabras «deep learning» (aprendizaje profundo) y «fake» (falso). Los algoritmos de aprendizaje profundo se utilizan para analizar y aprender patrones a partir de un amplio conjunto de datos de imágenes o vídeos, que luego se emplean para generar o modificar contenidos de forma realista.
La tecnología deepfake puede utilizarse para superponer el rostro de una persona sobre el cuerpo de otra, o para alterar expresiones, el habla o los gestos en un vídeo. Los algoritmos de IA son capaces de captar los detalles y matices más sutiles para crear contenidos muy convincentes y engañosos.
Tipos de deepfakes
Los deepfakes pueden adoptar varias formas distintas, cada una con diferentes capacidades y aplicaciones:
Deepfakes de vídeo
- Deepfakes de intercambio de rostros: sustituyen el rostro de una persona por el de otra en un contenido de vídeo
- Recreación facial: manipula las expresiones faciales, los movimientos de los ojos y los de la boca
- Manipulación de todo el cuerpo: controlan los movimientos y gestos de todo el cuerpo
Deepfakes de audio (clonación de voz)
- Síntesis de voz: generar un discurso totalmente nuevo con la voz de alguien
- Conversión de voz: transformar la voz de una persona para que suene como la de otra
- Modificación del acento y del idioma: cambiar los patrones de habla y los idiomas
Deepfakes basados en texto
- Contenido escrito generado por IA: crear publicaciones falsas en redes sociales, artículos o mensajes
- Suplantación de identidad mediante IA conversacional: simular el estilo de escritura y la personalidad de alguien
Ejemplos comunes
Entre las aplicaciones de los deepfakes en el mundo real se incluyen:
- Intercambio de rostros de famosos en contenidos virales de las redes sociales
- Manipulación de figuras políticas en contenidos de campaña engañosos
- Recreación de personas fallecidas para películas y documentales
- Suplantación de ejecutivos de empresas en estafas
- «Deepfakes» de venganza dirigidos a particulares
- Recreaciones educativas de personajes históricos
Cómo se crean los deepfakes
El proceso de creación implica varios componentes clave:
Requisitos técnicos
- Redes generativas adversarias (GAN): dos modelos de IA compiten entre sí; uno crea contenido falso y el otro detecta las falsificaciones
- Grandes conjuntos de datos: de cientos a miles de imágenes u horas de vídeo o audio de la persona en cuestión
- Potencia de cálculo: tarjetas gráficas de gama alta o recursos de computación en la nube
- Software especializado: tanto herramientas comerciales como aplicaciones de código abierto
Pasos para la creación
- Recopilación de datos: Recopilación de material de origen de la persona objetivo
- Entrenamiento: los modelos de IA aprenden patrones faciales, expresiones y características de la voz
- Generación: Creación de nuevo contenido sintético basado en los patrones aprendidos
- Perfeccionamiento: mejora de la calidad mediante múltiples iteraciones y ajustes manuales
Niveles de accesibilidad
- Nivel profesional: Requiere conocimientos técnicos y recursos considerables
- Aplicaciones para el consumidor: aplicaciones móviles simplificadas y herramientas basadas en la web
- Servicios automatizados: plataformas de generación de deepfakes con un solo clic
Usos legítimos frente a aplicaciones nocivas
Aplicaciones legítimas
- Industria del entretenimiento: resucitación digital de actores, doblaje rentable
- Educación: recreaciones de personajes históricos para un aprendizaje inmersivo
- Accesibilidad: recuperación de la voz para pacientes médicos
- Formación empresarial: Contenidos multilingües de portavoces
- Arte y creatividad: instalaciones de arte digital y medios experimentales
Aplicaciones nocivas
- Campañas de desinformación: discursos y declaraciones políticas falsas
- Robo de identidad: suplantación de identidad con fines de fraude financiero
- Contenido íntimo sin consentimiento: Creación de material explícito sin permiso
- Ciberacoso: acoso mediante contenido vergonzoso manipulado
- Manipulación del mercado: declaraciones falsas de directores ejecutivos que afectan a la cotización bursátil
Detección y prevención
Técnicas de detección
- Análisis técnico: examen de artefactos de compresión, inconsistencias en la iluminación y anomalías a nivel de píxel
- Análisis conductual: identificación de patrones de parpadeo antinaturales, movimientos faciales y patrones de habla
- Herramientas de detección basadas en IA: software especializado diseñado para identificar contenido sintético
- Verificación mediante blockchain: prueba criptográfica de la autenticidad del contenido
Limitaciones actuales
La tecnología de detección suele ir a la zaga de las capacidades de creación, lo que genera una carrera armamentística tecnológica constante entre creadores y detectores.
Panorama normativo
Evolución jurídica
- Legislación penal: muchas jurisdicciones clasifican ahora los «deepfakes» maliciosos como delitos penales
- Políticas de las plataformas: las empresas de redes sociales implementan sistemas de detección y eliminación
- Normas del sector: desarrollo de protocolos de autenticación de contenidos
- Cooperación internacional: iniciativas transfronterizas para combatir el uso indebido de los «deepfakes»
Si bien la tecnología de los «deepfakes» tiene potencial para fines de entretenimiento y creativos, también plantea graves riesgos. El rápido avance y la accesibilidad de esta tecnología exigen una mayor concienciación, el desarrollo de técnicas de detección y la elaboración de directrices éticas para mitigar los posibles daños.
