Deepfake: Una realidad que crea hechos falsos
Deepfake es una forma de tecnología de manipulación de vídeo basada en la IA en la que se crean vídeos falsos superponiendo imágenes, vídeo o audio de una fuente a otra.
Es importante tener en cuenta que esta tecnología está todavía en sus inicios y, aunque su uso se limita por el momento al ámbito de las demostraciones tecnológicas, tiene el potencial de convertirse en un cambio de juego en muchos aspectos de la vida, desde el entretenimiento hasta la política.
Deepfake es una herramienta en línea que permite a los usuarios crear vídeos falsos utilizando imágenes, audio o texto existentes.
La tecnología deepfake se ha utilizado para muchos fines reprobables.
Por ejemplo, en las plataformas de las redes sociales circulan vídeos pornográficos falsos que utilizan los rostros y las voces de los famosos para vender porno.
Del mismo modo, los políticos han encontrado en el deepfake la posibilidad de poner a sus rivales en situaciones embarazosas cambiando sus palabras originales durante un discurso o debate grabado.
Con el Máster en Inteligencia Artificial CEUPE dominarás técnicas para el diseño de inteligencia artificial como el aprendizaje, la planificación o la búsqueda. Todo ello con el objetivo de ser un profesional capaz de analizar qué problemas se pueden afrontar con la inteligencia artificial y saber desarrollar una solución a los mismos.
¿Qué es el deepfake?
El deepfake es una forma de medios generados por la IA en los que se aplica el rostro de una persona al cuerpo de otra. Puede hacerse con vídeos e incluso con archivos de audio.
En estos vídeos generados, la voz del sujeto se sintetiza para que coincida con sus movimientos faciales, y el vídeo resultante parece sin fisuras.
Un vídeo deepfake puede ser realizado por un solo individuo utilizando sus propios recursos y conocimientos, o puede hacerse por encargo de una empresa o grupo que quiera utilizar la tecnología deepfake para diversos fines.
Los medios generados por deepfakes se han utilizado con fines de entretenimiento y también como propaganda, especialmente durante las campañas políticas.
Un deepfake es un archivo de vídeo o audio manipulado, normalmente uno en el que se ha intercambiado la cara o la voz del sujeto.
El propio nombre se acuñó como una combinación de «deep learning» (la forma más común de inteligencia artificial utilizada para crear deepfakes) y «fake».
Los deepfakes suelen crearse mediante algoritmos de aprendizaje automático: un programa informático analiza los rasgos faciales y los patrones de voz del sujeto y luego los aplica a la imagen o la grabación de la otra persona.
Aunque es muy divertido ver a los famosos hacer cosas divertidas que nunca habrían hecho en la vida real, los deepfakes también pueden utilizarse con fines más serios.
A diferencia de Photoshop, que es famoso por ser fácil de detectar cuando una imagen ha sido alterada, los deepfakes son a menudo difíciles de detectar porque utilizan tecnología avanzada que puede simular expresiones y movimientos muy creíbles.
Aunque mucha gente todavía no es consciente de ellos, no pasará mucho tiempo antes de que empecemos a ver deepfakes por todas partes.
¿Es el deepfake una amenaza?
Nuestro mundo está ahora lleno de mucha tecnología y no podemos imaginar cómo sería nuestra vida sin ella.
Dependemos tanto de la tecnología que se ha convertido en una necesidad para nuestra supervivencia.
Pero con el desarrollo de la tecnología, algunas amenazas también están aumentando en nuestra sociedad. Deepfake es una de ellas.
Los «deepfakes» son una tecnología que permite a cualquiera alterar las grabaciones de audio y vídeo para cambiar su significado, por ejemplo, cambiando las palabras o expresiones de una persona en una grabación de vídeo.
Esto puede utilizarse para crear contenido malicioso, como añadir comentarios racistas o declaraciones falsas a una grabación de políticos.
Este contenido puede distribuirse fácilmente en plataformas de redes sociales como Youtube y Twitter.
Se ha argumentado que esta tecnología ha creado una oportunidad para que los actores maliciosos manipulen al público y provoquen el caos, por ejemplo, haciendo que la gente desconfíe de un político.
Una breve historia de los vídeos falsos
A principios del siglo XX se creó lo que se conoce como el primer vídeo «falso», con imágenes alternas de un ser humano caminando entre dos árboles.
En realidad, sólo se cambiaron las fotos fijas para crear la ilusión de movimiento, ya que aún no se había inventado la tecnología para grabar y reproducir imágenes en movimiento.
La tecnología para grabar y reproducir imágenes en movimiento se inventaría en los años siguientes, pero no fue hasta la década de 1950 cuando empezamos a ver los primeros ejemplos de lo que podrían considerarse vídeos falsos.
Estos vídeos falsos rara vez eran malintencionados, pero causaban cierta confusión y controversia.
Algunos programas de la época incluso crearon sus propias versiones de antiguos noticiarios para utilizarlos como transiciones entre los segmentos del programa.
Las imágenes eran a menudo tan convincentes que el público pensaba que estaba viendo acontecimientos históricos reales.
En tiempos más modernos, los vídeos falsos son cada vez más sofisticados y convincentes.
Además de los programas de televisión y las películas, ahora los políticos son objeto de vídeos deepfake que parecen lo suficientemente reales como para influir en la opinión de los votantes y cambiar los resultados de las elecciones.
¿Cómo funcionan los deepfakes?
Los deepfakes son una de las tecnologías más controvertidas y vanguardistas de los últimos años, pero sorprendentemente también son una de las más fáciles de entender.
Los deepfakes -que no es más que una combinación de «deep learning» y «fake»- son imágenes o vídeos generados por ordenador que están diseñados para parecerse a personas reales.
Se crean utilizando lo que se llama una red generativa adversarial (GAN), que consiste en dos redes neuronales que trabajan juntas para crear imágenes de aspecto realista.
La primera red de la GAN, llamada generadora, recibe una entrada aleatoria y genera una imagen basada en esa muestra.
Las imágenes en sí mismas pueden no parecerse en nada a lo que se espera de un rostro humano, por lo que entra en juego la segunda red, llamada discriminadora, que examina la imagen generada para determinar si parece real.
Si no pasa la prueba de ser realista, el generador toma esa información y lo vuelve a intentar, creando otra muestra para alimentar al discriminador hasta que éste le dé su visto bueno.
La imagen resultante vuelve a pasar por ambas redes, añadiendo cada vez más datos, hasta que la imagen tiene todos los detalles necesarios para parecer una persona real.
¿Cuál es el futuro del deepfake?
La tecnología deepfake lleva un tiempo en los titulares, a medida que se va sofisticando la tecnología que permite editar los rostros de las personas en las películas.
Y aunque existe desde hace unos años, su importancia ha aumentado recientemente, hasta el punto de que está empezando a causar cierta preocupación.
Cuando el gigante de las redes sociales Facebook lanzó una aplicación llamada Deep Nostalgia, que utiliza un software de animación facial para animar fotos de personas muertas y hacer que parezca que se mueven y hablan, algunas personas se mostraron comprensiblemente sorprendidas.
Pero hay muchos casos en los que esta tecnología podría ser muy útil.
Por ejemplo, en los casos médicos en los que los pacientes con síndrome de enclaustramiento son incapaces de moverse o hablar, deepfakes podría permitirles comunicarse con el mundo exterior mapeando sus expresiones faciales en un rostro generado por ordenador.
Del mismo modo, el deepfake podría ayudar a los terapeutas a desbloquear los recuerdos de la primera infancia mapeando sus rostros en los de niños con rasgos similares.
¿Cómo se puede saber si un vídeo es un deepfake?
Los vídeos de Deepfake son tan realistas que cada vez es más difícil diferenciar un vídeo real de uno falso.
Los vídeos casi siempre requieren un software de aprendizaje automático, que puede tardar horas o incluso días en manipular las imágenes.
Aunque se requiere una tecnología sofisticada para hacer deepfakes, hay algunas señales en las que puedes fijarte al ver un vídeo para determinar si es real o falso.
Uno de los signos más evidentes de un deepfake es que el vídeo no tenga audio.
El software de deepfake tiene problemas para incorporar el audio, por lo que esto podría ser un fuerte indicador de que el vídeo no es real.
Sin embargo, algunos usuarios entrenados pueden incluir audio con sus deepfakes.
Otra forma de saberlo es observando los movimientos de la boca del sujeto en el vídeo.
Los creadores de deepfakes suelen tener dificultades para replicar el movimiento natural de los labios y puede que no tengan acceso a suficientes datos de entrenamiento para hacerlo bien.
Si ves un movimiento de la boca poco natural en un vídeo, debería ser una señal de alarma.
Por último, presta atención a los patrones de parpadeo no naturales en los ojos de las personas.
Si alguien parpadea continuamente a lo largo de un vídeo, probablemente se deba a que sus ojos fueron añadidos mediante un software de aprendizaje automático y no como parte de su constitución física.
Conclusión: El aprendizaje profundo ha hecho posible crear vídeos falsos con relativa facilidad.
No cabe duda de que la amenaza que suponen los vídeos deepfake realistas es motivo de preocupación.
Mientras los programadores de software debaten sobre lo que se puede y se debe hacer al respecto, la mejor defensa contra los deepfakes puede ser el ojo humano y el sentido común.
Es importante mantenerse alerta en Internet y no caer en el hastío o la complacencia sobre la integridad de los medios que vemos en línea.
Confíe en sus ojos, en sus instintos y en la investigación de las afirmaciones que parecen demasiado buenas para ser ciertas, en lugar de tomarlas al pie de la letra.
