Tabla de contenidos
En la encrucijada de la tecnología y la creatividad, un fenómeno extraordinario ha surgido para desafiar nuestra percepción de la realidad y la ficción en la era digital. Los Deepfakes, un término que ha adquirido notoriedad en los últimos años, representan una revolución tecnológica que merece una exploración profunda y reflexiva. Su existencia ha impactado en campos tan diversos como el entretenimiento, la política y la información. Y aunque en sus inicios resultaba algo «gracioso», se ha convertido en algo que también puede ser notablemente peligroso para la sociedad desinformada.
¿Qué es un Deepfake?
Los Deepfakes son una manifestación extraordinaria del poder de la inteligencia artificial, específicamente del aprendizaje profundo. En su núcleo, los Deepfakes son creaciones digitales que pueden engañarnos haciéndonos creer que lo que vemos y escuchamos es genuino. Estas simulaciones son tan realistas que desdibujan la línea entre la realidad y la invención, desafiando nuestras nociones tradicionales de veracidad.
Un ejemplo de Deepfake
Un ejemplo sencillo de Deepfake que muchas personas han visto es la inserción del rostro del actor Nicolas Cage en diversas películas y programas de televisión. Este tipo de Deepfake se hizo viral en línea y se convirtió en una forma humorística de mostrar el potencial de la tecnología.
Por ejemplo, podrías haber visto a Nicolas Cage en el papel de Luke Skywalker en «Star Wars» o interpretando a los personajes principales en películas icónicas como «James Bond» o «El Padrino». Estos vídeos manipulados utilizan algoritmos de aprendizaje profundo para reemplazar el rostro de los actores originales con el de Nicolas Cage, creando una ilusión sorprendentemente convincente de que el actor estuvo presente en esas películas.
Este tipo de Deepfake es un ejemplo entretenido de cómo la tecnología puede alterar de manera notable contenido audiovisual para crear una experiencia cómica y surrealista. Sin embargo, también destaca la importancia de ser conscientes de la existencia de esta tecnología y de sus implicaciones más serias en términos de desinformación y manipulación de medios.
La tecnología detrás de los Deepfakes: mucho que ver con la inteligencia artificial
El término «Deepfake» surge de la combinación de dos elementos clave. «Deep,» aludiendo al «deep learning» o aprendizaje profundo, que constituye el corazón de esta tecnología, y «fake,» que implica la artificialidad inherente de lo que se presenta.
En el corazón de los Deepfakes se encuentran las redes neuronales artificiales, que son modelos matemáticos inspirados en la estructura y el funcionamiento del cerebro humano. Estas redes son capaces de aprender patrones complejos a partir de grandes conjuntos de datos.
Los Deepfakes emplean específicamente el aprendizaje profundo, una técnica de inteligencia artificial que utiliza múltiples capas de redes neuronales (de ahí su nombre «profundo») para aprender y representar datos de manera jerárquica y compleja.
Para que un Deepfake sea convincente, es necesario entrenar el modelo con una gran cantidad de datos, como imágenes y vídeos de la persona cuya identidad se quiere replicar. Esto permite al modelo aprender los matices de la apariencia y el comportamiento de esa persona.
Para crear Deepfakes, se utilizan redes GAN (Generative Adversarial Networks), que constan de dos redes neuronales: el generador y el discriminador.
El generador crea contenido falso, como una imagen o un vídeo que pretende ser auténtico.
El discriminador evalúa si el contenido generado es real o falso. Estas dos redes «compiten» en un proceso de retroalimentación constante.
Los peligros de los Deepfakes con la desinformación
Aunque puede resultar gracioso ver a Nicolas Cage actuando como Luke Skywalker, lo cierto es que los Deepfakes pueden llegar a ser muy peligrosos cuando se utilizan como herramientas para manipular a la sociedad.
Los Deepfakes pueden utilizarse para crear vídeos convincentes que difunden información falsa o engañosa. Esto puede socavar la confianza en las fuentes de noticias y propagar teorías de conspiración, desinformación política y noticias falsas.
Si bien es cierto que un usuario avanzado y entrenado podría llegar a diferenciar aquellos Deepfake que no han sido perfeccionados, lo cierto es que el avance a nivel tecnológico hace que hoy en día sea casi imposible diferenciar el Deepfake de la realidad.
Los Deepfakes pueden utilizarse para falsificar discursos de líderes políticos, lo que podría tener consecuencias graves en la política internacional y la seguridad nacional. La habilidad para manipular imágenes y discursos de figuras políticas podría desencadenar conflictos y malentendidos.
A medida que los Deepfakes se vuelven más sofisticados, las personas pueden volverse escépticas hacia cualquier contenido audiovisual, lo que socava la confianza en los medios y la información veraz.
A todo esto hay que sumar la viralidad que pueden ganar estos Deepfakes en redes sociales, haciendo que unas declaraciones de un determinado gobernante puedan extenderse al mundo entero antes incluso de que haya tiempo de desmentirlo.
¿Puede un usuario con conocimientos básicos de informática crear un Deepfake?
El auge de herramientas de inteligencia artificial ha llevado a que hoy en día cualquier usuario con un nivel moderado de habilidades técnicas pueda crear un Deepfake más o menos convincente. Aunque la creación de Deepfakes en su forma más avanzada todavía requiere un conocimiento técnico sólido y una potencia de cómputo considerable, las herramientas de generación de Deepfakes han evolucionado y se han vuelto más accesibles.
De hecho, aunque sería más complejo generar un discurso completo de un gobernante, no es tan difícil generar pequeños fragmentos de vídeo con una simple declaración.
Existen aplicaciones y software que ofrecen interfaces de usuario amigables, lo que permite a las personas sin experiencia técnica generar Deepfakes de manera relativamente sencilla. Estas herramientas suelen utilizar modelos pre-entrenados y guía al usuario a través del proceso. Algunas plataformas en línea ofrecen servicios de generación de Deepfakes basados en la nube, lo que significa que los usuarios no necesitan una potente computadora. Estas plataformas simplifican el proceso y hacen que la generación de Deepfakes sea más accesible.
Estafas de nueva generación con los Deepfakes
El uso de Deepfakes en estafas es un tema de creciente preocupación debido a la capacidad de esta tecnología para engañar a las personas de manera convincente. Los estafadores pueden utilizar Deepfakes para suplantar la identidad de una persona de confianza, como un familiar o un colega, y solicitar fondos o información confidencial. Los destinatarios pueden caer en la trampa al creer que están interactuando con la persona real.
Los estafadores pueden crear vídeos o grabaciones de audio falsos de autoridades financieras, como banqueros o asesores de inversiones, para persuadir a las víctimas de que realicen transacciones financieras perjudiciales.
Estas estafas también pueden cobrar especial relevancia en el ámbito empresarial, donde una gran transacción realizada de forma errónea puede tener consecuencias importantes para cualquier organización, y hacia las cuales hay un especial interés por parte de estafadores debido a las grandes cifras que se manejan respecto a una estafa a nivel particular.
