Utilizan Deepfakes para manipular niños en la web

Centroamérica, 27 de junio de 2022. ESET, compañía líder en detección proactiva de amenazas, desde su iniciativa Digipadres, que busca acompañar a madres, padres y docentes en el cuidado de los niños dice que los deepfakes (del inglés “deep”: profundo y “fake”: falso) utilizan el aprendizaje profundo (una forma de aprendizaje automático) para crear imágenes, videos o audios que falsifican acontecimientos. Suelen duplicar la voz y/o los rasgos faciales de un individuo para luego pegarlos en una grabación o fotografía existente.

“Imagina que eres un niño tímido que se siente intimidado por sus compañeros. Un día, un grupo de chicos se ríe de ti y no entiendes bien el motivo. Luego te muestran un video de la película Forest Gump donde el rostro del protagonista fue reemplazado por el tuyo. El video es, por supuesto, falso, o más concretamente, un “deepfake”. Las versiones más simples de deepfakes se pueden confeccionar fácilmente utilizando aplicaciones móviles, como FaceApp o FaceSwap, pero los más complejos suelen requerir cierta habilidad y un equipo técnico especializado“, comenta Camilo Gutiérrez, jefe del Laboratorio de Investigación de ESET Latinoamérica.

Desde Digipadres comentan que aunque se suele hablar sobre este tema, es raro que se hable de cómo ponen en peligro a los niños. Con el desarrollo de apps que ponen los deepfakes en manos de una gran variedad de personas, los videos sintetizados han llegado a las escuelas y se han convertido en un medio para el acoso, por ejemplo, incluir el rostro de una chica tímida en un video musical de mujeres con poca ropa bailando provocativamente. Aunque los creadores de estos videos pueden considerar sus acciones como una fuente inocente de entretenimiento, los deepfakes pueden hacer que el infante al que van dirigidos experimente vergüenza y pueden dañar fácilmente su relación con la escuela por la desagradable experiencia.

Sin embargo, los deepfakes también pueden utilizarse para el bien. Por ejemplo, al permitir que los niños se conviertan en protagonistas de sus programas, videojuegos y películas favoritos. El Museo Dalí de Florida ha utilizado los deepfakes para generar videos interactivos del artista catalán. El deepfake de Dalí ahora puede saludar a los visitantes e incluso responderles, haciendo el museo más atractivo para el público joven. Por eso, Gutiérrez Amaya de ESET señala que: “como ocurre con otras tecnologías, sería precipitado juzgar los deepfakes como algo puramente negativo sin tener en cuenta sus posibles beneficios. Aun así, hay que tomar medidas para evitar el uso malicioso de los deepfakes contra los niños y niñas”.