Alerta de ciberseguridad por las Deepfake

En los últimos meses han salido a la luz una serie de vídeos en los que algunos famosos aparecen diciendo cosas que, en realidad, nunca dijeron, son los llamados Deepfake.

Su proliferación es tal y con tan variados intereses que el FBI (Oficina Federal de Investigaciones) se ha visto obligada a emitir una nota advirtiendo a las empresas que "los piratas informáticos aprovecharán el contenido sintético para las operaciones cibernéticas de influencia extranjera en los próximos 12 a 18 meses". 

En la nota, el FBI anticipa que los deepfakes "serán cada vez más utilizados por ciber actores extranjeros y criminales para el spear phishing y la ingeniería social en una evolución del comercio cibernético". 

Chris Ume, especialista belga en efectos especiales, generó gran revuelo en las redes cuando colgó varios vídeos de Tom Cruise utilizando técnicas de deepfake.

 

En una  entrevista con The Verge, el especialista explicó que durante dos meses estuvo entrenando a los modelos base de IA (Inteligencia Artificial) para que los clips de Tik Tok resultaran convincentes. Todo y con eso –dice– tuvo que revisar cada video, frame a frame, para hacer pequeños ajustes.

Los deepfakes utilizan el aprendizaje automático y un tipo de red neuronal llamada codificador automático para crear las imágenes. Un codificador que consigue superponer el rostro de una persona en el de otra y falsificar sus gestos para hacernos creer que están haciendo o diciendo algo que no ha pasado en realidad.

Los primeros vídeos falsificados con esta tecnología se empezaron a ver hace un par de años. En ellos se habían manipulados los rostros de varias actrices internacionales, como Natalie Portman o Emma Watson, para que encajaran en cuerpos de actrices de la industria pornográfica.

La nota del FBI señala que en 2020, se detectaron numerosos casos de actores en ruso y chino que usaban imágenes de perfil falsas para crear cuentas falsas de redes sociales en línea, conocidas como "Sockpuppet ". Estos relatos aparentemente auténticos han sido utilizados por gobiernos hostiles para impulsar la propaganda y participar en campañas de influencia social. 

En 2017, por ejemplo, The Independent publicó  un artículo elaborado por un “periodista” ficticio. Según el FBI, el uso de deepfakes para desarrollar una presencia en línea y crear "periodistas" ficticios que generan contenido que pueda ser publicado y compartido sin saberlo por varios medios impresos puede aumentar drásticamente en un futuro cercano. 

El FBI también advierte sobre un vector de ataque recientemente definido como "Compromiso de identidad empresarial” (BIC en sus siglas en inglés), mediante el cual los ciberatacantes malintencionados aprovecharán los medios sintéticos y los deepfakes para cometer ataques contra el sector privado. 

La Oficina dice que los malos actores usarán herramientas deepfake para crear "personas corporativas sintéticas" o hacerse pasar por empleados existentes, para cometer ataques que probablemente tendrán "impactos financieros y de reputación muy significativos para las empresas y organizaciones víctimas". 

Ahora conviene recordar a Einstein, quien dijo que "no sé con qué armas se combatirá la tercera guerra mundial, pero la cuarta se peleará con palos y piedras". No profesor, se combatirá en el ciberespacio aunque no podía saber qué era.