Francamente... Posthumano
La tecnología del deepfake – La identidad en crisis

Quien suba fotos suyas a internet puede volverse presa fácil de los deepfakes. Las computadoras ya pueden usar rostros sacados de fotografías para elaborar fake news o videos porno falsificados. A Liwen Qin le preocupan las nuevas posibilidades de la tecnología.

De Liwen Qin

¿Vio la película Rogue One: A Star Wars Story, de 2016? Si sí, recordará al Gran Moff Tarkin y a la joven princesa Leia. Ambos son buenos actores, pero no son “auténticos”. Los realizadores usaron tecnologías de face swapping y videosíntesis, para reconstruir los rostros de los actores originales y colocarlos encima de los dobles artificiales. Nadie fue capaz de descubrir el truco. Entretanto esta tecnología está poniendo a la sociedad antes desafíos irresolubles.

Las computadoras están aprendiendo todo el tiempo a falsificar mejor

La tecnología que genera imagen y sonido con la ayuda de una inteligencia artificial se conoce como “deepfake”, una combinación de los conceptos “Deep learning” y “Fake”. Por años, este truco de magia se usó en la industria del entretenimiento y en la pornografía. Sólo que ahora se ha dado un paso más: usando los gestos de una persona –tomados de fotos o videos–, la inteligencia artificial puede sintetizar un modelo nuevo completo de esa persona. Incluso es capaz de producir un modelo de su rostro a partir de una sola imagen, aunque esos resultados todavía no son muy convincentes. Los deepfakes se desarrollan en plataformas open source, donde diariamente se les retoca y mejora.

Es posible producir desnudos y pornos falsos

Las personas públicas, como políticos y políticas y celebridades, de quienes existen grandes cantidades de imágenes públicas, son presa fácil de la tecnología deepfake. Sus rostros podrían ser usados en fake news o en videos porno falsificados. La gente cada vez sube más selfies y videos breves de sí mismos a internet, sin pensar que la tecnología puede ser usada contra ellos de manera malintencionada. Tales casos cada vez son más frecuentes. El estado norteamericano de Virgina hace poco se vio obligado a complementar una ley sobre el “Revenge Porn”, de modo que ésta ahora también abarca los deepfakes. De esa manera se pretende impedir que personas vengativas utilicen la tecnología para dañar a sus ex cónyuges y ex amantes. Hace poco se subió a internet una app llamada DeepNude, con la que es posible producir desnudos falsos de mujeres.

¿De veras ese candidato a la presidencia favorece la pena de muerte?

Perder la identidad a manos de los deepfakes es fuente de preocupación para muchas personas. Sin embargo, es peor la posibilidad de que los deepfakes sean utilizados para producir fake news. El uso para fines específicamente políticos podría sacudir a la democracia hasta sus cimentos, también el mecanismo para crear un consenso social. ¿Realmente aquel candidato presidencial se declaró a favor de la pena de muerte en un discurso particular? Nadie puede demostrar si eso sucedió realmente o no.
 
Puesto que las inteligencias artificiales aprenden a gran velocidad, desgraciadamente sigue sin existir una tecnología que puede descubrir a largo plazo los deepfakes. En cuanto se diagnostica que un video falsificado no resulta natural, por ejemplo, porque la persona no parpadea con suficiente frecuencia, se emplea un algoritmo para mejorar ese aspecto.
 
Mientras que la ciencia y la legislación luchan por generar medidas preventivas contra el mal uso de los deepfakes, los individuos pueden poner de su parte fortaleciendo la conciencia acerca de esa tecnología. “Ver para crer” ya no es una máxima confiable. Tenemos que desarrollar métodos más confiables para reconocer lo que es verdad.