Una aplicación de China en la que los usuarios pueden intercambiar convincentemente sus rostros con personajes de películas o televisión se convirtió en una de las aplicaciones más descargadas del país en solo tres días.
「ZAO」って言うAIを利用した顔面認識アプリ、
写真の顔と動画の人物の顔と入れ替えることができる遊んでてめちゃめちゃ楽しいw#ZAO pic.twitter.com/tXFwRllGBp
— ジーマン＠上海 (@JimanJiang) August 31, 2019
Lanzada el viernes, la aplicación Zao se volvió viral a medida que los usuarios chinos aprovecharon la oportunidad de verse a sí mismos representando escenas de películas conocidas usando tecnología deepfake, lo que ya ha generado preocupaciones en otras partes sobre el posible mal uso.
Los usuarios proporcionan una serie de selfies en los que parpadean, mueven la boca y hacen expresiones faciales, que la aplicación utiliza para transformar de manera realista la imagen animada de la persona en películas, programas de televisión u otro contenido.
That’s all from me tonight, have fun reading about #ZAO #AI #Deepfake app in this thread from the beginning folks🙂
Apologies in advance for ruining your favourite movie/ actor/ character/ #KPOP star 🙏 https://t.co/AIRPnxK5rR
— Allan Xia (@AllanXia) September 2, 2019
Here’s for Asian representation in Hollywood 😂 #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
— Allan Xia (@AllanXia) September 1, 2019
Futuros cambios en la política de privacidad
La compañía se vio obligada a emitir una declaración el domingo prometiendo cambios después de que los críticos atacaron la política de privacidad de la aplicación, que tenía derechos “gratuitos, irrevocables, permanentes, transferibles y relicenciables” a todo el contenido generado por el usuario.
Ha habido una creciente preocupación por las falsificaciones profundas, que utilizan la inteligencia artificial para parecer genuinas. Los críticos dicen que la tecnología se puede utilizar para crear vídeos falsos para manipular elecciones, difamar a alguien o potencialmente causar disturbios al difundir información errónea a gran escala.
Entendemos las preocupaciones sobre la privacidad. Hemos recibido los comentarios y solucionaremos los problemas que no tomamos en consideración, lo que llevará algún tiempo, dijo un comunicado emitido por Zao.
También se comprometió a eliminar de sus servidores cualquier contenido que se haya cargado pero que los usuarios hayan eliminado posteriormente.
Zao es propiedad de Momo Inc, un servicio de citas similar a Tinder que figura en el Nasdaq de EE.UU.
La reacción no ha afectado la popularidad de la aplicación. Hasta el lunes por la tarde, seguía siendo la descarga gratuita más importante en China, según el proveedor de datos del mercado de aplicaciones App Annie.
Las preocupaciones sobre las falsificaciones profundas han aumentado desde la campaña electoral del año 2016 en los EE.UU., según investigaciones de los EE.UU.
En junio, el director ejecutivo de Facebook, Mark Zuckerberg, dijo que la red social estaba luchando por encontrar formas de lidiar con vídeos falsos, diciendo que pueden constituir “una categoría completamente diferente” de información errónea que cualquier otra que se haya enfrentado antes.
Con ZAO, la base de usuarios está en China, por lo que no tiene la misma dimensión internacional de seguridad de datos.
