Zao, una aplicación gratuita de cambio de caras que es capaz de colocar tu imagen en escenas de cientos de películas y programas de televisión después de subir una sola fotografía, se ha vuelto viral en China. Bloomberg informa que la aplicación fue lanzada el viernes, y rápidamente alcanzó la cima de los rankings gratuitos en el iOS App Store chino. Y al igual que la aplicación FaceApp, los creadores de Zao se enfrentan ahora a una reacción violenta por la percepción de una amenaza a la privacidad de los usuarios.
El usuario de Twitter, Allan Xia, publicó una demostración de lo que la aplicación es capaz de hacer ayer con un clip de 30 segundos de su cara reemplazando a Leonardo Dicaprio en momentos famosos de varias de sus películas. Según Xia, los clips se generaron en menos de ocho segundos a partir de una sola fotografía, pero Bloomberg señala que la aplicación también puede guiarte a través del proceso de tomar una serie de fotografías, donde te pedirá que abras y cierres la boca y los ojos, para generar resultados más realistas.
Según Xia, la aplicación sólo ofrece un número limitado de clips en los que puedes insertar tu cara. Es probable que el desarrollador de la aplicación haya entrenado sus algoritmos en cada uno de estos clips para volver a mapear fácilmente la cara de un usuario en ellos, como especula Xia. La aplicación no puede mapear tu cara en ningún video clip de tu elección.
Para crear una imitación profunda aún más realista en Zao, los usuarios pueden proporcionar una serie de fotos de sí mismos siguiendo las indicaciones en pantalla que les piden que parpadeen, abran la boca, etc. y los resultados se ven bastante impecables. Zao también tiene un creador de memes incorporado, sin duda un contribuyente a por qué sus vídeos se esparcieron por todos los medios sociales.
La tecnología es similar a la que hemos visto recientemente de los investigadores del Imperial College de Londres, que mostraron una tecnología que es capaz de convertir una sola foto en un retrato cantado. La diferencia aquí es que Zao está insertando tu imagen en un vídeo existente, en lugar de animar una foto tuya directamente. Sin embargo, demuestra lo rápido que ha evolucionado la tecnología subyacente: lo que antes requería cientos de imágenes para crear un vídeo deepfake bastante convincente ahora sólo requiere una sola imagen con mejores resultados.
La política de privacidad de Zao generó una reacción casi inmediata de los usuarios, que bombardearon su entrada de App Store con miles de críticas negativas. La aplicación Zao menciona al desarrollador como Changsha Shenduronghe Network Technology, que Bloomberg señala que es una subsidiaria al 100% de Momo, una compañía china que posee un servicio de streaming en vivo y de citas.
La política de privacidad incluye una cláusula que dice que su desarrollador obtiene una licencia «gratuita, irrevocable, permanente, transferible y que se puede volver a licenciar» para todo el contenido generado por el usuario, según Bloomberg. La empresa se ha visto obligada a responder rápidamente a las críticas, y ahora dice que no utilizará las fotos o vídeos de sus usuarios para nada más que mejoras de aplicaciones sin su consentimiento. También borrará los datos de usuario de sus servidores cuando los usuarios borren sus datos de la aplicación.
Es una controversia similar a la que rodeó a FaceApp a principios de este año, cuando la aplicación de envejecimiento facial se volvió viral en julio. El desarrollador de la aplicación se vio obligado a aclarar su política de privacidad y a ofrecer a los usuarios la opción de eliminar sus fotos de sus servidores si así lo deseaban. En el caso de FaceApp, los comentaristas se apresuraron a señalar que la política de privacidad de la aplicación no era más invasiva que la de muchas de las aplicaciones móviles más populares del mundo.
Los manifestantes en Hong Kong están haciendo todo lo posible por cubrirse la cara ante el temor de que la policía esté utilizando la tecnología de reconocimiento facial para identificar y arrestar a los objetivos. Las personas son cada vez más conscientes de la importancia de sus datos de imágenes faciales y, con razón, están preocupadas por las empresas que no adoptan las medidas de seguridad adecuadas para protegerlos.
Siempre que un servicio se presta de forma gratuita, una empresa se beneficia inevitablemente de tus datos. A veces es para una mejor orientación de la publicidad, a veces es para entrenar a su IA para un mejor reconocimiento facial. A menudo no lo sabes.
