La aplicación ‘Deepfake’ causa fraude y miedo a la privacidad en China

Una aplicación de inteligencia artificial que permite a los usuarios insertar sus caras en lugar de personajes de cine y televisión ha causado controversia en China.

Zao ha provocado temores sobre la privacidad y sugerencias que podrían ser utilizadas para derrotar a los sistemas que utilizan el reconocimiento facial.

Apareció en China el 29 de agosto y ha demostrado ser muy popular.

Pero ha llevado a los desarrolladores de Momo a disculparse por su acuerdo de usuario final, que despojó a los usuarios de los derechos sobre sus imágenes.

Y cuando la aplicación se volvió viral, los propietarios de Zao expresaron sus temores de que los usuarios devoraran su costosa capacidad de servidor.

Su popularidad también ha llevado a que Alipay, parte del gigante chino de la web, Alibaba, afirme que es imposible que los llamados vídeos de imitación profunda creados por la aplicación se utilicen para engañar a su sistema de reconocimiento facial Smile to Pay.

¿Qué es Zao y por qué es tan controvertido?
Zao es una aplicación de intercambio de caras que utiliza clips de películas y programas de televisión, cambiando de forma convincente la cara de un personaje utilizando selects desde el teléfono del usuario.

Pero algunos usuarios habían notado que los términos y condiciones de la aplicación «daban a los desarrolladores el derecho global de usar permanentemente cualquier imagen creada en la aplicación de forma gratuita», informó el South China Morning Post de Hong Kong.

«Además, los desarrolladores tenían el derecho de transferir esta autorización a cualquier tercero sin más permiso del usuario», dijo el documento, añadiendo que los expertos creían que esto violaba la ley china.

Posteriormente, Momo había eliminado la polémica cláusula y emitido una disculpa, diciendo que su aplicación no almacenaría la información biométrica de los usuarios ni «recogería en exceso la información de los usuarios», dijo The Paper, con sede en Shangai.

Pero la popular plataforma de medios sociales WeChat rápidamente prohibió a los usuarios subir vídeos de Zao a través de su plataforma, alegando «riesgos de seguridad».

La aplicación también puede ser víctima de su propio éxito, con Zao diciendo que, en su cuenta de medios sociales Sina Weibo, había consumido un tercio de su capacidad mensual de servidor, presupuestada en 7 millones de yuanes (805.000 libras esterlinas), en su primera noche.

Y al día siguiente, cuando los usuarios se quejaban de la lentitud del servicio, decía: «con el corazón apesadumbrado», los servidores estaban a pleno rendimiento.

¿Podría Zao ser utilizado para defraudar a los bancos?
Alipay, la plataforma de pago móvil más grande del mundo, con más de 870 millones de usuarios, ha asegurado a sus usuarios que los vídeos creados en Zao no pueden ser utilizados para defraudar a sus sistemas.

Muchos usuarios de Alipay aprovechan su sistema Smile to Pay, que permite la verificación del pago por parte del usuario mirando a una cámara en el punto de venta de una tienda o restaurante.

Alibaba, propietaria de Alipay, dice que utiliza sofisticados algoritmos anti-spoofing para asegurarse de que no se deja engañar por fotografías fijas o vídeos de imitación profunda.

«Hay muchos programas de cambio de cara en línea, pero por muy realistas que sean, es imposible romper el sistema de pago facial», dijo la compañía en su cuenta de Weibo.

Incluso antes de que el sistema intente hacer coincidir la cara, detecta si la imagen presentada es una fotografía, un vídeo o una simulación por software.

«Esto evita el fraude causado por la tecnología de cambio de cara», dijo Alibaba.

Momo también se movió para calmar los temores de que Zao pudiera ser utilizado para cometer fraude, aclarando el punto de vista de Alipay de que sólo usaba y adaptaba fotografías fijas para sus videos de imitación profunda.

«El umbral de seguridad de los pagos faciales es extremadamente alto, y la tecnología de’cambio de cara’ realizada por una sola foto no puede atravesar el sistema de seguridad», dijeron los desarrolladores.

Era «completamente imposible» que este tipo de falsificaciones amenazaran la seguridad de los pagos, dijo Momo a The Paper.

Y el año pasado, el académico Pan Helin dijo que el reconocimiento facial del China Daily Alipay era «teóricamente un método más seguro y conveniente que el uso convencional de contraseñas».