Wired encuentra unos 400 apps con funciones ocultas de deepfakes sexuales abusivos

Una investigación de Wired encontró una red de más de 400 apps y dominios vinculados con desarrolladores de habla china que se presentan como servicios comunes, como generadores de retratos de mascotas, clases de idiomas y entrenadores de ejercicio con IA. En determinadas condiciones, cargarían interfaces para crear imágenes y videos sexuales explícitos a partir de fotos subidas por los usuarios, incluidas escenas descritas como “violación en el dormitorio” y amenazas con cuchillos.

Según Wired, los apps fueron promocionados mediante miles de anuncios con deepfakes explícitos en Facebook e Instagram y dirigían a los usuarios a las tiendas de Apple y Google, donde podían realizar pagos. La investigación vinculó la red con la entidad registrada en Hong Kong KeLing Technology Limited, aunque los contactos asociados no respondieron a las solicitudes de comentarios. Un investigador de AI Forensics la describió como una operación comercial organizada que usa apps desechables diseñados para evadir la supervisión.