IA gana dinero con deepfakes pornográficos no consensuales
People take part in the “Chom5ky VS Chomsky” virtual reality experiment, in which they chat with an AI to better understand the way it works, at the National Film Board of Canada in Montreal on September 7, 2023. Rapid developments in artificial intelligence are causing concerns in Montreal where leading computer scientists such as Yoshua Bengio, a “godfather of AI,” are grappling with the ethics of a potentially apocalyptic technology. Canadian AI pioneer Yoshua Bengio -- who in 2018 shared with Geoffrey Hinton and Yann LeCun the Turing Prize for their work on deep learning -- says he worries about the technology leapfrogging human intelligence and capabilities in the not-too-distant future. (Photo by Audrey PILON-TOPKARA / AFP)
/AUDREY PILON-TOPKARA/AFP
El portal especializado Bellingcat descubrió que los usuarios de AnyDream podían generar material pornográfico mediante inteligencia artificial, utilizando imágenes cargadas del rostro de alguna persona
“Una empresa estadounidense de inteligencia artificial recaudó subrepticiamente dinero para un servicio que puede crear deepfakes pornográficos no consensuales, utilizando la empresa de servicios financieros Stripe, que prohíbe procesar pagos por material para adultos”, reveló esta semana una investigación del portal especializado Bellingcat.
Se trata de AnyDream, la empresa con sede en California, Estados Unidos, que creó esta plataforma secreta de IA que rompió las reglas de Stripe, y ganó dinero con deepfakes pornográficos no consensuales, denunciaron los periodistas. Es tan grave el caso que al inicio del artículo la autora, Kolina Koltai, advierte a los lectores que en el texto analizará contenido “explícito para adultos y material de abuso sexual infantil”.
PUEDES LEER: Actores de Hollywood se plantan contra el uso de IA en la industria
Así operaban: “Enrutaba a los usuarios a través de un sitio web de terceros que se presentaba como una red de contratación remota a una cuenta de Stripe a nombre de su fundador Junyu Yang, probablemente para evitar que se detectara que estaba violando la prohibición de contenido para adultos.
Stripe dijo que no podía comentar sobre cuentas individuales, pero, poco después de que se contactara al proveedor de pagos para hacer comentarios la semana pasada, la cuenta fue eliminada.
“AnyDream, que permite a los usuarios cargar imágenes de rostros para incorporarlas a la generación de imágenes de IA, se ha utilizado en las últimas semanas para crear deepfakes pornográficos no consensuales con el rostro de un maestro de escuela en Canadá, un profesional en la costa este de EE. UU. y un adolescente de 17 años. actriz de un año. Bellingcat no nombra a ninguna de las mujeres que fueron atacadas para proteger su privacidad, pero pudo identificarlas porque AnyDream publicó las imágenes en su sitio web junto con las indicaciones utilizadas para crearlas, que incluían sus nombres”, reveló la investigación de Koltai en Bellingcat.
SIGUE LEYENDO |
Registran acoso en escuelas de EU con pornografía creada con IA
