El chatbot Grok, de la empresa xAI de Elon Musk, generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días, dijeron el jueves investigadores, al revelar la magnitud del contenido explícito que causó indignación mundial.
Grok, que está integrada a la red social X, permitió que los usuarios modificaran imágenes reales de personas con instrucciones simples como “ponla en bikini” o “sácale la ropa”.
Una avalancha de imágenes hiperrealistas falsas (deepfakes) inundaron internet, lo que causó que varios países prohiban Grok y despertó la indignación de los entes reguladores y las víctimas.
Lea más: Grok de Elon Musk limita función de creación de imágenes tras escándalo por contenido explícito
“Se estima que la herramienta de IA Grok generó cerca de tres millones de imágenes sexualizadas, incluidas 23.000 que parecen representar a menores, tras el lanzamiento en X de una nueva función de edición de imágenes”, dijo el Centro para Combatir el Odio Digital (CCDH), un observatorio que investiga los efectos dañinos de la desinformación en internet.
Todos los beneficios, en un solo lugar Descubrí donde te conviene comprar hoy
“Los datos son claros”
Grok creó ese volumen de imágenes hiperrealistas en un periodo de 11 días, es decir un promedio de 190 por minuto, según el reporte, que no especifica cuántas fueron creadas sin el consentimiento de las personas.
También identificó la sexualización de imágenes de la actriz Selena Gomez y las cantantes Taylor Swift y Nicki Minaj, así como de figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos Kamala Harris.
“Los datos son claros: Grok de Elon Musk es una fábrica para la producción de material de abuso sexual”, dijo Imran Ahmed, director ejecutivo del CCDH.
No hubo comentarios inmediatos sobre los hallazgos por parte de X. Al ser contactada por la AFP por correo electrónico, xAI respondió con un escueto mensaje automatizado: “Mentiras de los medios tradicionales”.
Lea más: Tras polémica con IA de Grok, Reino Unido ilegaliza imágenes íntimas generadas sin consentimiento
La semana pasada, X anunció que bloqueará la capacidad de crear este tipo de imágenes a todos los usuarios en Grok y X en las jurisdicciones donde esas acciones sean ilegales.
Países como Filipinas, Malasia e Indonesia prohibieron Grok, mientras Reino Unido y Francia mantienen presión sobre la empresa.
El fiscal general de California inició una investigación sobre xAI por el material sexualmente explícito, y varios países abrieron sus propias pesquisas.