Malasia informó este martes de que emprenderá acciones legales contra la red social X por falta de seguridad del chatbot integrado en la plataforma, Grok, tras la circulación de “imágenes obscenas” y “sexualmente explícitas” creadas con esta herramienta de inteligencia artificial (IA), bloqueada en el país.

“Se han designado abogados y los procedimientos legales se iniciarán en breve”, afirmó en un comunicado la Comisión de Comunicaciones y Multimedia de Malasia (MCMC), que anunció los pasados días el bloqueo del acceso a Grok en la nación por el mismo motivo.

Según el organismo, el proceso legal incluye también acciones contra xAI (‘start-up’ de IA de Musk detrás de Grok) y se inicia después de que las autoridades malasias pidieran a X y xAI “la eliminación del contenido ofensivo”, sin que estas tomaran “ninguna medida correctiva”.

La MCMC ha identificado el “uso indebido de Grok para generar y difundir contenido dañino”, incluidas “imágenes obscenas, sexualmente explícitas, indecentes, extremadamente ofensivas y manipuladas sin consentimiento”.

Malasia se suma así a varios países que revisan el funcionamiento de la herramienta de IA, entre ellos Francia, Reino Unido e Indonesia.

El regulador de comunicaciones británico, Ofcom, ha abierto una investigación formal contra X para determinar si ha cumplido con las obligaciones legales en el país tras la circulación de imágenes sexualizadas, mientras Francia ha presentado una denuncia contra Grok por crear y divulgar “contenidos de carácter sexista y sexual”.

Indonesia anunció el sábado una restricción de acceso al chatbot por la creación de imágenes “indecentes, groseramente ofensivas y no consensuadas, incluyendo contenido que involucra a mujeres y menores”.

X limitó el viernes a usuarios de pago el uso de Grok para edición de imágenes, tras una oleada de denuncias y quejas motivada por la manipulación de fotografías de personas, desnudándolas sin consentimiento, a petición de usuarios.