En un comunicado, Bruselas dijo que evaluará si X ha examinado adecuadamente y mitigado los riesgos asociados con la puesta en marcha de las funciones de Grok en la Unión Europea, incluyendo la posible distribución de contenido ilegal como imágenes manipuladas sexualmente explícitas e que incluso pueden considerarse material de abuso sexual infantil.
“Estos riesgos parecen haberse materializado. Por ello, la Comisión investigará si X cumple con sus obligaciones bajo la Ley de Servicios Digitales para evaluar y mitigar riesgos sistémicos (...) y de producir y enviar a la Comisión un informe de riesgos ad hoc sobre las funcionalidades de Grok que tengan un impacto clave en el perfil de riesgo de X antes de lanzarlo”, señaló.
Incluso antes de lanzar la investigación, la Comisión Europea ya había ordenado a la red social X conservar toda su documentación interna relativa a Grok durante 2026, en el marco de la investigación que mantiene abierta a la plataforma para analizar su política contra los contenidos ilegales.
La orden llegó en plena polémica por las imágenes de niños y mujeres desnudas generadas por Grok en las últimas semanas y que han llevado al Gobierno francés a denunciar a X ante los tribunales, que se añaden a otros contenidos como el blanqueo del Holocausto que la IA de la red social publicó a finales del año pasado.
La Comisión Europea cree que, si da por probadas estas alegaciones, X estaría infringiendo varios artículos de la Ley de Servicios Digitales a la que está sujeta cuando opera en la Unión Europea, incluyendo sobre la evaluación y mitigación de riesgos sistémicos para los ciudadanos europeos.
Bruselas ya multó a X en diciembre con 120 millones de euros por incumplir sus obligaciones de transparencia de acuerdo a esta ley por el “diseño engañoso” de su marca de verificación azul, la falta de transparencia de su repositorio publicitario y la falta de acceso a los datos públicos para los investigadores.
En paralelo, Bruselas prorrogó también este lunes su investigación en marcha desde 2023 sobre si X cumple con sus obligaciones de gestión de riesgos de sus sistemas de recomendación de contenido, que incluirá el impacto de cambiar a uno basado en la inteligencia artificial de Grok.