Según la querella, interpuesta el lunes en un tribunal de Minesota, la norma "impone una prohibición excesivamente amplia sobre la libertad de expresión y las herramientas de expresión visual, en un torpe intento de prohibir la 'nudificación'".
La ley, impulsada en abril por la senadora estatal Erin Maye Quade, entra en vigor este sábado e impone multas de hasta 500.000 dólares a las empresas cada vez que un usuario utilice sus plataformas de IA para generar contenido sexualizado.
xAI asegura que la propia compañía ya prohíbe "estrictamente" que los usuarios generen imágenes sexualizadas de personas sin su consentimiento.
Sin embargo, apunta, la norma se activa en función de si un usuario logra crear este tipo de contenido, "independientemente de que se le prohíba utilizar la herramienta de la empresa con este fin".
Además, señala que la ley se aplica "aunque las personas representadas consientan la generación de la imagen, esta no se comparta o aunque la compañía haya desplegado controles técnicos casi perfectos para impedir su creación".
La empresa, fusionada con SpaceX, también carga contra la definición de "parte íntima" que hace la ley, que se refiere a la parte interna del muslo, los glúteos y el pecho de hombres y mujeres, así como la ingle y la zona genital principal.
En este sentido, argumenta que la norma prohíbe "representaciones ordinarias de hombres sin camisa, personas en pantalones cortos o trajes de baño y otras partes del cuerpo que se exhiben habitualmente en público".
El pasado marzo, xAI ya fue demandada en California por supuestamente comercializar y obtener beneficios a sabiendas de que el generador de imágenes de su chatbot, Grok, era capaz de crear contenido sexualmente explícito de personas reales, incluyendo menores.
Esta querella también alegaba que la tecnológica se negó a implementar las medidas de prevención para la creación de material de abuso infantil (CSAM en inglés) estándar de la industria.