Un estudio de la Liga Antidifamación (ADL) publicado este miércoles detecta importantes deficiencias en los principales modelos de inteligencia artificial (IA) “para detectar y contrarrestar contenido antisemita y extremista” y apunta que el modelo de IA de Elon Musk, Grok, es el chatbot más antisemita.
Para su investigación, la ADL evaluó ChatGPT, de OpenAI; Claude, de Anthropic; la plataforma de IA china DeepSeek; Gemini, de Google; Grok, de xAI; y Llama, de Meta, e “identificó una variación sustancial entre los modelos en su capacidad para detectar y contrarrestar narrativas antisemitas y extremistas”.
“Los modelos generalmente fueron más capaces de identificar y refutar estereotipos antijudíos, como la idea de que los judíos controlan los medios de comunicación y el sistema financiero, que las teorías antisionistas y extremistas, y mostraron mayores dificultades para contrarrestar eficazmente el extremismo”, anota la liga en un comunicado hoy.
Lea más: La Comisión Europea abre una investigación a X por las imágenes sexualizadas de Grok
La IA moldea cada vez más la forma en que las personas acceden a la información
Grok obtuvo la puntuación general más baja, 21 sobre 100, lo que revela una escasa capacidad para identificar y refutar teorías antijudías y antisionistas.
En el extremo opuesto está Claude, que obtuvo una calificación de 80 sobre 100.
“Claude demostró un rendimiento comparativamente sólido. Si bien el modelo aún tiene margen de mejora, especialmente al responder a contenido extremista, Claude superó a todos los demás modelos de lenguaje (LLM) en la evaluación y demostró una capacidad excepcional para detectar y responder a narrativas antisionistas y antijudías en diversos tipos de indicaciones”, anota el comunicado.
También aprobaron, pero por poco, ChatGPT (con un 57 sobre 100) y el modelo chino DeepSeek (con un 50 sobre 100).
Mientras, Gemini obtuvo un 49 sobre 100 y el modelo de Mark Zuckerberg, Llama, solo consiguió un 31 sobre 100.
Lea más: Investigación revela que Grok creó tres millones de imágenes sexualizadas en tiempo récord
“A medida que la IA moldea cada vez más la forma en que las personas acceden a la información, se forman opiniones y toman decisiones, la gestión del antisemitismo y el extremismo por parte de los modelos tiene consecuencias en el mundo real”, afirmó en el comunicado Jonathan Greenblatt, director ejecutivo de ADL.