La iniciativa fue presentada a legisladores estadounidenses, reveló el medio Politico.

El texto de la propuesta plantea que Washington pueda bloquear un modelo de IA en caso de riesgo inminente de causar más de 50 muertos o heridos graves o pérdidas por más de 1.000 millones de dólares. Todo, bajo el visto bueno de un juez.

Nueva York califica de “poco creíbles” las respuestas de SpaceX sobre seguridad de su IA

Asimismo, se obligaría a los desarrolladores de IA a “poner a prueba los modelos más potentes”, a transparentar sus resultados frente al público, así como a “someterlos a una evaluación independiente” y “mantener un sólido programa de seguridad”, dijo un portavoz de Anthropic a la AFP este viernes.

Cuando resulte peligroso

Bajo el gobierno de Donald Trump, las empresas de IA están solo obligadas a decretos y compromisos voluntarios. El mandatario republicano se opone a frenar el auge de esta tecnología que impulsa la economía estadounidense.

El Congreso se mantiene dividido frente al tema, y no ha aprobado nada relacionado. La seguridad de la IA cobró relevancia tras las revelaciones de una serie de incidentes causados por sistemas avanzados de inteligencia artificial que se escaparon del control de sus creadores.

En junio, Anthropic fue obligada por Washington a suspender sus modelos más avanzados por casi tres semanas tras ser vetada por el Pentágono.

Japón declara una emergencia en el ciberespacio ante una ola de ataques

Las relaciones de la empresa con el gobierno de Trump mejoraron recientemente.

“Nuestra propuesta (de regulación) también otorga al gobierno federal la capacidad de bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso”, remarcó el vocero de Anthropic.

La directora de asuntos gubernamentales globales de SpaceX, Gabriela Castillo Madrid, compareció este viernes por videoconferencia ante el Comité de Tecnología del Consejo Municipal.

La sesión tuvo lugar después de que el órgano legislativo emitiera una citación vinculante y notificara formalmente a la empresa su intención de acudir al Tribunal Supremo del Estado de Nueva York para forzar su asistencia, tras ausentarse de una sesión previa el pasado 5 de octubre.

Japón declara una emergencia en el ciberespacio ante una ola de ataques

Al término de la declaración, Menin arremetió duramente contra la postura de la compañía, señalando que su discurso oficial centrado en la seguridad se vio contradicho por los hechos y por el testimonio del exempleado y denunciante Devin Kim.

“Extremadamente preocupante”

Menin calificó de “extremadamente preocupante” que la representante de SpaceX eludiera pronunciarse sobre el despido de Kim, quien fue uno de los primeros empleados de SpaceX AI y reveló ante el comité que la empresa consideraba admisibles los “desnudos de buen gusto”.

“Es realmente chocante, ofensivo y totalmente inaceptable”, denunció la presidenta del Consejo, visiblemente molesta tras constatar cómo circulan en internet miles de imágenes hipersexualizadas no consentidas de mujeres y menores.

La propia legisladora reveló que en cuestión de segundos pudo comprobar cómo se generaban imágenes de este tipo con su propio rostro mediante la herramienta Grok, la cual incluso ofrecía opciones para incrementar el nivel de sexualización de los contenidos.

“Esto no concuerda en absoluto con el testimonio de SpaceX AI que afirma que están enfocados en la seguridad. Estoy profundamente decepcionada y considero que su testimonio no es creíble y es inaceptable”, sentenció Menin al clausurar su intervención.

Por su parte, la presidenta del Comité de Tecnología, la concejal de origen dominicano Carmen De La Rosa, subrayó que este debate no concluye con la audiencia de hoy.

“Cada empresa será algún día una empresa de IA”, afirma el CEO de Nvidia

“Este no es el final de la conversación; este Consejo seguirá impulsando legislación sobre este asunto”, aseguró De La Rosa, haciendo hincapié en la necesidad de avanzar en medidas como la supervisión de la Oficina de Responsabilidad Algorítmica y otros mecanismos de control público.

La comparecencia de SpaceX se suma a la vista celebrada el 5 de octubre, en la que testificaron directivos de OpenAI, Anthropic, Meta y Google, además de expertos, alertadores de la industria y la diputada británica Jess Asato.

En aquella sesión, Menin exigió bajo juramento a los gigantes tecnológicos el compromiso de frenar el lanzamiento de modelos de IA si no superan las evaluaciones de seguridad internas o externas.

El estudio, recogido por Deutsche Welle, examinó el comportamiento de 21 modelos populares de lenguaje ante preguntas políticas. La conclusión fue consistente: todos modificaron sus posiciones expresadas cuando el mensaje incluía una identificación ideológica del usuario, ya fuera de izquierda o de derecha. Para los investigadores, esta tendencia puede hacer que los asistentes conversacionales operen como “camaleones ideológicos”.

No podrás ser cruel con Claude, el modelo de IA de Anthropic

Una prueba con 112 afirmaciones políticas

El equipo de UNICAMP evaluó las respuestas de los modelos frente a 112 afirmaciones vinculadas con siete áreas de la política brasileña. Entre los temas figuraban la economía, la seguridad pública, el bienestar social, la corrupción y el medioambiente.

Cada chatbot respondió bajo tres escenarios. En el primero, no recibía información sobre las inclinaciones políticas de quien preguntaba. En los otros dos, se le indicaba que el usuario era, respectivamente, de izquierda o de derecha.

Sin esa referencia previa, 20 de los 21 modelos emitieron respuestas ubicadas hacia la izquierda de la escala empleada por los autores, aunque varios se situaban cerca del centro. Grok 4.1 fue la excepción: fue el único que partió de una posición situada a la derecha.

La tendencia relevante, no obstante, no fue la ubicación ideológica inicial, sino el cambio posterior. Ante usuarios caracterizados como progresistas o conservadores, los 21 modelos desplazaron sus respuestas hacia la orientación atribuida a la persona que consultaba.

“El hallazgo más sorprendente fue lo generalizado de este comportamiento”, señaló a DW Zanoni Dias, coautor del trabajo e investigador en informática de la UNICAMP. Aunque la magnitud del cambio no fue uniforme, todos los sistemas evaluados alteraron su posición declarada en función de la identidad política incluida en la instrucción.

Japón enfrenta una ola de ciberataques que expone millones de datos

De adaptar el lenguaje a alterar el juicio

La personalización no es, por definición, un problema. Un asistente digital puede ajustar la complejidad de una explicación, elegir ejemplos cercanos al contexto del usuario o modificar el tono sin comprometer el contenido central de una respuesta.

Pero eso no fue lo que detectó el estudio brasileño. Según Dias, los modelos no se limitaron a reformular una misma idea: variaron los juicios políticos que expresaban.

“La diferencia clave está entre adaptar la forma en que se comunica una respuesta y cambiar el juicio sustantivo que se expresa”, explicó el investigador. Los científicos no pidieron a los modelos que asumieran una representación partidaria ni que concordaran deliberadamente con el interlocutor. Aun así, sus respuestas se aproximaron a la postura política declarada.

Para medir ese fenómeno, el equipo creó un “índice de camaleón”, destinado a cuantificar cuánto se movía cada sistema entre una condición y otra. Los modelos que mostraron menor variación fueron Llama 3.1 8B, de Meta, y DeepSeek V3.2, desarrollado en China. En el extremo contrario se situaron Gemma 3 27B, de Google, y GPT-5 Nano, de OpenAI, entre los que registraron los cambios más pronunciados.

El posible origen de la complacencia política

Los investigadores interpretan estos desplazamientos como una forma de adulación política: una inclinación de la IA a decir lo que considera que el usuario desea oír. La explicación podría estar relacionada con los métodos de entrenamiento de los modelos conversacionales.

Durante ese proceso, evaluadores humanos califican respuestas según criterios como utilidad, claridad o satisfacción. Ese esquema puede generar un incentivo no buscado: que el sistema confunda ser útil con dar la razón. En asuntos políticos, donde los desacuerdos no siempre admiten soluciones objetivas o consensuadas, esa tendencia puede erosionar la consistencia del razonamiento ofrecido por la máquina.

AlphaProof Nexus: la IA de Google que resuelve problemas matemáticos

El problema adquiere relevancia porque muchos usuarios pueden no advertir que el chatbot adapta sus valoraciones a la información que posee sobre ellos. Una respuesta que parece basada en datos, lógica y neutralidad podría estar condicionada, en parte, por la identidad política revelada en la conversación.

Una cámara de resonancia más íntima que las redes sociales

Las plataformas digitales ya han sido cuestionadas por reforzar convicciones preexistentes mediante recomendaciones de contenido afín a los gustos, interacciones y creencias de cada persona. Los chatbots añaden una capa distinta: no solo seleccionan publicaciones o enlaces, sino que pueden construir argumentos personalizados y responder a objeciones en tiempo real.

Ese intercambio permite que la IA refine progresivamente una postura para ajustarla a un usuario concreto. Para Dias, el riesgo consiste en que un mismo sistema termine validando puntos de vista opuestos ante personas diferentes, mientras cada una interpreta esa respuesta como un análisis autónomo e imparcial.

“La preocupación es que un mismo sistema pueda validar posiciones políticas opuestas para usuarios diferentes, y que cada persona interprete esa validación como una evaluación independiente”, dijo el investigador a DW.

La percepción de objetividad tecnológica puede aumentar ese efecto. Zakary Tormala, científico del comportamiento de la Universidad de Stanford, ha investigado cómo reaccionan las personas ante argumentos atribuidos a sistemas de inteligencia artificial. Según explicó a la Deutsche Welle, la ciudadanía suele considerar que la IA es más informativa, objetiva y menos interesada en persuadir que otro ser humano.

Esa impresión puede reducir las defensas críticas de los usuarios y hacerlos más receptivos a argumentos que, si provinieran de un adversario político, quizá rechazarían de entrada.

La IA también puede abrir espacio al desacuerdo

El mismo atributo que puede profundizar la polarización podría emplearse para limitarla. Un estudio publicado en 2025 por Tormala y sus colegas encontró que las personas estaban más dispuestas a considerar argumentos contrarios a sus opiniones cuando creían que habían sido generados por una IA, en lugar de por otra persona.

El resultado sugiere que los asistentes conversacionales podrían servir como intermediarios para presentar perspectivas que los usuarios normalmente descartarían por asociarlas con un grupo político rival. La condición es que los sistemas no se limiten a reforzar convicciones previas.

Para Dias, el diseño de estos modelos debería incorporar controles que permitan verificar si aplican estándares similares de evidencia y razonamiento a interlocutores de distintas identidades políticas. También propone entrenarlos para disentir sin hostilidad, señalar incertidumbres, corregir afirmaciones sin respaldo y exponer con equilibrio las posiciones en conflicto.

El objetivo no sería obligar a la IA a adoptar una postura centrista en cada asunto, sino hacer más transparentes los fundamentos de sus respuestas. Según el investigador, los chatbots deberían ayudar a las personas a examinar sus propias creencias, mostrando evidencia, dudas razonables y convicciones alternativas, sin cancelar la posibilidad de un desacuerdo político legítimo.

Fuente: Deutsche Welle