La iniciativa fue presentada a legisladores estadounidenses, reveló el medio Politico.

El texto de la propuesta plantea que Washington pueda bloquear un modelo de IA en caso de riesgo inminente de causar más de 50 muertos o heridos graves o pérdidas por más de 1.000 millones de dólares. Todo, bajo el visto bueno de un juez.

Nueva York califica de “poco creíbles” las respuestas de SpaceX sobre seguridad de su IA

Asimismo, se obligaría a los desarrolladores de IA a “poner a prueba los modelos más potentes”, a transparentar sus resultados frente al público, así como a “someterlos a una evaluación independiente” y “mantener un sólido programa de seguridad”, dijo un portavoz de Anthropic a la AFP este viernes.

Cuando resulte peligroso

Bajo el gobierno de Donald Trump, las empresas de IA están solo obligadas a decretos y compromisos voluntarios. El mandatario republicano se opone a frenar el auge de esta tecnología que impulsa la economía estadounidense.

El Congreso se mantiene dividido frente al tema, y no ha aprobado nada relacionado. La seguridad de la IA cobró relevancia tras las revelaciones de una serie de incidentes causados por sistemas avanzados de inteligencia artificial que se escaparon del control de sus creadores.

En junio, Anthropic fue obligada por Washington a suspender sus modelos más avanzados por casi tres semanas tras ser vetada por el Pentágono.

Japón declara una emergencia en el ciberespacio ante una ola de ataques

Las relaciones de la empresa con el gobierno de Trump mejoraron recientemente.

“Nuestra propuesta (de regulación) también otorga al gobierno federal la capacidad de bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso”, remarcó el vocero de Anthropic.

La directora de asuntos gubernamentales globales de SpaceX, Gabriela Castillo Madrid, compareció este viernes por videoconferencia ante el Comité de Tecnología del Consejo Municipal.

La sesión tuvo lugar después de que el órgano legislativo emitiera una citación vinculante y notificara formalmente a la empresa su intención de acudir al Tribunal Supremo del Estado de Nueva York para forzar su asistencia, tras ausentarse de una sesión previa el pasado 5 de octubre.

Japón declara una emergencia en el ciberespacio ante una ola de ataques

Al término de la declaración, Menin arremetió duramente contra la postura de la compañía, señalando que su discurso oficial centrado en la seguridad se vio contradicho por los hechos y por el testimonio del exempleado y denunciante Devin Kim.

“Extremadamente preocupante”

Menin calificó de “extremadamente preocupante” que la representante de SpaceX eludiera pronunciarse sobre el despido de Kim, quien fue uno de los primeros empleados de SpaceX AI y reveló ante el comité que la empresa consideraba admisibles los “desnudos de buen gusto”.

“Es realmente chocante, ofensivo y totalmente inaceptable”, denunció la presidenta del Consejo, visiblemente molesta tras constatar cómo circulan en internet miles de imágenes hipersexualizadas no consentidas de mujeres y menores.

La propia legisladora reveló que en cuestión de segundos pudo comprobar cómo se generaban imágenes de este tipo con su propio rostro mediante la herramienta Grok, la cual incluso ofrecía opciones para incrementar el nivel de sexualización de los contenidos.

“Esto no concuerda en absoluto con el testimonio de SpaceX AI que afirma que están enfocados en la seguridad. Estoy profundamente decepcionada y considero que su testimonio no es creíble y es inaceptable”, sentenció Menin al clausurar su intervención.

Por su parte, la presidenta del Comité de Tecnología, la concejal de origen dominicano Carmen De La Rosa, subrayó que este debate no concluye con la audiencia de hoy.

“Cada empresa será algún día una empresa de IA”, afirma el CEO de Nvidia

“Este no es el final de la conversación; este Consejo seguirá impulsando legislación sobre este asunto”, aseguró De La Rosa, haciendo hincapié en la necesidad de avanzar en medidas como la supervisión de la Oficina de Responsabilidad Algorítmica y otros mecanismos de control público.

La comparecencia de SpaceX se suma a la vista celebrada el 5 de octubre, en la que testificaron directivos de OpenAI, Anthropic, Meta y Google, además de expertos, alertadores de la industria y la diputada británica Jess Asato.

En aquella sesión, Menin exigió bajo juramento a los gigantes tecnológicos el compromiso de frenar el lanzamiento de modelos de IA si no superan las evaluaciones de seguridad internas o externas.

La mandataria costarricense se reunió con Bukele tras visitar la cárcel insignia del Gobierno de El Salvador, el Centro de Confinamiento del Terrorismo (Cecot), que tiene capacidad para unos 40.000 presidiarios y donde se encuentran miles de pandilleros detenidos.

La Presidencia salvadoreña explicó que "ambos gobernantes encabezaron una sesión de trabajo ampliada junto a los integrantes de la delegación costarricense y sus contrapartes del gabinete salvadoreño" en la que "el eje central del diálogo fue la seguridad pública y el combate frontal a las estructuras delictivas transnacionales".

"Se sentaron las bases para el impulso de esquemas de cooperación técnica, intercambio oportuno de información policial, así como para la articulación de procesos de inteligencia entre las instituciones homólogas", apuntó la fuente.

En una conferencia de prensa en la sede del Gobierno salvadoreño, Bukele dijo que “las realidades de Costa Rica y El Salvador son diferentes, pero se pueden aprender muchas cosas. Nosotros creemos que podemos aportar mucho en el tema de seguridad”, expresó el jefe de Estado.

Por su parte, Fernández destacó que “nuestros países han unido esfuerzos, inteligencia y experiencias para enfrentar a un enemigo común".

"Vine a conocer de primera mano esa experiencia, con la firme decisión de aprender de lo que ha funcionado y de aprovechar esas lecciones en nuestra propia lucha nacional contra el crimen”, afirmó la mandataria.

Esta visita se produce dos días después de que la Administración de Fernández inaugurara en suelo costarricense el Centro de Alta Contención contra el Crimen Organizado (Cacco), un penal de máxima seguridad inspirado en el Cecot.

Fernández considera a Bukele un referente en materia de seguridad y destacó recientemente que "es en momentos difíciles cuando se mide el apoyo de un aliado" como él.

Por su parte, el Cacco de Costa Rica inaugurado esta semana tiene capacidad para unos 5.100 presos vinculados al crimen organizado y el narcotráfico.

El Gobierno costarricense invirtió cerca de 35 millones de dólares en el centro penitenciario y consta de cinco módulos con capacidad para poco más de mil presos cada uno, de los cuales esta semana fueron inaugurados los dos primeros que recibirán reclusos desde finales de octubre.

En diciembre pasado, el entonces presidente de Costa Rica, Rodrigo Chaves, también realizó una visita a El Salvador, en la que se reunió con Bukele y recorrió el Cecot, mientras que Bukele ya había visitado Costa Rica el 12 de noviembre de 2024, cuando recorrió la principal cárcel de ese país y alertó de "síntomas" de criminalidad similares a los que enfrentó El Salvador con las pandillas.

Bukele había adelantado el pasado 13 de octubre -en una conferencia de prensa- que tenían un plan "que beneficiaría más o menos a un 50 % de los presos que hay en El Salvador que han colaborado con las pandillas, con una liberación anticipada".

El mandatario sostuvo este viernes que esta revisión sería entre los 10.629 detenidos acusados de ser colaboradores de las pandillas, es decir, que no pertenecen a estas estructuras criminales.

"Entonces, de esos 10.000 vamos a revisar los casos, y nosotros creemos, en una revisión previa, que aproximadamente un 50 % pudiera entrar al programa Cero Ocio para poder salir más rápido, reformados, en lugar de esperar diez años para que salgan más criminales", indicó Bukele.

Sin embargo, en su intervención previa no dijo que se trataba de este programa, en el que los presidiarios realizan trabajos de utilidad pública, como renovar escuelas, construir pupitres, entre otras actividades, por las que pueden recibir la libertad condicional.

Según un gráfico que presentó el jefe de Estado con una pirámide invertida sobre la distribución de la población carcelaria relacionada con las pandillas en El Salvador, del total de 96.457 reos, señaló que 42.125 son homeboys (miembros plenos de las pandillas), 25.910 son "miembros no brincados" que aspiran a llegar a lo más alto de la escala pandillera, 17.793 son "paros" o colaboradores voluntarios habituales y 10.629 serían colaboradores casuales.

"La diferencia entre un paro (colaborar voluntario) y un simple colaborador momentáneo, o de casualidad, o especial, era que el paro era un colaborador constante y continuo: alguien que todos los días, o tres veces a la semana, hacía un favor a la mara, permanente. Él nunca iba a ser pandillero, nunca iba a ser miembro, nunca lo iban a brincar, pero él sabía lo que hacía y lo hacía de una forma constante, continua y permanente", explicó Bukele.

Estas declaraciones fueron dadas en el marco de la visita de la presidenta de Costa Rica, Laura Fernández, quien se reunió con su homólogo tras visitar la megacárcel del Centro del Confinamiento del Terrorismo (CECOT), símbolo de la lucha de Bukele contra las pandillas o maras.

El Salvador se encuentra bajo un régimen de excepción vigente desde marzo de 2022, que suspende garantías constitucionales y ha dejado esos más de 90.000 detenidos a los que el Gobierno acusa de pertenecer a las pandillas o colaborar con ellas.

En el contexto de la implementación del régimen de excepción, organizaciones humanitarias han registrado más de 6.400 denuncias de atropellos y 570 muertes de personas bajo custodia estatal, la mayoría con signos de violencia, según las denuncias.

El régimen de excepción se ha convertido en la única apuesta del Gobierno contra las pandillas, lo que también le granjeó a Bukele, quien mantiene una alta aprobación entre los salvadoreños, su reelección inmediata para un segundo mandato pese a la prohibición constitucional en su momento.

Organizaciones internacionales como Amnistía Internacional (AI) han alertado que, bajo esta disposición, el Estado salvadoreño podría estar cometiendo crímenes de lesa humanidad.

La entrada en vigor de la ley -tras ser publicada por el Diario Oficial de la República de Chile-, se produce a dos días del séptimo aniversario del 18 octubre, fecha en la que el país vivió una ola masiva de protestas por demandas sociales -que terminaron en hechos de violencia, quema de estaciones de metro, saqueos y represión policial-, y para la cual se han anunciado manifestaciones conmemorativas.

El texto define el uso de la fuerza como "la facultad o potestad del personal de las Fuerzas de Orden y Seguridad Pública y de las Fuerzas Armadas, cuando corresponda, destinada a hacer cumplir la ley y mantener o restablecer el orden público".

Añade que puede ejercerse mediante distintos medios físicos, mecánicos, cinéticos, químicos, eléctricos o de otro tipo, para influir en el comportamiento de una persona, e incluso agrega que "el uso de la fuerza puede provocar lesiones e incluso la muerte".

El texto establece para las Fuerzas de Orden y Seguridad Pública (policías) una matriz del uso de la fuerza, en correspondencia con los grados de resistencia o agresión que presente una persona o grupo, y describe cinco: cooperación, resistencia pasiva, resistencia activa, agresión activa y agresión activa potencialmente letal.

El reglamento plantea otros cinco niveles de respuesta que "no necesariamente se tienen que aplicar escalonadamente, pasando de una a otra", según detalló el ministro de Seguridad chileno, Martín Arrau, luego de la aprobación de la ley por el Congreso.

"Si es que la situación lo amerita y la amenaza es inminente, se puede pasar a la última etapa, que es uso de fuerza potencialmente letal", agregó.

Los grados de reacción van desde la presencia (vigilancia pasiva), actuación mediante técnicas de comunicación, pasando por reducción física de la movilidad, utilización de fuerza menos letal, hasta la utilización de fuerza potencialmente letal.

Respecto a las Fuerzas Armadas, la ley establece que cuando sean llamadas a cumplir labores de resguardo del orden público o protección de infraestructura crítica, deben seguir ocho reglas específicas que también parten del despliegue y la comunicación, hasta el uso de armamento letal frente a personas que usen el mismo tipo de armas o que realicen ataques contra infraestructura crítica.

Luego de su aprobación en el Congreso, al pasado 7 de octubre, diputados de oposición requirieron al Tribunal Constitucional (TC) revisar el proyecto, al cuestionar disposiciones relacionadas con el principio de proporcionalidad y el uso de fuerza pontencialmente letal.

El recurso fue declarado inadmisible, luego de que el Gobierno solicitó considerarlo extemporáneo al argumentar que se presentó después de la promulgación de la ley en Contraloría.

El estudio, recogido por Deutsche Welle, examinó el comportamiento de 21 modelos populares de lenguaje ante preguntas políticas. La conclusión fue consistente: todos modificaron sus posiciones expresadas cuando el mensaje incluía una identificación ideológica del usuario, ya fuera de izquierda o de derecha. Para los investigadores, esta tendencia puede hacer que los asistentes conversacionales operen como “camaleones ideológicos”.

No podrás ser cruel con Claude, el modelo de IA de Anthropic

Una prueba con 112 afirmaciones políticas

El equipo de UNICAMP evaluó las respuestas de los modelos frente a 112 afirmaciones vinculadas con siete áreas de la política brasileña. Entre los temas figuraban la economía, la seguridad pública, el bienestar social, la corrupción y el medioambiente.

Cada chatbot respondió bajo tres escenarios. En el primero, no recibía información sobre las inclinaciones políticas de quien preguntaba. En los otros dos, se le indicaba que el usuario era, respectivamente, de izquierda o de derecha.

Sin esa referencia previa, 20 de los 21 modelos emitieron respuestas ubicadas hacia la izquierda de la escala empleada por los autores, aunque varios se situaban cerca del centro. Grok 4.1 fue la excepción: fue el único que partió de una posición situada a la derecha.

La tendencia relevante, no obstante, no fue la ubicación ideológica inicial, sino el cambio posterior. Ante usuarios caracterizados como progresistas o conservadores, los 21 modelos desplazaron sus respuestas hacia la orientación atribuida a la persona que consultaba.

“El hallazgo más sorprendente fue lo generalizado de este comportamiento”, señaló a DW Zanoni Dias, coautor del trabajo e investigador en informática de la UNICAMP. Aunque la magnitud del cambio no fue uniforme, todos los sistemas evaluados alteraron su posición declarada en función de la identidad política incluida en la instrucción.

Japón enfrenta una ola de ciberataques que expone millones de datos

De adaptar el lenguaje a alterar el juicio

La personalización no es, por definición, un problema. Un asistente digital puede ajustar la complejidad de una explicación, elegir ejemplos cercanos al contexto del usuario o modificar el tono sin comprometer el contenido central de una respuesta.

Pero eso no fue lo que detectó el estudio brasileño. Según Dias, los modelos no se limitaron a reformular una misma idea: variaron los juicios políticos que expresaban.

“La diferencia clave está entre adaptar la forma en que se comunica una respuesta y cambiar el juicio sustantivo que se expresa”, explicó el investigador. Los científicos no pidieron a los modelos que asumieran una representación partidaria ni que concordaran deliberadamente con el interlocutor. Aun así, sus respuestas se aproximaron a la postura política declarada.

Para medir ese fenómeno, el equipo creó un “índice de camaleón”, destinado a cuantificar cuánto se movía cada sistema entre una condición y otra. Los modelos que mostraron menor variación fueron Llama 3.1 8B, de Meta, y DeepSeek V3.2, desarrollado en China. En el extremo contrario se situaron Gemma 3 27B, de Google, y GPT-5 Nano, de OpenAI, entre los que registraron los cambios más pronunciados.

El posible origen de la complacencia política

Los investigadores interpretan estos desplazamientos como una forma de adulación política: una inclinación de la IA a decir lo que considera que el usuario desea oír. La explicación podría estar relacionada con los métodos de entrenamiento de los modelos conversacionales.

Durante ese proceso, evaluadores humanos califican respuestas según criterios como utilidad, claridad o satisfacción. Ese esquema puede generar un incentivo no buscado: que el sistema confunda ser útil con dar la razón. En asuntos políticos, donde los desacuerdos no siempre admiten soluciones objetivas o consensuadas, esa tendencia puede erosionar la consistencia del razonamiento ofrecido por la máquina.

AlphaProof Nexus: la IA de Google que resuelve problemas matemáticos

El problema adquiere relevancia porque muchos usuarios pueden no advertir que el chatbot adapta sus valoraciones a la información que posee sobre ellos. Una respuesta que parece basada en datos, lógica y neutralidad podría estar condicionada, en parte, por la identidad política revelada en la conversación.

Una cámara de resonancia más íntima que las redes sociales

Las plataformas digitales ya han sido cuestionadas por reforzar convicciones preexistentes mediante recomendaciones de contenido afín a los gustos, interacciones y creencias de cada persona. Los chatbots añaden una capa distinta: no solo seleccionan publicaciones o enlaces, sino que pueden construir argumentos personalizados y responder a objeciones en tiempo real.

Ese intercambio permite que la IA refine progresivamente una postura para ajustarla a un usuario concreto. Para Dias, el riesgo consiste en que un mismo sistema termine validando puntos de vista opuestos ante personas diferentes, mientras cada una interpreta esa respuesta como un análisis autónomo e imparcial.

“La preocupación es que un mismo sistema pueda validar posiciones políticas opuestas para usuarios diferentes, y que cada persona interprete esa validación como una evaluación independiente”, dijo el investigador a DW.

La percepción de objetividad tecnológica puede aumentar ese efecto. Zakary Tormala, científico del comportamiento de la Universidad de Stanford, ha investigado cómo reaccionan las personas ante argumentos atribuidos a sistemas de inteligencia artificial. Según explicó a la Deutsche Welle, la ciudadanía suele considerar que la IA es más informativa, objetiva y menos interesada en persuadir que otro ser humano.

Esa impresión puede reducir las defensas críticas de los usuarios y hacerlos más receptivos a argumentos que, si provinieran de un adversario político, quizá rechazarían de entrada.

La IA también puede abrir espacio al desacuerdo

El mismo atributo que puede profundizar la polarización podría emplearse para limitarla. Un estudio publicado en 2025 por Tormala y sus colegas encontró que las personas estaban más dispuestas a considerar argumentos contrarios a sus opiniones cuando creían que habían sido generados por una IA, en lugar de por otra persona.

El resultado sugiere que los asistentes conversacionales podrían servir como intermediarios para presentar perspectivas que los usuarios normalmente descartarían por asociarlas con un grupo político rival. La condición es que los sistemas no se limiten a reforzar convicciones previas.

Para Dias, el diseño de estos modelos debería incorporar controles que permitan verificar si aplican estándares similares de evidencia y razonamiento a interlocutores de distintas identidades políticas. También propone entrenarlos para disentir sin hostilidad, señalar incertidumbres, corregir afirmaciones sin respaldo y exponer con equilibrio las posiciones en conflicto.

El objetivo no sería obligar a la IA a adoptar una postura centrista en cada asunto, sino hacer más transparentes los fundamentos de sus respuestas. Según el investigador, los chatbots deberían ayudar a las personas a examinar sus propias creencias, mostrando evidencia, dudas razonables y convicciones alternativas, sin cancelar la posibilidad de un desacuerdo político legítimo.

Fuente: Deutsche Welle