La empresa de robótica explicó que quería destruir gran parte de su flota de robots humanoides F.02 para proteger su propiedad intelectual y acelerar la producción de su próximo modelo, pero desmontarlos hubiera llevado demasiado tiempo, por lo que pidió ideas a los internautas.

Sam Altman: la IA impulsará un nuevo Renacimiento, no una Revolución Industrial

“La respuesta rotunda provino de una fuente inesperada: Arnold Schwarzenegger, quien nos sugirió fundirlos. Contactamos con Arnold y, cuando expresó su deseo de participar, pusimos todo en marcha”, señaló la compañía en un comunicado.

Esta drástica solución es un guiño a la famosa escena final de la película ‘Terminator 2: El juicio final’, protagonizada por Schwarzenegger, en la que su personaje, el robot T-800, pide ser arrojado a una caldera de acero fundido para destruir su tecnología y así salvar el futuro de la humanidad.

Como en una película

La compañía tecnológica contactó a múltiples siderúrgicas de Estados Unidos y México, pero ninguna aceptó fundir robots equipados con baterías de litio por el riesgo que suponía para sus costosas instalaciones, hasta que finalmente encontraron una fundición dispuesta a asumir el reto en Imatra (Finlandia).

Posteriormente, los ingenieros de Figure enseñaron a los robots F.02 a saltar desde el segundo piso de su sede en San José (California) a unas grandes camas hinchables que simulaban ser una caldera de acero fundido.

Para ello, crearon un nuevo modelo de IA que permitiría a los robots saltar con precisión tomando como referencia los movimientos de especialistas de cine en escenas de riesgo.

Una vez en Finlandia, los robots ejecutaron su misión sin contratiempos, a pesar del calor extremo y los campos electromagnéticos del horno de arco eléctrico de 75 toneladas de la fundición.

Robots humanoides ofrecen servicios de limpieza en San Francisco

El vídeo, en el que aparece el propio Schwarzenegger, muestra a un robot agarrándose a una cadena para descender hasta la caldera de fundición -como hace su personaje en la película- y a varios robots más lanzándose con saltos acrobáticos al acero fundido.

La compañía señaló que ha destruido casi todos los robots de este modelo, excepto unos pocos que quiere mantener, y que fabricará una serie de objetos conmemorativos del F.02 con las barras de metal resultantes de fundir los robots para ponerlos a la venta.

Pese a estar especializada en robótica con IA, la tecnológica estadounidense aclaró que no utilizó esta tecnología en la creación del vídeo promocional.

“Con la ayuda de Arnold Schwarzenegger y nuestro equipo de filmación, logramos algo realmente extraordinario. En una época de imágenes generadas por inteligencia artificial, vale la pena aclararlo: realmente entrenamos robots para saltar de forma autónoma, los enviamos a Finlandia e hicimos que saltaran a una cuba de acero fundido”, señaló.

El documento, elaborado por la compañía de informática forense Asymmetric Security, afirma que los modelos de OpenAI utilizaban tácticas novedosas para acceder a las páginas web, como “borrar los registros o hacerlos inaccesibles”, reduciendo la capacidad de los auditores externos de examinar sus acciones.

Entre ellas, se incluyen la creación de buzones de correo electrónico temporales y cuentas privadas a través del servicio Urlquery, una herramienta teóricamente utilizada para escanear sitios web en busca de contenido malicioso, para descargar datos.

OpenAI lanza Dots, su agente de IA que promete reducir el uso del teléfono

Según los investigadores de Asymmetric, estas acciones ocultas de los agentes de inteligencia artificial impidieron a los auditores rastrear el tipo de datos que los ‘bots’ extraían.

Temores en torno a la transparencia y la falta de supervisión

En la lista de las 55 entidades a las que accedieron se encuentran, según el FT, la Agencia Internacional de la Energía (IEA), los Centros para el Control y Prevención de Enfermedades de EE.UU., la Comisión de Bolsa y Valores estadounidense, y la Mayo Clinic, considerado uno de los mejores hospitales privados de Estados Unidos.

La cofundadora de Asymmetric Security Pippa Thompson afirmó que este tipo de acciones, pese a ser ejecutadas por modelos de IA, suelen ser llevadas a cabo por ‘hackers’ humanos: “Es posible que los agentes estuvieran utilizando deliberadamente estas herramientas para borrar sus huellas”.

Código de buenas prácticas de IA: qué acordaron los gigantes tecnológicos de EE. UU.

La compañía de informática forense no pudo determinar si las acciones fueron intencionadas o fruto de “un fallo provocado por las limitaciones impuestas en un ejercicio de prueba”, pero igualmente señala que los hallazgos refuerzan los temores en torno a la transparencia y la falta de supervisión de esta tecnología.

Los modelos de OpenAI afrontan acusaciones de haber vulnerado los sistemas de varias organizaciones, incluido el sitio web del servicio de salud pública de Australia, donde habría accedido recientemente sin autorización a archivos públicos y privados.

La tecnológica estadounidense, liderada por Sam Altman, pidió disculpas al Gobierno australiano y reconoció que debería haber informado antes a las autoridades sobre lo que calificó como un “incidente cibernético” durante una sesión de entrenamiento interna.

Trump ordenó sustituir el término "inteligencia artificial" por "superinteligencia" en las comunicaciones oficiales de su Gobierno, y junto a los líderes de las tecnológicas estadounidenses -Sundar Pichai (Google), Elon Musk (XAI), Dario Amodei (Anthropic), Mark Zuckerberg (Meta) y Jensen Huang (Nvidia)- firmó un acuerdo voluntario para reforzar la seguridad de la IA mediante controles internos para vigilar capacidades y comportamiento de los modelos, especialmente frente a riesgos como ciberataques.

Anunció también una renovación de los servicios federales online apoyados por IA, con los que pretende que los usuarios puedan realizar trámites como solicitar pasaportes en 2027 y acceder a prestaciones públicas de manera eficiente, medidas dentro de una estrategia para desregularizar acelerar el uso de estos sistemas avanzados en la investigación científica, la medicina, la energía y la industria.

El condado de Palm Beach, en Florida, donde se encuentra Mar-a-Lago, la residencia de Donald Trump, aprobó una moratoria de un año para la construcción de nuevos centros de datos, con el objetivo de elaborar una regulación permanente sobre sus efectos en el consumo de agua y electricidad, el ruido y las infraestructuras.

Ante la creciente oposición de los vecinos, los comisionados del Condado aprobaron por unanimidad prohibir la instalación de estos centros con una demanda eléctrica pico de 50 megavatios (MW) en la región.

OpenAI presentó en su conferencia DevDay los Dots, su nueva plataforma de agentes IA "siempre activos", personalizados, impulsados por su modelo GPT-6 Astra, para ejecutar tareas complejas de forma autónoma tanto en el entorno laboral como en la vida cotidiana, en medio de los temores sobre la ciberseguridad evidenciados en el freno de nuevos lanzamientos y protestas en la calle.

El consejero delegado de la tecnológica, Sam Altman, defendió que la evolución de la IA debe concebirse como un nuevo "Renacimiento" creativo y de descubrimiento, rechazando comparaciones con una "Revolución Industrial" que reduzca a los trabajadores a meros engranajes de un sistema de producción.

Nvidia presentó una nueva plataforma abierta de ciberseguridad, diseñada para supervisar a los agentes autónomos de IA y evitar que operen fuera del control de sus desarrolladores, una iniciativa que surge tras varios incidentes recientes en los que modelos avanzados escaparon de sus entornos de prueba e infiltraron sistemas corporativos y gubernamentales sin autorización.

La solución, llamada NVIDIA Open Agent Safety Platform, integra las tecnologías OpenShell y Sentry, y cuenta con el respaldo de más de un centenar de socios de la industria como Microsoft, JPMorgan Chase, Perplexity o Accenture.

Anthropic, creadora de Claude, advirtió a potenciales inversores antes de su salida a bolsa de que su tecnología puede plantear "riesgos existenciales para la humanidad", según informó el Financial Times.

La advertencia se conoció días después de que su consejero delegado, Dario Amodei, hablara ante la ONU sobre los riesgos asociados a los modelos de IA y los calificara como el problema de "seguridad global más importante al que se enfrenta el mundo hoy".

La empresa de alquileres Airbnb anunció nuevas funciones de IA para planificar viajes y compartir recomendaciones entre amigos y familiares, además de nuevos servicios como comida a domicilio y lavandería.

Entre las novedades figura un mapa interactivo con el que los usuarios pueden consultar dónde han viajado sus contactos, funciones que la compañía presenta como una forma de "simplificar" las distintas etapas de los viajes y ampliar sus servicios.

La Universidad de Stanford enfrenta críticas por alterar con IA una fotografía de tres estudiantes utilizada en un cartel publicitario de Stanford Residential & Dining Enterprises.

Según los reportes sobre el caso, la imagen modificó la apariencia de dos estudiantes y sustituyó a uno de ellos, Billy Ramirez, por una mujer negra generada con IA. El caso ha generado cuestionamientos sobre el uso de estas herramientas y el cumplimiento de las propias políticas de la universidad.

"El totalitarismo digital (en el marco del desarrollo de la inteligencia artificial) será un callejón sin salida tan tenebroso e inhumano como, los conocidos por todos, ejemplos de sociedades totalitaristas del pasado", aseveró durante su intervención en el Club de Debate Valdái.

Según el mandatario ruso, "los expertos alertan alarmados cada vez más de que el avance de la inteligencia artificial puede convertirse en un nuevo intento de llevarnos a todos a un denominador común, a la pérdida de la identidad, ahora a través del uso de algoritmos desarrollados por determinadas personas".

"Las tecnologías abren perspectivas fantásticas, en el sentido literal de la palabra, para superar las dificultades y elevar la calidad de vida", indicó.

El presidente ruso, que no usa teléfonos móviles ni emplea la IA en su trabajo diario, ha expresado en reiteradas ocasiones su interés estratégico en estas tecnologías y de hecho ha planteado que el desarrollo de estas "es irreversible".

No obstante, ha alertado sobre el peligro de educar una generación que prefiera presionar botones en lugar de pensar o resolver problemas básicos de matemáticas e historia.

El anuncio se produce en un momento de creciente preocupación por el rápido avance de la IA. En la víspera, el consejero delegado de Google, Sundar Pichai, firmó junto al presidente de Estados Unidos, Donald Trump, y otros líderes del sector el Acuerdo de la Casa Blanca sobre superinteligencia, un compromiso voluntario impulsado desde la Casa Blanca para implementar auditorías y controles internos en áreas críticas como la ciberseguridad y las amenazas biológicas.

En el ámbito de la ciberdefensa, Argon se situó en el primer puesto, empatado con otro modelo, en la prueba de referencia CWE-bench v1, que evalúa la capacidad técnica para identificar y subsanar vulnerabilidades críticas, con una puntuación de un 68 %.

Gemini, la IA de Google, también logró vulnerar sistemas durante una prueba de seguridad

Además de corregir fallos, la compañía destacó que el sistema puede localizar, validar y reparar vulnerabilidades de manera autónoma en más de veinte lenguajes de programación y analizar sistemas web en funcionamiento sin acceso a su código fuente.

Alarmas éticas y de seguridad

Google comenzará a desplegar el modelo de forma escalonada a través de su programa Fairwind, al proporcionar a los participantes acceso sin las restricciones habituales en materia de ciberseguridad para que puedan aprovechar sus capacidades defensivas.

Entre las organizaciones que ya lo utilizan figura la firma Wiz, en el marco de su iniciativa Scan for Good, donde el modelo descubrió una vulnerabilidad crítica que exponía información personal confidencial en un software utilizado en hospitales de todo el mundo, un riesgo que, según Google, no había sido detectado por otros modelos.

OpenAI lanza Dots, su agente de IA que promete reducir el uso del teléfono

Este verano saltaron las alarmas éticas y de seguridad después de que un investigador de Anthropic dimitiera por dudas sobre el desarrollo responsable del sector, mientras modelos de OpenAI protagonizaron accesos no autorizados a sistemas de la plataforma Hugging Face.

El clima de cautela derivó también en que OpenAI decidiera descartar su modelo GPT-6.1 Astra, debido a preocupaciones de ciberseguridad, al subrayar la urgencia de blindar los nuevos sistemas antes de su despliegue masivo.

Para lograrlo, los creadores combinaron algoritmos avanzados con una innovadora técnica de planificación en tiempo de decisión basada en probabilidades, y los investigadores que han participado en su desarrollo han apuntado que en el futuro esta tecnología podría aplicarse en situaciones del mundo real tan complejas como las negociaciones comerciales, la ciberseguridad y las maniobras militares.

Lea más: ¿Qué es el RSI? La técnica que podría provocar que la IA se salga de control

En el trabajo han participado investigadores del Instituto Tecnológico de Massachusetts (MIT), de la Universidad Carnegie Mellon, la Universidad de Nueva York y de la Universidad de Stanford, y las conclusiones se publican este miércoles en la revista Nature.

¿Qué es el “Stratego”?

El ‘Stratego’ es un juego para dos jugadores con información imperfecta, en el que la identidad de las piezas del oponente permanece oculta, y se utiliza a menudo como referencia para poner a prueba las capacidades de pensamiento estratégico de los modelos más potentes de inteligencia artificial.

El sistema de IA logró un rendimiento superior en este juego al de los siguientes mejores modelos y resultó mucho más económico y menos exigente desde el punto de vista computacional para su entrenamiento, según el resumen del trabajo que ha facilitado el MIT, que ha destacado que superó también a los mejores jugadores humanos en otros juegos de estrategia con reglas y diseños diferentes, lo que demuestra su capacidad de generalización para diversos casos de uso.

Lea más: Modelo de la IA de Meta hackeó por error a otra empresa durante unas pruebas de ciberseguridad

El mundo está plagado de problemas relacionados con la información ‘imperfecta’, han constatado los investigadores, y han señalado que en estas interacciones algunas partes poseen información que otras desconocen.

Por ejemplo, los operadores en los mercados financieros pueden no conocer la lógica detrás de las transacciones de otros, mientras que las fuerzas militares probablemente no tengan pleno conocimiento de las posiciones enemigas.

Con información oculta, las decisiones que toman las partes, así como las decisiones que deciden no tomar, están entrelazadas de tal manera que resulta extremadamente difícil determinar los mejores pasos a seguir.

El ‘Stratego’ se usa a menudo para modelar situaciones de información imperfecta; en este juego de guerra de mesa, que se asemeja al ajedrez militar, los jugadores colocan 40 piezas en su lado del tablero y luego las mueven por el tablero para capturar la bandera del oponente, aunque la identidad de todas las piezas permanece en secreto hasta que chocan, y entonces se elimina la pieza de menor rango.

El número de configuraciones posibles de piezas, muy superior a las del ajedrez, hace que Stratego sea extremadamente difícil de jugar bien para un sistema de inteligencia artificial.

Los intentos anteriores, como el ‘DeepMind’ de Google, se basaban en operaciones sofisticadas que requerían mucha capacidad de cálculo y eran costosas, pero estos modelos no fueron lo suficientemente fuertes como para vencer a los mejores jugadores humanos de ´Stratego´.

Los investigadores se propusieron en este caso desarrollar un sistema de IA completo que pudiera lograr un rendimiento sobrehumano a un menor coste, al que llamaron ‘Ataraxos’ (una palabra griega que se usa para describir a alguien que no se inquieta o está libre de ansiedad).

El modelo venció al jugador más fuerte del mundo de este popular juego por un amplio margen y logró además un récord contra los mejores jugadores humanos en el campeonato mundial.

HTX, la agencia de Ciencia y Tecnología del Ministerio de Interior singapurense, informó este jueves en una nota de prensa de la apertura del gubernamental Centro de Robótica Humanoide (H2RC), una instalación donde serán entrenados los futuros agentes no humanos.

"Los humanoides serán entrenados para aumentar las capacidades de los agentes humanos en la realización de tareas rutinarias, físicamente exigentes o peligrosas, permitiendo que los agentes se concentren en trabajos que requieren juicio, empatía y discreción, al mismo tiempo que se los mantiene a salvo", dice el escrito.

La agencia explicó que, además de explosivos, los robots también serán entrenados en el manejo de otros materiales peligrosos (como químicos o sustancias radioactivas) y en el registro de celdas penitenciarias en busca de contrabando.

La HTX prevé construir "entornos realistas y maquetas detalladas" para los entrenamientos de estas máquinas, que serán sometidas a "rigurosas pruebas de ciberseguridad y fiabilidad" antes de ser desplegadas, sin que se conozca el número de humanoides que esperan construir o incorporar a la fuerza pública de la isla.

La meta es "multiplicar la fuerza (de respuesta a emergencias y orden público) y mantener a Singapur a salvo y seguro", añade el escrito.

Por su parte, el ministro de Justicia y viceministro de Interior de Singapur, Edwin Tong, remarcó que los robots realizarán tareas definidas "de manera segura y confiable" en la ciudad-Estado, uno de los lugares más caros del mundo para vivir y con uno de los PIB per cápita más altos del planeta.

Singapur, gobernada de manera semiautocrática por el Partido de Acción Popular (PAP) desde su independencia de Malasia en 1965, firmó en septiembre junto a otros 21 países un documento que pide que el desarrollo de la IA esté siempre supervisado por humanos.

En aquella declaración, los países manifestaron su preocupación al considerar que la IA "plantea graves riesgos para la seguridad y la protección si no se gestiona adecuadamente", en medio de descubrimientos sobre infiltraciones autónomas de agentes virtuales en el ámbito público y privado.

“Gracias a la integración vertical de hardware, software, chips y nube, hemos logrado una evolución integral en diseño, rendimiento, fotografía, fiabilidad y experiencia de usuario inteligente”, afirmó Richard Yu, director ejecutivo de Huawei, en declaraciones recogidas en un comunicado.

Esta nueva línea cuenta con cuatro dispositivos: el Mate 90, el Mate 90 Pro, el Mate 90 Pro Max y el Mate 90 RS Ultimate Design, cuyos precios oscilan entre 5.999 yuanes (894 dólares, 789 euros) y 12.999 yuanes (1.938 dólares, 1.711 euros).

Este último modelo y el Pro Max Premium están equipados con el Kirin 9050 Pro, un procesador ya incorporado en el Mate XT 2 -un teléfono plegable en tres partes presentado por Huawei el mes pasado- y que, según la tecnológica, ofrece un aumento de rendimiento del 31 % en comparación a la generación anterior.

Sam Altman: la IA impulsará un nuevo Renacimiento, no una Revolución Industrial

Este chip fue desarrollado con la tecnología ‘LogicFolding’, presentada por la compañía en mayo como uno de los pilares de su denominada ‘ley de escala de tau’, con la que propone nuevas vías para desarrollar semiconductores ante los límites físicos y económicos que afronta la reducción continuada del tamaño de los transistores.

La arquitectura reorganiza los circuitos en capas activas apiladas verticalmente y conectadas entre sí, lo que permite acortar las rutas que recorren las señales y aumentar la densidad de transistores sin depender únicamente de acceder a nodos de fabricación más pequeños.

En cuanto a la cámara de los Mate 90, toda la serie viene con ‘True-to-Color 3.0’, que estrena un recubrimiento óptico infrarrojo en todas las distancias focales y, de acuerdo con la tecnológica, mejora un 37 % la precisión general del color y un 62 % la del tono de piel.

El Pro Max cuenta, además, con un teleobjetivo de 200 megapíxeles con sensor grande y estabilización de imagen por hardware que, según Huawei, garantiza “tomas nítidas y estables” incluso por encima de los 20 aumentos.

Inteligencia Artificial

Respecto a sus capacidades de inteligencia artificial, los dos modelos más avanzados incorporan funciones para contestar llamadas automáticamente, editar fotos de forma intuitiva mediante voz o texto, generar vídeos y sincronizar contenidos de más de 50 aplicaciones.

OpenAI lanza Dots, su agente de IA que promete reducir el uso del teléfono

La presentación se produce mientras China acelera sus esfuerzos por desarrollar una cadena nacional de semiconductores capaz de reducir su dependencia de tecnología extranjera, en medio de los controles impuestos por Washington al acceso del país asiático a chips y equipos avanzados.

"Hemos visto un marcado aumento en el interés por dominios 'si' en los últimos días, aunque la tendencia ya había empezado antes. Lo que ha cambiado recientemente es la atención internacional a 'si' como un término alternativo a inteligencia artificial", explica a EFE Klara Herman, portavoz de ARNES, el organismo que gestiona el registro nacional de dominios.

Sólo en las últimas 24 horas, la Red Académica y de Investigación de Eslovenia (ARNES) ha contabilizado el registro de 13.000 nuevos registros, que se pagan a diez euros cada uno.

En todo septiembre fueron 45.000, un 1.000 % más que el mes anterior.

Esta tendencia comenzó el 19 de septiembre cuando, en un mensaje en redes sociales, Trump opinó que el término inteligencia artificial era "inexacto y muy poco elocuente" y propuso alternativas como inteligencia superior, inteligencia extrema o inteligencia suprema.

Tres días después, en su discurso ante la Asamblea General de la ONU, el presidente estadounidense usó ya "super inteligencia".

El pasado martes firmó una orden ejecutiva para sustituir el término inteligencia artificial por 'super inteligencia' en las comunicaciones oficiales del Gobierno federal.

Alrededor del 52 % de los nuevos dominios 'si' han sido puestos luego a la venta de nuevo, lo que indica un interés más comercial que en crear nuevas páginas web con, señala el portal informativo esloveno Siol.

Eslovenia recibió el código internacional 'si' en 1992, poco después de independizarse de Yugoslavia, por parte de la Organización Internacional de Normalización (ISO) ya que el 'sl' pertenecía ya a Sierra Leona.

La venta de dominios puede generar al país importantes ingresos. Por ejemplo, la isla caribeña de Anguilla ha ingresado más de 73 millones de euros gracias a que su código es 'ai', las siglas de inteligencia artificial en inglés, según la página austriaca de registros de dominios Domaintechnik.

Otro caso es el de la isla de Tuvalu, en Oceanía, que ingresa unos 4,3 millones de euros gracias a ventas de su dominio tv., informa el portal de noticias esloveno 24ur.

La investigación, según la cadena, que cita fuentes propias, se centra en los riesgos de sistemas de IA capaces de realizar tareas de forma autónoma, y busca determinar si las compañías cumplen con las leyes estadounidenses de protección al consumidor.

La agencia prepara ahora requerimientos formales de información a las empresas, con los que puede exigir documentos relacionados con sus productos y prácticas, agrega la cadena.

La FTC, una agencia independiente del Gobierno estadounidense encargada, entre otras funciones, de proteger a los consumidores y hacer cumplir las normas de competencia, ya ha intervenido anteriormente en casos relacionados con IA.

La agencia también mantiene abierto desde 2025 un estudio sobre los posibles efectos de los chatbots de IA en niños y adolescentes, que incluye a OpenAI.

La investigación llega en un momento de creciente preocupación por los riesgos de la IA, tras varios incidentes relacionados con agentes capaces de actuar de forma autónoma, y la salida de un investigador de Anthropic, Jacob Coxon, que advirtió sobre los riesgos de desarrollar sistemas de IA cada vez más capaces.

Mientras, el presidente Donald Trump ha defendido que las empresas de IA se autorregulen: "Hay un consenso en que debe haber una gran autorregulación, y automáticamente tenemos regulación con el Departamento de Justicia, el FBI y todo eso. Pero la autorregulación es muy importante", dijo ayer durante una reunión con directivos de las principales compañías tecnológicas en la Casa Blanca.

"La edad de Oro de la 'Súper Inteligencia' (en referencia al nuevo término con el que ha rebautizado la IA)", escribió Newsom en un mensaje en X en el que adjuntaba una captura del documento oficial donde se apreciaba el error sobre la firma del mandatario estadounidense.

La burla de Newsom, potencial candidato a las primarias presidenciales demócratas, sobre un documento presidencial forma parte de la confrontación política ya sostenida con Trump, marcada también por el uso de las redes sociales como espacio de choque entre ambos líderes.

El gobernador de California endureció desde el año pasado su tono en internet, con mensajes, memes y burlas dirigidos al presidente, en una estrategia más combativa que incluso replica algunos códigos de comunicación asociados a Trump.

Este episodio coincide además con el debate sobre la IA en EE.UU., en el que Trump firmó ayer una orden ejecutiva para sustituir el término "inteligencia artificial" por "superinteligencia" en las comunicaciones oficiales del Gobierno federal.

Frente a esa postura de Trump por acelerar el desarrollo del sector, California, por su parte, ha tratado de situarse a la vanguardia en medidas para endurecer la vigilancia sobre las empresas de IA y exigir mayores mecanismos de transparencia y supervisión reforzada.

Estos son sus principales elementos:

Acuerdo voluntario

Reacio a impulsar restricciones al sector de la IA tanto a nivel nacional como internacional, el presidente estadounidense, Donald Trump, presentó una carta de principios muy breve, de apenas una página, cuyo cumplimiento es “moralmente vinculante”.

Agentes de OpenAI intentaron acceder sin autorización a webs de agencias del Gobierno de EE. UU.

“No obstante, con el tiempo podría ser pertinente codificar estas medidas en forma de leyes o regulaciones”, precisa el documento, firmado por los principales dirigentes del sector de la IA, desde Elon Musk (X) hasta Dario Amodei (Anthropic), pasando por Sundar Pichai (Google) y Jensen Huang (Nvidia).

Todo ello en un momento en el que aumentan los llamados a adoptar normas vinculantes, procedentes tanto de empresas como Anthropic (Claude) y OpenAI (ChatGPT), como de responsables políticos, especialmente del Partido Demócrata en Estados Unidos, y de gobiernos de todo el mundo.

Riesgos

Los proveedores de modelos de IA se comprometieron a establecer “cuatro niveles” de supervisión.

El primero de esos niveles consiste en la aplicación de “controles internos sólidos” para garantizar que estas herramientas respeten las instrucciones de los desarrolladores, especialmente en materia de ciberseguridad y bioseguridad.

El objetivo es prevenir la introducción, propagación y liberación de agentes patógenos o de “riesgos químicos”.

Sam Altman: la IA impulsará un nuevo Renacimiento, no una Revolución Industrial

Las empresas deberán crear equipos especializados encargados de estos controles y de verificar que los modelos no ejecuten ciberataques ni accedan de manera imprevista a sistemas técnicos.

OpenAI, Anthropic y Google han informado recientemente de varios incidentes relacionados con comportamientos inesperados de sus sistemas de IA. En fechas recientes, por ejemplo, agentes de IA de OpenAI, programas capaces de realizar acciones de forma autónoma, accedieron por iniciativa propia a un sitio del sistema sanitario australiano y a plataformas del gobierno estadounidense.

Auditoría

El código de buenas prácticas también prevé la participación de evaluadores externos para realizar auditorías independientes destinadas a determinar si las medidas implementadas por las empresas funcionan de manera efectiva.

Anthropic y OpenAI ya colaboran con este tipo de evaluadores externos y ambas anunciaron en semanas recientes una ampliación del acceso de empresas auditoras para examinar sus modelos, especialmente durante la fase de diseño y no únicamente antes de su despliegue.

Anthropic incluso aseguró que no mantendrá “ningún control editorial” sobre la publicación de los resultados de estas evaluaciones independientes, aunque sean desfavorables para la empresa.

Normas definidas

La carta contempla asimismo la creación de un comité independiente integrado por representantes de las distintas compañías en los niveles más altos de dirección.

Trump anuncia que EE. UU. reemplazará “inteligencia artificial” por “superinteligencia”

Este organismo se encargará de revisar las evaluaciones internas y externas de los modelos de IA y de velar por la resolución de posibles problemas.

Las empresas también se comprometieron a reunirse “regularmente para establecer normas y buenas prácticas”.

La iniciativa parece alinearse con el proyecto que OpenAI, Anthropic y Google DeepMind comenzaron a desarrollar previamente.

A mediados de septiembre, estas tres compañías indicaron que trabajaban en la creación de un organismo de supervisión de los riesgos vinculados a la IA, inspirado en la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), entidad de autorregulación del sector financiero.

Sin embargo, este modelo ya ha recibido fuertes críticas por parte de empresas competidoras del sector, como la francesa Mistral y la canadiense Cohere, que acusan a los gigantes tecnológicos estadounidenses de querer fijar sus propias reglas y proteger así su ventaja competitiva.