Tras haber trabajado durante los últimos años en OpenAI (ChatGPT) y también formar parte de Anthropic (Claude), Coxon presentó su renuncia denunciando públicamente que ambas corporaciones “no están actuando con responsabilidad” y se encuentran jugando “con nuestras vidas”.

Aunque los medios lo identifican como uno de los desarrolladores involucrados en unos modelos de IA sin funciones ejecutivas, Coxon utilizó su cuenta de la red social X para difundir una preocupante advertencia sobre qué ocurriría en el futuro del sector que, a su vez, generó todo un “terremoto”.

Según sus declaraciones, las personas que están detrás del constante avance de esta tecnología sostienen en privado que la IA “podrá matarnos a todos al final de esta década”, incluso asegurando que “no hay otra actividad humana que suponga este nivel de amenaza”.

Agentes de OpenAI intentaron acceder sin autorización a webs de agencias del Gobierno de EE. UU.

Su análisis es acompañado con una serie de argumentos, como que se subestima a esta tecnología y que los proyectos actuales se convertirían muy pronto en sistemas “sobrehumanos” capaces de realizar hackeos a cualquier escala, revolucionar todos los ámbitos de la sociedad e incluso obtener algún tipo de poder o recurso real.

El ingeniero también señaló, al momento de su denuncia, que no existía una coordinación efectiva entre las empresas involucradas en los distintos proyectos de IA, mientras que estas eventualmente podrían auto-mejorarse sin la intervención del ser humano, uno de los aspectos que más preocupación generan en el sector.

Por esto, el desarrollador insta a la implementación de medidas drásticas y costosas, como una prohibición temporal para seguir mejorando las capacidades del modelo (model capabilities), mientras que también lanzó una interpelación directa a la comunidad de investigadores en inteligencia artificial, preguntándoles si pretenden potenciar un “aprendizaje por refuerzo” (reinforcement learning) superinteligente sin contar con un entendimiento riguroso de su mente, o si aprovecharán el momento para exigir condiciones distintas en lugar de someterse al avance imprevisto de la tecnología.

Tribunal de apelaciones de EE. UU. mantiene las restricciones del Pentágono contra Anthropic

Lo que dicen los gigantes

Las declaraciones de Coxon también provocaron una oleada de repercusiones y llamados de atención en todo el sector tecnológico, ya que lejos de ser simplemente una publicación en la red social X, el especialista fue entrevistado por varios medios donde continuó expandiendo su discurso en las entrevistas.

Como una respuesta a esta creciente preocupación por los peligros inherentes a la tecnología, el magnate Elon Musk abogó porque los principales desarrolladores de inteligencia artificial sometan sus modelos a revisiones de seguridad y colaboren de manera directa entre sí para probarlos. La propuesta de Musk busca que las compañías rivales auditen y pongan a prueba mutuamente sus modelos de seguridad para detectar riesgos y problemas de seguridad.

La idea no solamente responde a una línea por parte de Musk, otros líderes destacados de la industria también reconocieron la necesidad de extremar precauciones. De una manera que podría considerarse hasta el momento única, Musk coincidió con rivales del sector, como Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI, en la necesidad de ralentizar el desarrollo de la IA debido a los riesgos de seguridad que puedan existir.

Además, la renuncia de Coxon intensificó el escrutinio público y mediático sobre el compromiso real de las empresas para desarrollar modelos de forma responsable, en lugar de priorizar la competencia por superarse unas a otras, al igual que continúen los ataques no controlados entre plataformas.

La idea colaborativa entre unos de los representantes más conocidos de esta área gira en torno a establecer colaboraciones de prueba entre los gigantes tecnológicos, sometiendo los sistemas a análisis de seguridad cruzados antes de su despliegue, ya que movimiento dentro del ámbito también demuestra un dilema sobre quién lidera en la carrera, pero sin tener en cuenta toda la seguridad que puede ser exigida o solicitada por los usuarios.

Por su parte, el director ejecutivo de Meta, Mark Zuckerberg, argumentó que cada empresa debe asumir por su cuenta “la responsabilidad” de garantizar que sus modelos de inteligencia artificial (IA) sean seguros, con lo que aparentemente se desmarcó de las propuestas para coordinar una desaceleración en el desarrollo de esta tecnología.

Finalmente, veintidós países reclamaron, durante la Semana de Alto Nivel de la ONU, que la inteligencia artificial permanezca bajo supervisión humana y que los Estados miembro adopten normas comunes, con pruebas obligatorias y evaluaciones independientes.

Anthropic presenta un nuevo sistema enzimático descubierto con ayuda de su IA Claude

Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información.

OpenAI habría tardado ocho días en detectar ataque de sus agentes de IA a Hugging Face

En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.

Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU., desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI.

La compañía también investiga un intento de acceso a la página del Departamento de Educación.

Acciones no previstas durante procesos de entrenamiento

La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.

El primer ministro australiano, Anthony Albanese, calificó el episodio de “inaceptable”, mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.

Agentes de OpenAI usaron una web alemana para comunicarse entre ellos, según investigación

OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento.

La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.

Según la cartera de Estado, los sospechosos estarían vinculados con delitos como robo de vehículos, secuestro extorsivo, intimidación, tenencia y porte de armas de fuego, receptación y tráfico de drogas.

La operación, ejecutada en coordinación con la Fiscalía, incluyó cinco allanamientos en los distritos de Los Chillos, Tumbaco, Eugenio Espejo y Eloy Alfaro, donde ocho personas fueron detenidas y otras dos aprehendidas.

Durante las intervenciones, las autoridades recuperaron un vehículo y retuvieron otro, incautaron dos armas de fuego, cinco teléfonos móviles y una veintena prendas de vestir.

Entre los detenidos se encuentran dos individuos de interés penal relevante que registran antecedentes por delitos como asociación ilícita, intimidación, tenencia y porte de armas, robo y recepción.

Los Lobos es una de las principales bandas criminales de Ecuador a las que las autoridades vinculan con la crisis de seguridad y violencia que atraviesa el país, por lo que pasó a ser catalogada como "terrorista" por el gobierno de Daniel Noboa en enero de 2024.

Tras un juicio de dos semanas en el Tribunal de Distrito estatal de Santa Fe, el jurado determinó que la red social había incurrido en múltiples infracciones de la Ley de Prácticas Desleales de Nuevo México, debido a su política para monetizar los datos de los usuarios de la red social y la filtración de información a Cambridge Analytica.

La fiscalía sostuvo que Facebook permitió recopilar información de los usuarios a través de una aplicación llamada 'thisisyourdigitallife', la cual se presentaba como un cuestionario académico de personalidad.

Unas 270.000 personas realizaron el cuestionario; sin embargo, la plataforma permitía que la aplicación también recopilara datos de todas las personas que figuraban como amigos de dichos usuarios, la mayoría de las cuales nunca instaló la aplicación ni dio su consentimiento.

La recopilación de datos acabó afectando a unos 70 millones de usuarios de Facebook en Estados Unidos —incluidos cerca de 350.000 residentes de Nuevo México— y a 87 millones de personas en todo el mundo.

Posteriormente, los datos fueron vendidos a Cambridge Analytica, una consultora política ya desaparecida, que utilizó esta información para elaborar perfiles psicológicos destinados a campañas de publicidad política segmentada durante las elecciones presidenciales de Estados Unidos de 2016.

Facebook tuvo conocimiento de esta venta indebida en diciembre de 2015, pero no notificó a los afectados, no verificó que los datos hubieran sido realmente eliminados ni auditó otras aplicaciones de terceros en busca de abusos similares. De hecho, el público no se enteró de la brecha de seguridad hasta marzo de 2018, sostuvo la demanda.

El juez a cargo del juicio tendrá que determinar cuánto deberá pagar la empresa. La Fiscalía de Nuevo México ha solicitado una multa máxima de 5.000 dólares por infracción.

El Fiscal de Nuevo México, Raúl Torrez, dijo en un comunicado que el caso buscaba "responsabilizar a una de las corporaciones más grandes del mundo por haber traicionado la confianza" del Estado y de los usuarios a nivel global.

Este es el segundo caso que el Departamento de Justicia de Nuevo México gana contra la empresa este año, en marzo pasado un jurado de Nuevo México impuso a Meta una multa de 375 millones de dólares por ocultar información sobre deficiencias en sus plataformas y prácticas comerciales que facilitaban la explotación sexual infantil.

El conflicto comenzó en febrero, cuando Anthropic rechazó la exigencia del secretario del Pentágono, Pete Hegseth, de eliminar las restricciones de Claude para uso en armas letales totalmente autónomas y para la vigilancia de ciudadanos estadounidenses en el territorio nacional.

“En nuestra república, depende del presidente y el secretario de Defensa decidir cómo balancear” entre los riesgos de una IA que está muy limitada y una sin límites, escribió el juez Gregory Katsas en representación de dos de los tres magistrados del tribunal de apelaciones de Washington.

Google lanzará un satélite de prueba para explorar centros de datos de IA en el espacio

El subsecretario de Defensa, Emil Michael, celebró en X la decisión, al asegurar que “el peso de la justicia ha destrozado los argumentos de Anthropic”. Y aseguró que con la decisión “una compañía privada no insertará sus opiniones en la cadena de mando”.

“Riesgo en la cadena de suministro”

El Departamento de Defensa designó en marzo a Claude como “riesgo en la cadena de suministro”, por lo que anuló los contratos militares de Anthropic e impidió a otros contratistas del Pentágono utilizar su tecnología.

La designación contra Anthropic supuso una aplicación muy inusual de dicha autoridad contra una empresa estadounidense.

Desde entonces, la empresa se ha convertido en un paria en la Casa Blanca, a pesar de que desempeña un papel fundamental en el sector de la IA y que en las próximas semanas se prevé que tendrá un éxito rotundo en su salida a bolsa.

La Casa Blanca ha reaccionado con irritación ante las repetidas advertencias del director ejecutivo de Anthropic, Dario Amodei, sobre los peligros de la IA. Donald Trump incluso las calificó de “bulos”.

En San Francisco a finales de agosto, una jueza federal había dejado sin efecto otras sanciones de la administración Trump contra Anthropic.

“La mera invocación de seguridad nacional no es un cheque en blanco para castigar a quienes critican al gobierno”, escribió la jueza Rita Lin.

Pero la corte de Washington tuvo otra consideración, al señalar en su decisión que el Pentágono no sancionó a Anthropic por sus posiciones, sino por negarse a cumplir con una cláusula contractual.

Según los registros judiciales, un ejecutivo de Anthropic cuestionó el uso de Claude por un contratista del Pentágono, la empresa Palantir, durante la operación militar para la captura de Nicolás Maduro en enero.

Manifestantes protestan en Berlín contra el premio Axel Springer a Peter Thiel

Esta objeción “alarmó” al departamento, que temió la posibilidad de que Anthropic hiciera que su software “dejara de funcionar o causara una acción desastrosa que pusiera en riesgo” la vida de los soldados", según Michael.

En una conferencia convocada por la AI Safety Connect en los márgenes de la Semana de Alto Nivel de la Asamblea General de Naciones Unidas, los expertos alertaron de que el vertiginoso ritmo técnico amenaza con desbordar la capacidad de respuesta política si no se actúa con rapidez.

"Hay consenso para dejar de mirar y admirar el problema, y pasar realmente a actuar", remarcó Nicolas Miailhe, cofundador de AI Safety Connect.

Miailhe comparó la parálisis actual con la inacción ante el cambio climático y citó la advertencia del pionero Yoshua Bengio: "La humanidad está dentro de un coche acelerando a fondo en medio de la niebla: sin frenos y sin cinturones de seguridad".

Los especialistas denunciaron que la "pérdida de control" no es un escenario hipotético de ciencia ficción, sino un proceso en marcha demostrado por una serie continuada de incidentes durante el pasado verano.

Entre ellos destacaron vulneraciones protagonizadas por agentes autónomos de OpenAI en la infraestructura de Hugging Face y brechas de seguridad en el sistema de salud pública de Australia, descubiertas por investigadores independientes y no por las propias corporaciones tecnológicas.

Para Nick Moës, director ejecutivo de The Future Society, y Adam Gleave, consejero delegado de FAR AI, la ausencia de una catástrofe mayor hasta ahora se debe al mero azar o a que los modelos perseguían objetivos muy determinados, pese a demostrar ya "capacidades empíricas de engaño, manipulación, ejecución de planes no autorizados y autorreplicación".

A este panorama se suma el riesgo inminente del llamado "auto-mejoramiento recursivo" (RSI), la facultad de los modelos de optimizar y entrenar a la siguiente generación de sistemas prescindiendo de los ingenieros humanos.

"Con el auto-mejoramiento recursivo se sustituyen más y más partes del proceso con IA. Se vuelve extremadamente difícil garantizar que la función objetivo sea la que queremos cuando dejamos al ser humano fuera del circuito", alertó la doctora Katarina Slama, exinvestigadora de OpenAI.

Moës explicó cómo las normativas pioneras en California o la Unión Europea obligan a las multinacionales a adaptar sus modelos de manera global.

El senador estatal de California Jerry McNerney defendió el impacto de normativas pioneras como la ley SB 813 californiana o el marco comunitario europeo.

Debido al coste astronómico de entrenar modelos de frontera, las empresas no desarrollarán versiones separadas para cada jurisdicción, sino que adoptarán el estándar más estricto.

Apenas dos días antes, los principales directivos de la industria -entre ellos Sam Altman (OpenAI) y Dario Amodei (Anthropic)- comparecieron ante el Consejo de Seguridad de la ONU en una histórica sesión auspiciada por Francia, donde ambos líderes admitieron que ningún Estado ni empresa puede gestionar los riesgos en solitario y apoyaron salvaguardias internacionales.

Ese clamor multilateral se vio reforzado por la iniciativa conjunta liderada por mandatarios como Emmanuel Macron (Francia) y Pedro Sánchez (España) para restringir el acceso y blindar a los menores de edad ante los algoritmos.

Sin embargo, la hoja de ruta choca de frente con la postura del presidente de Estados Unidos, Donald Trump, quien durante su discurso ante la Asamblea General rechazó cualquier "esquema globalista" de regulación y anunció que los documentos del Gobierno estadounidense pasarán a utilizar el término "superinteligencia" (SI) en lugar de inteligencia artificial.

Pese a esto, el estudio también reveló que el 63 % de las organizaciones que ya las utilizan sigue en una etapa básica, brecha que, en parte, la UNIAT atribuyó a la falta de especialistas.

El crecimiento llevó a más de 2,5 millones el número de organizaciones que utilizan alguna herramienta de IA en México y se extendió entre empresas de todos los tamaños: la adopción alcanza el 47 % entre las pequeñas y medianas empresas, el 49 % en las grandes y el 52 % en las emergentes.

En este contexto, el director ejecutivo de UNIAT, Jorge Villalobos, afirmó que “la adopción crece, pero de forma superficial”, y señaló la necesidad de contar con profesionales capacitados para que las compañías puedan llevar estas herramientas a procesos más complejos.

Sin embargo, advirtió que "el 63% de las empresas usuarias permanece en una etapa básica de uso de IA, 24 % se ubica en un nivel intermedio y solo el 13 % utiliza sistemas avanzados o inteligencia artificial agéntica".

Los datos coinciden con otros indicadores del estudio de Strand Partners, presentado durante el AWS Summit Ciudad de México, según los cuales solo el 22 % de las organizaciones se considera preparada para avanzar hacia tecnologías como la IA agéntica.

Además, el 46 % de las empresas que ya emplean inteligencia artificial no cuenta con una forma confiable de medir el retorno de sus inversiones en esta tecnología.

En México, las ofertas de empleo que requieren habilidades relacionadas con inteligencia artificial alcanzaron unas 68.000 en 2025, frente a 33.000 un año antes, según el Barómetro de la IA en el mundo laboral 2026 de PwC.

La consultora identificó unas 32.300 nuevas posiciones vinculadas con perfiles que utilizan IA dentro de sus funciones y alrededor de 2.200 para desarrolladores con capacidades técnicas avanzadas, estas últimas con un crecimiento del 59,5 %.

Por su parte, UNIAT sostuvo que el 68 % de los empleadores industriales en México reconoce dificultades para contratar perfiles especializados en ciberseguridad, inteligencia artificial y analítica de datos.

“UNIAT identifica estas disciplinas como fundamentales para industrias como la manufactura avanzada y el sector aeroespacial”, destacó el especialista en inteligencia artificial y director de Desarrollo Empresarial de la universidad, Héctor Barrera.

Barrera sostuvo además que, de los 278.000 profesionales de Tecnologías de la Información y Comunicación (TIC) formados en México, solo “el 3 % cuenta con el nivel de inglés técnico requerido”.

“Los perfiles en ciencia de datos, inteligencia artificial, ciberseguridad, ingeniería de sistemas y áreas afines dejan de ser una apuesta especulativa para convertirse en una ruta con demanda real, medible y vigente”, dijo.

Ante esa demanda, UNIAT evalúa extender a Guadalajara y San Luis Potosí el modelo de centro especializado en inteligencia artificial y ciberseguridad que ya opera en Tijuana.

“La posible expansión ocurre en el contexto del creciente interés de Nvidia por fortalecer su presencia en México, incluyendo la fabricación de supercomputadoras de inteligencia artificial en territorio mexicano y la próxima visita al país de su CEO, Jensen Huang”, afirmó Villalobos.

La visita fue acordada el pasado 2 de septiembre entre Huang y el secretario mexicano de Economía, Marcelo Ebrard, durante la reunión de ministros de Innovación del G20 en Chapel Hill, Carolina del Norte, según informó entonces la Secretaría de Economía.