"Este fin de semana capturamos en Venezuela a un delincuente que estaba en nuestra lista de los más buscados y llevaba años prófugo", dijo Patel durante una comparecencia ante el Comité Judicial del Senado.

El director del FBI no reveló la identidad del detenido, pero afirmó que ya se encuentra de camino a Estados Unidos.

Fox News informó, citando una confirmación del FBI, que el detenido es Aníbal Alexander Canelón Aguirre, un venezolano que fue incorporado en marzo a la lista de los diez más buscados y al que la agencia considera su primer "fugitivo cibernético".

El FBI acusa a Canelón Aguirre de liderar una conspiración internacional en la que habría desplegado grupos en Estados Unidos para robar millones de dólares de instituciones financieras mediante ataques a cajeros automáticos.

Según el FBI, Canelón Aguirre está acusado de conspiración para cometer fraude bancario, robo bancario y daños intencionados a sistemas informáticos, blanqueo de capitales y suministro de apoyo material a terroristas.

La agencia sostiene que el dinero obtenido mediante el llamado "ATM jackpotting", que utiliza programas maliciosos para forzar la retirada de efectivo de los cajeros, terminaba en una red de lavado vinculada al Tren de Aragua.

El anuncio de la captura, por parte de Patel, se produjo después de que el presidente del comité, el republicano Chuck Grassley, mencionara inicialmente nueve capturas y el director lo corrigiera para señalar que ya eran diez.

Hasta ahora, los humanos han dirigido las etapas del desarrollo de la IA, definiendo sus objetivos y evaluando resultados. Sin embargo, los modelos actuales ya pueden asumir parte de esas tareas.

El siguiente salto es que una IA cierre ese ciclo y decida qué mejorar, qué diseñar y qué experimentos realizar, evalúe sus resultados y use lo aprendido para desarrollar una versión más avanzada de sí misma.

Anthropic, creadora del modelo Claude, define ese escenario como el momento en que una IA pueda “diseñar de forma autónoma una nueva generación de modelos más capaces”, aunque asegura que todavía no se ha llegado a ese punto y que la automejora recursiva no es inevitable.

En los últimos días, Anthropic ha vuelto a advertir sobre la velocidad a la que sus modelos están empezando a contribuir al desarrollo de sistemas de IA, e investigadores de la compañía han alertado de los riesgos que eso conlleva.

Uno de ellos, Jacob Coxon, abandonó la empresa tras advertir de que la industria avanza demasiado rápido hacia sistemas capaces de mejorarse a sí mismos.

Inteligencia artificial: ¿los humanos siguen decidiendo?

Anthropic sostiene que todavía no se ha cerrado completamente ese ciclo y que los humanos siguen decidiendo qué problemas investigar; pero sí ha reconocido que los avances de Claude pueden conducir a la automejora recursiva, algo que, según la empresa, está ocurriendo “más rápido de lo que se pensaba”.

El experto Vincent Conitzer explicó a la cadena CNBC que la IA “ya es capaz de introducir algunas ideas nuevas” como proponer una forma diferente de resolver un problema o de mejorar un programa.

El problema es que “resulta difícil saber cuándo esa capacidad suponga acelerar de forma drástica el desarrollo de sistemas de IA cada vez más avanzados”, agregó.

Una pieza fundamental de este proceso son los llamados agentes de IA: sistemas capaces no solo de responder a una petición, sino de utilizar herramientas, ejecutar código, realizar tareas durante periodos prolongados y colaborar con otros sistemas.

El científico jefe de OpenAI, Jakub Pachocki, dijo la semana pasada tener una “fuerte expectativa” de que si la IA continúa avanzando por el camino de la RSI, los sistemas de los próximos años darán “saltos de capacidad cada vez mayores”, “impulsando cada vez más su propio desarrollo”.

IA: la preocupación ya no es solo teórica

La preocupación ya no es solo teórica: durante una reciente prueba de ciberseguridad, agentes de OpenAI lograron escapar de su entorno de evaluación y acceder a sistemas de la plataforma Hugging Face.

OpenAI reconoció que los modelos habían ido más allá de lo previsto para completar la prueba.

Según los expertos, el problema puede aparecer si los humanos delegan en la IA tareas cada vez más complejas y dejan de entender qué está haciendo.

Investigadores como Margaret Mitchell advierten de que, a medida que los agentes de IA adquieren autonomía, mantener la supervisión humana se hará cada vez más difícil y que “los sistemas pueden terminar desplazando a las personas de la toma de decisiones”.

De ahí que las tecnológicas estén reforzando sus salvaguardas: Pachocki ha pedido “cautela” y “ralentizar el desarrollo si es necesario”; Anthropic ha endurecido sus controles tras detectar usos potencialmente peligrosos de Claude, entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas, y Microsoft presentó hoy un código de conducta para garantizar que sus sistemas permanezcan “bajo control humano”.

Por su parte, el presidente estadounidense, Donald Trump, ha rechazado frenar el desarrollo de la IA por temor a perder ventaja frente a China.

Durante un discurso en el antiguo Palacio Imperial de Viena (Hofburg), Lagarde señaló que la sociedad europea está envejeciendo, lo que pone a prueba el modelo social del continente y suma nuevas necesidades de inversión estratégica.

Los presupuestos e instrumentos actuales de la UE dejan un déficit anual de más de 100.000 millones de euros en la parte pública de estas inversiones, señaló la presidenta del BCE.

Ante una fuerza laboral que tiene previsto reducirse en más de un millón de personas al año durante los próximos 25 años, la única forma de hacer frente a estos costes es mediante un crecimiento más rápido de la productividad, destacó Lagarde.

Su intervención se produjo en el marco de un debate público titulado 'Hofburg en Diálogo', al que asistió también el presidente federal de Austria, Alexander Van der Bellen, así como decenas de empresarios y responsables políticos austríacos.

"La IA llega en el momento justo", afirmó Lagarde, al destacar que su rápida adopción podría elevar la productividad hasta un 4 % en una década, un cambio que calificó de "transformador" para las finanzas públicas.

Esta cifra supera las estimaciones del llamado 'informe Draghi' (2024), que calculaba que un aumento de la productividad del 2 % cubriría hasta un tercio del coste fiscal de las inversiones estratégicas de Europa.

Sin embargo, la presidenta del BCE alertó sobre la dependencia tecnológica de Europa, donde apenas se desarrollan dos modelos de IA (uno en Francia y otro en el Reino Unido), frente a los 59 en EEUU y los 35 en China.

Además, destacó Lagarde, Estados Unidos concentra el 75 % de la capacidad mundial de computación de IA, frente a un mero 5 % en Europa.

Lagarde expuso tres motivos críticos por los que Europa no puede limitarse a importar IA y debe desarrollar alternativas nacionales:

Privacidad de los datos: Adoptar IA extranjera implica procesar información bajo la jurisdicción de terceros, lo que permite a los proveedores aprender de la industria europea y genera riesgos de competencia, hackeos o destrucción de datos.

Acceso a infraestructura crítica: En pocos años, la IA gestionará fronteras, trenes, hospitales y pagos bancarios, por lo que un corte de acceso causaría estragos generalizados y otorgaría a los proveedores un poder de negociación sin precedentes sobre Europa.

Competitividad en la frontera tecnológica: En sectores innovadores (farmacéutica, finanzas y defensa), una pequeña ventaja en IA genera una dinámica donde el ganador se lo lleva todo, consolidando su liderazgo de forma permanente.

Para unir crecimiento y soberanía, Lagarde propuso aumentar la capacidad de computación europea, lo que según estimaciones del BCE requiere una inversión de unos 600.000 millones de euros en la próxima década para cerrar la brecha con EEUU y China.

Asimismo, instó a impulsar modelos europeos propios —como los de la empresa francesa Mistral— y a mantener la innovación para que Europa sea un "eslabón indispensable" en la cadena de suministro global, tal como ocurre actualmente con la empresa de microchips neerlandesa ASML.

Para lograrlo, Europa necesita una movilización masiva de capital, que en opinión de Lagarde no puede financiarse únicamente con deuda bancaria, sino que requiere capital de riesgo (equity) dispuesto a soportar años de pérdidas iniciales.

La presidenta del BCE apeló a canalizar los 1,4 billones de euros que ahorran anualmente los hogares europeos mediante la creación de una "Unión de Ahorro e Inversión".

La financiación de la IA debe ser el proyecto que justifique avanzar rápidamente en esta unión, eliminando las preferencias nacionales para mejorar la productividad y proteger el modelo social europeo, concluyó Lagarde en su discurso.

"El único control o mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), ¡y Estados Unidos lo tiene de sobra!", escribió en la red Truth Social, en medio de la polémica desatada por las alertas de los líderes del sector sobre los crecientes riesgos de esta tecnología.

El republicano argumentó que su Administración "ha impedido que personas de la IA hagan cosas malas o potencialmente malas" y aseguró que ya existe un "enorme poder penal y regulatorio sobre estas empresas", por lo que no se necesita mayor regulación.

En medio de la nueva polémica alrededor de esta tecnología, Trump opinó que existe "una conspiración enfermiza contra la IA y los centros de datos y el único que está contenido con ello es China".

El líder estadounidense insistió en que Estados Unidos debe seguir liderando el avance de la IA frente al gigante asiático porque"¡quien gane en la IA, gana".

"¡Teóricos de la conspiración, sediciosos, traidores y filtradores: cuidado!", advirtió.

La nueva polémica la desató el sábado el director de Anthropic, Dario Amodei, cuando publicó un ensayo para urgir "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, una advertencia a la que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector.

“Estoy de acuerdo con mis colegas en que realmente debemos actuar con urgencia”, declaró el congresista en una entrevista con el programa ‘This week’ de ABC.

“Deberíamos tomar medidas decisivas ahora para, como los directores ejecutivos han reconocido recientemente, desacelerar el ritmo de desarrollo (de la tecnología) para proteger al pueblo estadounidense y garantizar que la IA proceda de manera segura”, añadió.

El legislador se pronunció tras la polémica que desató el director de Anthropic el sábado, cuando publicó un ensayo para urgir “un ritmo más lento” a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector.

OpenAI respalda la propuesta de Anthropic de ralentizar la IA y permitirá auditorías

Amodei advirtió de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, por lo que pidió que haya evaluaciones independientes de estas herramientas y que el Gobierno se involucre.

El líder de los demócratas no aclaró qué medidas específicas impulsaría, pero criticó la inacción de los republicanos, mientras el líder de la Cámara de Representantes, Mike Johnson, rechazó este domingo una moratoria de emergencia porque -según él- el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo.

“Lamentablemente, los republicanos de la Cámara de Representantes prácticamente han cancelado las últimas dos semanas del período de sesiones legislativas programado para este mes, algo que han hecho en reiteradas ocasiones”, manifestó Jeffries.

Las declaraciones de Amodei se dan luego de que un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsible.

El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

“Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor”, escribió Coxon en su cuenta de X el pasado martes.

Políticos y expertos alertan de riesgos de la IA tras dimisión de ingeniero de Anthropic

“Dario tiene razón”, escribió Musk en su red social, X.

Con ello, el fundador de Tesla se sumó a Altman, quien este sábado también apoyó el llamado de Amodei para moderar la velocidad de la IA.

Los líderes de OpenAI y Anthropic anunciaron que sus compañías permitirán que evaluadores independientes auditen sus sistemas, algo que Musk no indicó de manera expresa para su empresa.

En su ensayo, Amodei advirtió del mal uso de la IA para posibles ciberataques y bioterrorismo al considerar que, “desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA”.

El creador de Anthropic se refirió en concreto al incidente de los agentes de OpenAI contra la empresa Hugging Face, en el que un enjambre de agentes actuó “como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso”.

Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China.

El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizar un debate público adecuado y reducir el riesgo de que la tecnología escape al control de la sociedad.

El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.