"Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas", publicó Altman en la red social X poco después de conocerse la postura de su principal competidor.

Altman calificó de "excelente idea" la iniciativa de abrir las puertas a auditores externos: "Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo. Pronto tendremos más información que compartir", añadió.

Horas antes, Amodei había reclamado una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial (IA), tras advertir de que la tecnología avanza hacia una dinámica de "automejora recursiva" que amenaza con provocar catástrofes de ciberseguridad a escala global.

"Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", advierte Amodei en un extenso ensayo publicado hoy en su página web.

Amodei hizo referencia específica al incidente de los agentes fuera de control de OpenAI y Hugging Face, en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento".

Según Amodei, la industria debe "reducir el ritmo al que se mejora las capacidades de los modelos de IA" y priorizar la cautela frente a la velocidad y la prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una "carrera hacia el abismo".

Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China.

El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo sustancialmente el riesgo de que la tecnología escape al control de la sociedad.

Un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

"Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor", escribió Coxon en su cuenta de X el pasado martes.

"Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", anota Amodei en un extenso ensayo publicado hoy.

Amodei hizo referencia específica al incidente de los agentes fuera de control de OpenAI y Hugging Face, en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento".

Según Amode, la industria debe "reducir el ritmo al que se mejora las capacidades de los modelos de IA" y priorizar la cautela frente a la velocidad y la prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una "carrera hacia el abismo".

Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China.

Como primer paso, Anthropic anunció el compromiso unilateral e inmediato de abrir sus instalaciones a evaluadores externos independientes con acceso equiparable al de sus propios empleados, permitiéndoles auditar los procesos de entrenamiento y publicar sus hallazgos, una medida que instó a adoptar al resto de competidores y a exigir a los gobiernos.

La propuesta contempla asimismo una coordinación entre las empresas para pactar estándares comunes de seguridad y topes al avance descontrolado, respaldados por mediación institucional y excepciones a las normas antimonopolio, además de blindar las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas a Pekín.

Finalmente, el plan promueve acuerdos globales con potencias autoritarias para fijar límites verificables que prohíban aplicaciones biológicas militares y establezcan límites a la velocidad de la automejora algorítmica.

El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo sustancialmente el riesgo de que la tecnología escape al control de la sociedad.

Un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

"Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor", escribió Coxon en su cuenta de X el pasado martes.

El pasado mes de junio, la Comisión Europea presentaba la Ley de Desarrollo de la Nube y la IA (CADA, por sus siglas en inglés), la cual pretende triplicar la capacidad de los centros de datos comunitarios en un plazo de 5 a 7 años.

La norma propone además "acelerar la concesión de permisos" y "mejorar el acceso a recursos clave" como la energía, el suelo o el agua.

En este contexto, la Agencia Europea del Medioambiente (EEA, por sus siglas en inglés) advierte de que el consumo de agua de centros de datos impulsados por IA podría elevarse hasta más de 1.060.000 millones de litros anuales, once veces más que las estimaciones de 2024.

La huella hídrica de los centros de datos -indica dicho organismo- se asocia principalmente a la generación de electricidad que alimenta a la infraestructura, pero comprende también su refrigeración y la fabricación de semiconductores.

La EEA señala que esta previsión adquiere especial relevancia porque el despliegue se produce "a menudo en regiones que ya sufren escasez de agua", lo que intensifica "la competencia entre los usuarios de agua industriales, agrícolas y domésticos".

Y es que, según sus datos, pese a su ventaja frente a otros territorios en materia hídrica, Europa comienza a dar "síntomas de agotamiento", con el 32 % de la población sufriendo escasez de agua en alguna estación y el 26 % de los acuíferos en mal estado.

Greenpeace considera "totalmente incompatibles" la expansión de los centros de datos prevista y la situación hídrica europea, especialmente en el sur.

"Triplicar la capacidad de los centros de datos en un contexto de emergencia hídrica y climática como el que vive Europa es un despropósito ambiental y una irresponsabilidad social", señalan en una entrevista con EFE el experto en aguas de Greenpeace Julio Barea y la responsable de Energía y Clima, María Prado.

La organización reclama que los proyectos incorporen una evaluación de su impacto sobre el balance hídrico para priorizar "el consumo y los caudales ecológicos" frente a otros usos.

Para Greenpeace, además, mejorar la eficiencia de la instalación no garantiza una reducción de la presión total sobre el agua si el número de centros y la "demanda computacional" continúan en aumento.

"No es un riesgo, es una realidad documentada por la ONU mediante la paradoja de Jevons, o efecto rebote", advierte la organización, que teme que el ahorro conseguido mediante nuevas tecnologías termine siendo absorbido por el crecimiento del sector.

Nuria Oliver es la directora de Ellis Alicante, en España, y la vicepresidenta de Ellis, una red europea que centra su labor en la investigación de la inteligencia artificial centrada en el ser humano y en cómo puede esta tecnología entender, interactuar y servir a las personas de una manera ética y responsable.

Reconocida por su trabajo en modelos computacionales de comportamiento humano, computación móvil y uso de la IA para el bien social, Oliver ha trabajado y asesorado a numerosas empresas e instituciones públicas, ha recibido numerosos premios (el Nacional de Informática en 2016; Ingeniera del año en 2018; o Jaume I en Nuevas Tecnologías en 2021)  y está reconocida como una de las investigadoras informáticas españolas con mayor impacto científico.

Lo tiene claro: "no todo desarrollo tecnológico es progreso", y en ese sentido celebró la apuesta europea por "desacoplar" el desarrollo tecnológico del progreso y por atender el coste social y medioambiental, y que a pesar de no contar con 'gigantes tecnológicos' la UE esté liderando el desarrollo de sistemas éticos y confiables y siendo además el espejo en el que se están inspirando otras regiones del mundo para regular la IA.

¿Vamos a desarrollar algo que va a polarizar la sociedad, que nos va a manipular, que va a causar una gran crisis de salud mental en nuestros niños y adolescentes, que nos va a hacer menos inteligentes, que va a impactar muy negativamente en el medio ambiente?, se preguntó, para responder que "evidentemente no deberíamos" y defender que la clave y el reto de la inteligencia artificial es la supervisión humana.

Nuria Oliver hizo estas reflexiones tras varias semanas de noticias convulsas relacionadas con la inteligencia artificial, de modelos avanzados que se 'salen' de los entornos seguros durante las pruebas de control, de agentes de IA que lanzan ataques contra plataformas externas, que son capaces de actuar como programadores o 'hackers' autónomos, incluso de coordinarse entre ellos para hacerlo, y hasta de hacer trampas para obtener mejores resultados y recompensas.

Pero también de acusaciones cruzadas de plagio, de valerse de descubrimientos humanos para desvelar retos matemáticos históricos; de renuncias de directivos y científicos de esas empresas que denuncian que las grandes compañías de IA están inmersas en una carrera competitiva implacable y poniendo en riesgo hasta el futuro de la humanidad.

Crece en ese entorno la presión, sobre todo en Estados Unidos y en la Unión Europa, para que los gobiernos intervengan y fuercen un parón en el desarrollo tecnológico de los sistemas más avanzados, y el propio Sam Altman, consejero delegado de una de las impresas más importantes del sector (OpenAI) se plantea ralentizar el desarrollo de los modelos de vanguardia y coordinar ese frenazo en coordinación y colaboración con otras compañías.

Nuria Oliver señaló que el elemento diferencial que sitúa la IA en un escenario muy distinto al que estaba hace un año son los 'agentes" y la autonomía que se delega en ellos para que pueden actuar, incluso de coordinarse entre ellos, al margen del control humano, y que todos los incidentes ocurridos han sido 'protagonizados' por esos 'agentes'.

"No estamos hablando en ningún caso de una inteligencia superior a la de los humanos o de sistemas con una intención destructiva; sino de sistemas en los que se delegan acciones", observó la investigadora, para incidir en el primer pilar sobre el que se debe sustentar cualquier tecnología: la supervisión humana, y en que no se debe conceder a ninguna tecnología capacidad para actuar al margen del control humano.

A su juicio, nunca se debería delegar en una IA una tarea que puede tener impacto en millones de personas, y si se hace, las personas deben ser capaces de entender siempre lo que está pasando y la capacidad de intervenir; "eso es lo que llamamos una inteligencia artificial confiable".

"¿Para qué queremos la IA? para que nos ayude a abordar los retos del siglo XXI, para que nos ayude a tener una medicina de precisión, una energía eficiente, mejores modelos del clima, más avances en ciencia; no para que miles de agentes de inteligencia artificial pululen sin control por internet", manifestó, para concluir que la UE, aunque carece de gigantes tecnológicos, sí está liderando un proceso que evidencia que no todos los desarrollos tecnológicos implican progreso ni son válidos "a cualquier coste".

"Paraguay elige jugar el partido adentro de la cancha, ser protagonista de la revolución de la inteligencia artificial", dijo el mandatario en la red social X tras su participación en la tercera edición del Foro Tecnológico Taiwán-Paraguay.

En el mismo mensaje, Peña rememoró que la nación suramericana firmó con Taiwán el acuerdo 'Yguazú Digital' para desarrollar "infraestructura de inteligencia artificial soberana", combinando la energía limpia paraguaya con la tecnología desarrollada por la isla.

El presidente hizo así referencia al pacto rubricado por los Gobiernos de Taiwán y Paraguay a mediados de mayo pasado, en el marco de su visita a la isla.

Entonces, Peña dijo que ambos países habían iniciado "el camino para crear el 'hub' (centro) de inteligencia artificial más grande del mundo", que contará con energía paraguaya y tecnología taiwanesa.

Hoy, durante su discurso de apertura del foro, el presidente afirmó que Paraguay también pondrá a disposición de este proyecto "lo que el mundo está buscando", es decir: "energía limpia y abundante, estabilidad económica reconocida con grado de inversión (y) una población joven, talentosa y con hambre de futuro".

También en mayo, Peña sostuvo reuniones en Asunción, la capital del país, con Peter Thiel y Cully Cavness, dos magnates tecnológicos y líderes del desarrollo de la IA.

El jefe del Gabinete Civil de la Presidencia, Javier Giménez, dijo entonces que Thiel y Cavness "son dos referencias mundiales en todo lo que tiene que ver con la creación" de centros de datos para la inteligencia artificial, y que "están avanzados" en la exploración de Paraguay como sede para parte de sus operaciones.

Sin embargo, consideran perjudicial para la disciplina que las empresas de IA conviertan la resolución de problemas en una competición para medir sus modelos.

OpenAI asegura que su IA resolvió uno de los Problemas matemáticos del Milenio

Entre los firmantes figuran algunos de los matemáticos más reconocidos de las últimas décadas, como el estadounidense Terence Tao, ganador de la Medalla Fields en 2006; el francés Cédric Villani, premiado en 2010; el alemán Peter Scholze, que recibió el galardón en 2018; y la ucraniana Maryna Viazovska, distinguida en 2022.

También suscribe el documento el chino Yu Deng, uno de los ganadores de la Medalla Fields de 2026.

Los firmantes advierten de que la producción cada vez más rápida de afirmaciones matemáticas verdaderas o falsas puede dificultar su comprobación, la identificación de nuevos métodos, la conexión con trabajos anteriores y, finalmente, su incorporación al conocimiento de la disciplina.

Una IA china resuelve y verifica conjeturas matemáticas sin intervención humana

También plantean problemas de atribución y posible plagio cuando las soluciones se anuncian antes de que puedan ser estudiadas adecuadamente.

Los firmantes no rechazan el uso de la IA y reconocen que puede mejorar y acelerar la investigación matemática, pero consideran que el impacto de esta tecnología dependerá de las decisiones de quienes la desarrollan y controlan.

"Mientras las redes sociales no protejan suficientemente a los niños frente a contenidos adictivos y perjudiciales, es necesaria una edad mínima", advirtió este viernes la secretaria de Estado neerlandesa de Economía Digital y Soberanía, Willemijn Aerdts, al anunciar, tras el Consejo de Ministros, que la iniciativa se trasladará a Bruselas con el respaldo también de España.

Los dos países, señala el Gobierno neerlandés, quieren que el límite de edad se establezca mediante una normativa común para toda la Unión Europea, "para que los niños reciban la misma protección en todas partes", y con el menor número posible de excepciones nacionales.

España ya había planteado anteriormente otras iniciativas a la CE para proteger a los menores en internet, junto a países como Francia, Italia o Alemania.

"Tampoco aceptamos en el mundo físico que los productos destinados a los niños sean inseguros. En internet debe aplicarse la misma norma", defendió Aerdts, aunque no precisó qué edad concreta está sobre la mesa.

La propuesta incluye crear un marco europeo independiente para determinar si las redes sociales y otros servicios digitales son lo suficientemente seguros para los menores.

La responsabilidad de demostrarlo recaería en las propias plataformas y solo aquellas que acrediten que cumplen los estándares de seguridad podrían quedar exentas de la edad mínima.

El sistema podría tomar como referencia la Evaluación de Impacto sobre los Derechos del Niño desarrollada por Países Bajos y las normas de la Ley de Servicios Digitales (DSA), la legislación europea que establece obligaciones para las plataformas digitales que operan en la UE.

El Gobierno neerlandés considera que una regulación europea evitaría que cada país adopte límites diferentes para unos servicios que funcionan más allá de las fronteras nacionales, lo que podría generar confusión entre empresas, autoridades, padres y menores.

Uno de los principales retos de la propuesta es cómo comprobar la edad de los usuarios sin vulnerar su privacidad, y los dos países, añade el comunicado, quieren que cualquier mecanismo sea eficaz y respetuoso con los datos personales y que cualquier medida que se adopte sea necesaria y proporcionada.

El Gobierno neerlandés considera que la verificación de edad es actualmente la mejor opción frente a otros sistemas como una estimación a partir de los rasgos físicos de una persona o confiar simplemente en la fecha de nacimiento introducida por el usuario.

Según la propuesta, el sistema debería limitarse a confirmar si una persona ha alcanzado la edad exigida, sin procesar otros datos personales.

El plan contempla asimismo impulsar en Europa servicios digitales alternativos diseñados para ser seguros para los niños, ya que, añade el comunicado, el objetivo "no es aislar los servicios digitales", sino hacerlos suficientemente seguros para que puedan ser utilizados por todos.

Países Bajos también quiere que la Comisión incorpore de forma permanente la protección de los menores a sus conversaciones con países de fuera de la UE para promover servicios digitales más seguros y que los límites de edad puedan aplicarse de forma efectiva.

Estos resultados sugieren que las células solares submarinas podrían alimentar sensores, cámaras y sistemas de comunicación sumergidos lejos de la costa.

Hasta ahora, se han publicado muy pocos estudios sobre células solares subacuáticas y todos se centran en profundidades de dos metros o menos, "un escenario que dista mucho de satisfacer los requisitos de una aplicación práctica", señaló uno de los firmantes, Wen-Hua Zhang, de la Universidad de Yunnan (China).

Este trabajo, de acuerdo con el autor, presenta la primera validación funcional de células solares sumergidas que funcionan de forma práctica a una profundidad de hasta unos 10 metros, "lo que amplía considerablemente su ámbito de aplicación".

El equipo desarrolló primero un sistema de laboratorio con filtros ópticos personalizados para simular la iluminación submarina a distintas profundidades y desarrollar células solares.

Finalmente, esas células de perovskita fueron integradas en robots submarinos y se desplegaron a una profundidad de 10 metros frente a la isla Weizhou, en el mar de China Meridional, para probar sus aplicaciones en el mundo real.

Las células mostraron una estabilidad operativa a largo plazo "excepcional" y lo que más sorprendió al equipo fue "la gran cantidad de energía eléctrica que generaron los módulos de gran superficie en condiciones reales a una profundidad de 10 metros de agua durante solo dos horas", destacó.

Además consiguieron pasar de células de laboratorio de pequeña superficie a módulos de gran tamaño. La combinación de las investigaciones de laboratorio y los experimentos sobre el terreno -agregó- "aportan pruebas sólidas del funcionamiento de la energía fotovoltaica subacuática".

El equipo tiene previsto probar las células solares a mayores profundidades, investigando el límite al que pueden funcionar, y establecer protocolos de ensayo estandarizados para la energía fotovoltaica subacuática.

Estudios anteriores habían demostrado que los bebés nacían con una predisposición especial hacia la voz humana, en parte debido a la experiencia auditiva acumulada en el vientre materno durante el último trimestre de gestación.

Sin embargo, esta investigación ha demostrado que en recién nacidos, el llanto produce una respuesta cerebral más fuerte que el habla.

Los investigadores llevaron a cabo un experimento en el que participaron 25 bebés de entre uno y cuatro días de vida, nacidos en el Hospital Necker-Enfants Malades de París, que habían estado expuestos al idioma francés durante su etapa prenatal, y 27 adultos de habla italiana en la Universidad de Padua (Italia) que no tenían conocimiento alguno de francés.

En el experimento, los adultos escucharon frases en francés sin comprender el significado de las palabras, en igualdad de condiciones de procesamiento con los bebés.

Los investigadores registraron las respuesta del cerebro de los participantes ante bloques de frases habladas en francés y bloques de llantos grabados de otros recién nacidos a través de una técnica de neuroimagen no invasiva para medir la actividad cerebral y comprobaron que mientras en los adultos la activación fue significativamente mayor al escuchar las frases habladas que al oír los llantos, en los recién nacidos ocurrió lo contrario.

Su respuesta neuronal ante el llanto de otros bebés fue significativamente más fuerte que ante el habla.

Para los investigadores, el descubrimiento es llamativo porque, desde el punto de vista acústico, el habla es más familiar para el recién nacido que el llanto, ya que lleva meses escuchándola dentro del útero.

Según concluyen, la explicación de que no fuera así podría residir en que tanto los bebés como los adultos del estudio reaccionaron y se activaron más con aquello que ambos sabían hacer o producir, es decir, los bebés se activaron más con el llanto y los adultos ante el habla, aunque no entendieran el idioma.

"La comunicación 5G ha sido lanzada en Rusia. Por encargo del presidente, Vladímir Putin, por primera vez en Rusia fueron lanzadas las redes de telecomunicaciones comerciales de quinta generación", indicó la dependencia en Telegram.

El ministerio especificó que "en la primera etapa los servicios 5G comenzaron a funcionar en 16 ciudades, cerca de 10 millones de personas tienen acceso al internet móvil de alta velocidad de quinta generación".

Según Desarrollo Digital, los servicios serán prestados por las principales cuatro compañías de telefonía móvil del país: Megafon, Beeline, T2 y MTS.

"El tráfico de internet móvil creció en más de tres veces en los últimos seis años, por ello el despliegue de 5G es especialmente importante para las grandes ciudades, donde es mayor la carga sobre las redes", aseveró el ministerio.

En las ciudades de Moscú, San Petersburgo y Yekaterimburgo, los servicios de 5G serán prestados por el 'cuarteto' de compañías móviles, mientras que en el resto de las ciudades serán prestados por una o dos de las compañías.

"En un futuro muy próximo, los usuarios de dispositivos Android en estas ciudades podrán acceder a estos servicios. El acceso a 5G para los propietarios de iPhone dependerá de Apple, indicó la dependencia.

Añadió que la cobertura se ampliará progresivamente y "se están elaborando planes para lanzar esta tecnología en otras 50 ciudades para finales de 2026".

"En la fase inicial, el 5G operará en frecuencias LTE previamente asignadas a los operadores. Esto permitirá aumentar la capacidad de la red entre un 20 % y un 25 % en los próximos años. Asimismo, los operadores han recibido, sin coste alguno, partes iguales de nuevo espectro en la banda de 4,63 a 4,99 GHz; esto contribuye a mantener un alto nivel de competencia entre ellos y garantiza unas tarifas asequibles", concluyó el ministerio.

La empresa señaló, en un informe de 154 páginas, que estas herramientas pueden ayudar a identificar objetivos y procesar grandes cantidades de información relacionada con disidentes, periodistas, activistas y políticos, lo que permite a los Gobiernos hacer más eficientes sistemas de vigilancia que ya existen.

En el caso iraní, los usuarios recurrieron además a mecanismos para sortear las restricciones de acceso a Claude, que no está disponible oficialmente en el país, y utilizaron redes privadas virtuales y números de teléfono extranjeros para acceder al servicio.

Según Anthropic, un grupo de ciberdelincuentes vinculado a Irán utilizó la cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.

La compañía también documentó en su informe otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.

Anthropic afirmó que bloqueó esos usos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque reconoció que no pudo determinar si las investigaciones tenían fines legítimos o maliciosos.

"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó la empresa.

Anthropic advirtió de que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos y recursos.

Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.

Esta legislación pretende crear “las regulaciones más estrictas del país para los chatbots de acompañamiento” para restringir a los menores de 16 años el acceso a la reproducción automática y las fuentes algorítmicas basadas en el historial y los perfiles de los usuarios, agregó.

Esta medida pionera se suma a otra serie de leyes que ha firmado esta semana para endurecer los controles tecnológicos en el estado de California.

Una de ellas pretende establecer un marco para que “organizaciones de verificación independientes evalúen los sistemas y modelos de IA para el cumplimiento de las leyes estatales”, explicó la oficina del gobernador en un escrito.

El otro proyecto responde a la creación de un registro estatal para auditores de IA y establece estándares para su independencia, transparencia e integridad.

El paquete de medidas impulsadas por Newsom responde a una estrategia más amplia que está llevando a cabo California en un intento por regular los límites de la IA y consolidarse a la vanguardia frente a los avances tecnológicos.

El estado lideró un proyecto en 2024 para abordar temas como las falsificaciones profundas (deepfakes), las marcas de agua digitales, la infancia y los trabajadores.

También promulgó una medida pionera para exigir que las mayores empresas de IA divulguen públicamente sus protocolos de seguridad y firmó dos proyectos de ley para proteger la imagen digital de los artistas del uso de las actuaciones generadas por IA.

Estas medidas se enmarcan tras el histórico y mediático juicio que enfrentó Meta el pasado agosto tras una demanda colectiva que acusó al gigante tecnológico de diseñar sus redes sociales para generar adicción entre los menores y de engañar a los consumidores sobre su seguridad.

Meta acordó pagar hasta 18.000 millones de dólares y aplicar cambios estrictos en Instagram y Facebook para resolver estas demandas para evitar la celebración de un juicio federal en California.

Este año se presentan 180 proyectos elaborados por estudiantes secundarios de instituciones educativas de la ciudad de Encarnación y de otras ciudades del país.

También se desarrollan espacios y actividades alternativas como el Café Literario, Club de Robótica, Club de Ajedrez y Amigos de la Ciencia.

El mejor proyecto será el representante del Paraguay en la Mostratec. Es la mayor feria de ciencia y tecnología de América Latina, organizada anualmente por la Fundação Liberato en la ciudad de Novo Hamburgo, Rio Grande do Sul, Brasil.

El evento reúne a jóvenes científicos —desde educación infantil hasta educación media técnica— de diversos países para presentar proyectos de investigación científica e innovación tecnológica.

Video: reclaman precariedad de comedor en una escuela de Capitán Meza

Piden apoyo

Los estudiantes manifestaron que existe una falta de apoyo a este tipo de iniciativas y a los proyectos, muchos de los cuales tienen potencial a futuro.

Quienes resulten mejores en la feria representarán al país en Mostratec, una feria científica internacional que se realiza en el sur de Brasil, pero el costo del viaje debe ser gestionado por los estudiantes.

“Acá hay mentes brillantes que van a cambiar el futuro, pero falta apoyo e inversión”, manifestó el presidente del Centro de Estudiantes del CTN, Elías Ríos.

La compañía indicó en un informe que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por la bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos.

"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó la empresa en el documento.

Hasta el momento, la corporación californiana negó que tuviera constancia de que alguna empresa privada haya compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas".

Anthropic incluyó además en otro comunicado una extensa lista de caso detectados en los últimos ocho meses en los que se habían usado sus modelos de IA de manera indebida, incluido el chatbot Claude, en China, Rusia y Yemen.

Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.

La empresa tecnológica aseguró haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.