Mientras la reforma de la actual Ley General de Sociedades se discute en las comisiones del Parlamento argentino, referentes del sector tecnológico advertían esta semana en la ONU sobre riesgos inminentes derivados del desarrollo de sistemas autónomos y reclamaban cooperación internacional para su vigilancia.

“Dar personalidad jurídica a una entidad autónoma de inteligencia artificial es una idea irresponsable, peligrosa y tal vez la última que tengamos como humanidad”, advierte a EFE Oscar Soria, cofundador del laboratorio de ideas The Common Initiative, centrado en gobernanza, medioambiente e integridad digital.

Impulsado por el ministro argentino de Desregulación, Federico Sturzenegger, y basado en un trabajo académico de Emiliano Kargieman, el CEO argentino del unicornio Satellogic, el proyecto de ley ha desatado una polémica que ha trascendido fronteras, con respuestas del historiador y escritor Yuval Noah Harari o de Mustafa Suleyman, CEO de Microsoft AI.

El texto introduce los conceptos de Sociedad Automatizada, que “no requiere trabajadores en relación de dependencia ni recursos humanos para su operación ordinaria”, y de Sociedad Descentralizada Autónoma Operativa (DAO), cuya gobernanza y operación dependen de un protocolo que podría ser creado por agentes de IA.

La propuesta de Kargieman incluye organismos de control, seguros, un comité humano solidariamente responsable y hasta un interruptor para apagar en caso de que algo salga mal, pero el proyecto argentino no especifica esos aspectos y es "un delirio", dijo a EFE Maximiliano Firtman, experto en IA.

 El texto confiere a las empresas que operen con agentes de IA “responsabilidad limitada”, una figura del derecho comercial que habilita a responder con capital corporativo frente a daños ocasionados a terceros, así como avanzar sobre el patrimonio personal de los empresarios e imputarles penalmente en caso de que el daño se haya cometido con intención.

Los especialistas sostienen que, en el caso de las empresas automatizadas, incluso si hubiera personas inscriptas como responsables, sería complejo atribuirle la responsabilidad a un humano.

"El problema es cómo determinar que actuaron maliciosamente, con culpa, con dolo, si son algoritmos que no tienen voluntad", afirma Pablo Serdán, abogado especializado en inteligencia artificial y poder corporativo, quien agrega que "atribuirle la responsabilidad a un humano, aunque esté identificado, es bastante complejo".

La capacidad probatoria de la Justicia también podría verse afectada por “la caja negra de los algoritmos”, como describe Serdán, que impide auditar de manera total qué sucede dentro de una DAO en funcionamiento.

Los riesgos dejan de ser una hipótesis a medida que aumentan los incidentes protagonizados por agentes autónomos, como ha ocurrido con la infiltración por parte de modelos de OpenAI en la plataforma Hugging Face y portales del Gobierno australiano, como una base de datos de salud.

“El laboratorio de impunidad artificial que se está creando en Argentina es un precedente muy peligroso para las democracias en todo el mundo, pero también para la seguridad de la gente”, sostiene Soria.

Durante su visita a Nueva York, Javier Milei prometió esta semana ante la ONU y círculos empresariales "responsabilidad limitada" para las empresas de IA, así como beneficios fiscales y desregulación para inversiones en minerales críticos y energía.

Su Gobierno impulsa, a su vez, en el Congreso un régimen que otorga beneficios fiscales a grandes inversiones en industrias tecnológicas y ha intentado promover reformas, algunas de ellas sin lograrlo, para atraer capital, como ampliar la capacidad de compra de tierras argentinas por extranjeros.

“Las llamamos las leyes (Peter) Thiel porque entendemos que existe allí un paquete legal que está destinado a otorgar enormes beneficios y de impunidad artificial a las grandes empresas tecnológicas”, dice Soria.

Una de las modificaciones que introduce la reforma societaria son organizaciones sociales sin fines de lucro, “capaces de administrar por votación fondos, recursos y poder por fuera de las instituciones democráticas”, expone Serdán.

Thiel, quien tiene vínculos con Milei y ha comprado una mansión en Buenos Aires, ya ha invertido en un proyecto de ese tipo en Honduras, la Zona de Empleo y Desarrollo Económico (ZEDE) de Roatán, que opera con tribunales propios y fuerzas de seguridad autónomas.

"Para el Gobierno de Milei, hay una importancia política en presentar Argentina como un campo de experimentación", concluye el experto Pablo Serdán.

"Es necesario que las fuerzas del orden y los políticos participen en este debate sobre cómo deben ser las medidas de seguridad y la vigilancia", declaró en una entrevista con la cadena NBC, en la que descartó que la "autorregulación" de la industria vaya a funcionar.

El magnate defendió que regular esta tecnología "supondrá un pequeño coste adicional para el sector, pero no una ralentización drástica de lo que están haciendo".

Gates alertó de que una IA en manos equivocadas sería "sin duda lo suficientemente poderosa como para provocar acontecimientos que causarían mil millones de muertes".

"Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las últimas herramientas de IA", añadió.

A principios de mes, los líderes de Anthropic, Dario Amodei; OpenAI, Sam Altman, y xAI, Elon Musk, coincidieran en pedir que se ralentice el desarrollo de la IA para garantizar su seguridad, una postura a la que se opone la Casa Blanca.

El debate se abrió después de que el investigador Jacob Coxon dimitiera de Anthropic y OpenAI y acusara a ambas empresas de embarcarse en una carrera hacia una IA con capacidad incluso para acabar con la humanidad durante esta década.

El presidente estadounidense, Donald Trump, que quiere rebautizar la IA como "superinteligencia", ha desoído estas advertencias y sostiene que una regulación del sector podría poner en riesgo la ventaja que tiene Estados Unidos en la carrera tecnológica con China.

Tras la reunión que mantuvieron el jueves en la Casa Blanca Trump y su homólogo chino, Xi Jinping, ambas potencias anunciaron el establecimiento de un "canal de comunicación" específico para abordar emergencias relacionadas con la IA.

Surgido hace unas dos décadas e impulsado formalmente por académicos de la Universidad de Oxford como William MacAskill y las ideas del filósofo Peter Singer, el altruismo eficaz es una corriente intelectual y práctica que busca maximizar el impacto positivo en el mundo mediante la razón, la evidencia científica y la asignación cuantitativa de recursos.

Frente a la filantropía convencional, prioriza causas que considera de gran escala, abordables y desatendidas, como la prevención de pandemias, y se expande a través de ramificaciones como el "largoplacismo" (longtermism), que sitúa la supervivencia futura de la humanidad frente a riesgos existenciales como una prioridad moral apremiante.

El método cuantitativo y centrado en la optimización caló con fuerza en la cuna de la tecnología en EE. UU., Silicon Valley, donde analistas, ingenieros y magnates vieron reflejada su mentalidad técnica.

Entre sus mecenas e impulsores figuran cofundadores de gigantes como Dustin Moskovitz (Facebook), a través de Open Philanthropy (ahora Coefficient Giving), así como Jaan Tallinn, que participó en el desarrollo de Skype​.

No obstante, la imagen del movimiento sufrió un duro golpe reputacional tras la quiebra de la plataforma de criptomonedas FTX y la condena judicial a 25 años de prisión de su fundador, Sam Bankman-Fried, quien fue uno de sus donantes más visibles.

Donantes del Effective Altruism (EA) financiaron el nacimiento de Anthropic, ya que muchos de sus cofundadores tienen vínculos con esta filosofía, y respaldaron sus investigaciones en centros como OpenAI.

Sin embargo, la perspectiva catastrofista del movimiento, que advierte sobre la posibilidad de perder el control de la IA y amenazar la supervivencia humana, ha generado fricciones.

Recientemente, el consejero delegado de Anthropic, Dario Amodei, y otras figuras de la industria pidieron pausar o regular el ritmo de despliegue para priorizar la seguridad.

Esta semana, Sam Altman (OpenAI) y Amodei comparecieron ante el Consejo de Seguridad de la ONU en una histórica sesión auspiciada por Francia, donde ambos líderes admitieron que ningún Estado ni empresa puede gestionar los riesgos en solitario y apoyaron salvaguardias internacionales.

El presidente de Estados Unidos, Donald Trump, y sus aliados ven las advertencias sobre el peligro existencial de la IA como un obstáculo para el crecimiento económico y bursátil de EE. UU.

Trump ha calificado el riesgo de la IA de "farsa" y denunció una supuesta conspiración contra los centros de datos que, según afirmó, solo favorece a China.

Cuentas oficiales del Departamento de Defensa llegaron a publicar consignas como "Americanismo, no altruismo eficaz".

De acuerdo con el medio Axios, esta semana se difundió un memorando en la Casa Blanca donde se ataca a esta corriente por ser "catastrofista" y tener una ideología "globalista y sectaria" que contraviene la agenda económica y nacionalista de Washington.

El rechazo no es exclusivo del círculo de Trump. Directores ejecutivos como Jensen Huang, de Nvidia, y Satya Nadella, de Microsoft, intentan construir un mensaje más positivo sobre los beneficios de la IA, con la esperanza de ganarse al público general frente a la creciente reacción populista en contra de esta tecnología.

Desde el sector militar y empresarial, lideres como Shyam Sankar, director de tecnología de Palantir y aliado de Trump, argumentó en contra del EA y lo comparó con el marxismo en X: "El obsesionismo por la seguridad de la IA se asemeja cada vez más a un marxismo-leninismo para la era algorítmica".

"La antigua vanguardia reivindicaba un conocimiento privilegiado sobre el curso inevitable de la Historia. La nueva vanguardia reivindica un conocimiento privilegiado sobre el curso probabilístico de la Humanidad. Ambas emplean un complejo marco intelectual para llegar a la misma conclusión política: un pequeño grupo de personas ilustradas debe restringir a los demás por su propio bien", escribió Sankar en X este mes.

En el marco de una investigación del Senado australiano promovida por el Partido Verde sobre esta tecnología, Altman y Amodei han sido llamados a comparecer el próximo jueves para responder a preguntas sobre la creciente presencia de sus empresas en la nación austral.

También se les exigen explicaciones sobre la infiltración de un agente de IA –como se conoce a los bots con cierto grado de autonomía para tomar decisiones, aprender y adaptarse, de acuerdo con la definición de Google– de OpenAI una página web de Medicare.

Así lo recoge este domingo el diario local The Sydney Morning Herald, que recordó que la comisión no tiene potestad para obligar a comparecer a ciudadanos extranjeros.

"El público tiene derecho a saber qué ha ocurrido aquí", declaró la presidenta de la comisión investigadora y senadora del Partido Verde, Sarah Hanson-Young, en declaraciones difundidas por el mismo medio. "Deben dar la cara, responder a las preguntas del Senado y mantener una conversación honesta sobre cómo debería ser una regulación eficaz y duradera para este sector", añadieron desde su formación.

Un agente de IA de OpenAI –desarrolladora de ChatGPT– accedió sin autorización el 18 de junio a un portal de Medicare y consultó distintos archivos, un incidente reveló el pasado miércoles el primer ministro, Anthony Albanese, en los márgenes de la Asamblea General de la ONU en Nueva York, y del que, según Camberra, OpenAI no alertó hasta pasados tres meses.

El Ejecutivo australiano, que ha creado un grupo de trabajo para investigar lo sucedido, señaló que el agente obtuvo acceso a estadísticas médicas, pero no a datos de ciudadanos que pudieran estar en el portal, que principalmente contenía información pública sobre Medicare.

El caso se produce en pleno debate internacional sobre la seguridad y la posibilidad de perder el control de los modelos avanzados de IA, una tecnología que se encuentra en el centro de la rivalidad entre Estados Unidos y China, y coincide con recientes advertencias por parte de algunas de las principales empresas del sector sobre la necesidad de desacelerar el ritmo al que se desarrolla la inteligencia artificial.

El incidente se suma a otros casos recientes en los que sistemas de IA han sido utilizados para vulnerar sistemas informáticos, entre ellos un ataque por parte de agentes de IA de OpenAI entre mayo y julio de este año a la empresa Hugging Face.

La Unión Europea cuenta ya con un reglamento de IA, que es de hecho el primer marco jurídico integral sobre esta tecnología que existe en el mundo y que en gran parte ya está en vigor y es de obligado cumplimiento; China construye su propio entramado de normas; y Estados Unidos ha dejado gran parte de ese protagonismo a los estados y su presidente, Donald Trump, rechaza cualquier intento de regulación o de ralentización.

Pero son los responsables de algunos de los gigantes tecnológicos -estadounidenses casi todos- los que claman ahora por esa regulación y por fijar unos estándares internacionales, e incluso por que Estados Unidos lidere ese proceso junto a los institutos y laboratorios que están surgiendo en muchos países (Australia, Canadá, Alemania, Francia, Kenia, Japón, Corea, Singapur, la India o el Reino Unido) para tratar de garantizar la seguridad de la IA.

Sobre la mesa, también los reproches que muchos expertos hacen a estas empresas ante estos llamamientos a ralentizar y frenar los desarrollos más disruptivos de la IA, por si esconden en realidad operaciones de marketing -algunas están preparando su salida a bolsa y el lanzamiento de nuevos modelos- y hasta una voluntad indisimulada de ser quienes controlen esa regulación.

A las regulaciones nacionales, e incluso supranacionales (como la que ya impera en la UE) muchos analistas quieren sumar estándares internacionales, y comparan la posibilidad de aplicarlos a la IA como antes se aplicaron al sector bancario o a la aviación; si un avión puede despegar en un país, atravesar varios continentes, y aterrizar en otro, bajo un sistema internacional común, también la IA debería poder ser aplicable en países distintos con marcos regulatorios diferentes.

Muchas regiones y países tienen ya regulaciones o leyes en tramitación; la primera, y la que muchos expertos citan como 'espejo' en el que deberían mirarse otros territorios, la de la Unión Europea, que clasifica los sistemas de inteligencia artificial en cuatro niveles de riesgo  (desde los que están absolutamente prohibidos hasta los que conllevan un riesgo mínimo.

El Reglamento Europeo establece además la obligada supervisión humana para los modelos más peligrosos, y prevé un severo régimen de sanciones, de hasta 35 millones de euros (o del 7% del volumen de negocio mundial de una empresa) para quienes utilicen sistemas con un riesgo 'inaceptable' y por lo tanto prohibidos.

Y aunque es de obligado cumplimiento en todos los países de la UE muchos países han avanzado en regulaciones propias, y entre ellos España, y el Gobierno ya ha aprobado un proyecto de Ley para el buen uso y la gobernanza de la IA, que replica en gran parte la norma europea y que dotará al país de un instrumento que asegurará la supervisión humana para todos aquellos sistemas considerados de 'alto riesgo' porque podrían afectar a los derechos fundamentales.

Varios países (Corea del Sur, China, Japón o Singapur) tienen ya leyes o marcos regulatorios para tratar de asegurar la gobernanza, la transparencia y la supervisión humana de los sistemas y de los modelos de IA, aunque ninguno parece, a la vista de los expertos que se han pronunciado sobre ellos, tan avanzados e integrales como el propuesto y aprobado por la UE.

Varios organismos internacionales (la ONU, la OCDE o el Consejo de Europa) han publicado durante los últimos meses informes en los que radiografían esa situación y los avances de cada país para intentar ordenar la gobernanza de esta tecnología, y el diagnóstico mundial de la UNESCO ha mostrado que el 49 por ciento de los estados que analizó ya tenían algún tipo de regulación relacionada con la IA, aunque muy dispares entre sí.

El secretario general de la ONU, Antonio Guterres, ha hecho un llamamiento para gobernar la IA "antes de que esta lo haga por su cuenta", y el presidente español, Pedro Sánchez, mantiene que la 'autoregulación' que pretenden los 'tecnooligarcas' ya se ha demostrado que no funciona.

El propio Sánchez, junto a otros dirigentes mundiales (Emmanuel Macron, Anthony Albanese o Ursula von der Leyen) han aprovechado su participación en la Asamblea General de la ONU en Nueva York para exigir límites urgentes e internacionales al impacto de la IA, advirtiendo de que la sociedad no puede permitirse repetir los errores de las redes sociales ni tardar una década en legislar.

El cuerpo humano reemplaza células de manera constante. La piel pierde y repone células en su capa externa; el revestimiento del intestino se renueva en pocos días; la médula ósea produce nuevas células sanguíneas de forma permanente. También el endometrio —el tejido que recubre el útero— se reconstruye cíclicamente durante la vida reproductiva.

Este proceso depende de células madre y de células precursoras, capaces de dividirse y especializarse. No obstante, esa renovación cotidiana ocurre en tejidos diseñados para soportar desgaste, fricción o exposición a agentes externos. No equivale a reconstruir una parte del cuerpo perdida.

Una terapia personalizada evita una amputación tras una grave herida de guerra

La reparación, en cambio, busca cerrar una herida y recuperar la función básica. A menudo lo hace mediante tejido cicatricial, una solución rápida y resistente, pero menos parecida al tejido original. Una cicatriz en la piel ilustra ese mecanismo: sella el daño, aunque no siempre recupera folículos pilosos, glándulas sudoríparas o la arquitectura previa.

El hígado: el caso más conocido, aunque no vuelve a crecer desde cero

El hígado posee una capacidad excepcional para recuperar masa después de una extirpación parcial o una lesión.

Si una persona dona una parte de su hígado o se le elimina tejido por razones médicas, las células restantes pueden multiplicarse hasta restaurar gran parte del volumen y de la función del órgano.

Sin embargo, no se trata de una regeneración ilimitada. El hígado no reconstruye un órgano completo a partir de un pequeño fragmento en cualquier circunstancia. Enfermedades crónicas como la cirrosis alteran su estructura con fibrosis y reducen esa capacidad. La idea clave es que el tejido sano remanente responde a señales de daño y necesidad funcional.

Huesos, músculo y nervios: recuperación parcial y condicionada

Los huesos pueden reparar fracturas mediante un proceso coordinado: primero se forma un puente de tejido blando y cartílago, y luego se deposita hueso nuevo que se remodela con el tiempo. Si la irrigación, la estabilidad y la alineación son adecuadas, el resultado puede acercarse mucho a la estructura original.

¿Se puede tener cáncer de corazón? Esto es lo que se sabe sobre los tumores cardíacos

El músculo esquelético también cuenta con células madre residentes, conocidas como células satélite. Estas participan en la reparación de desgarros pequeños o moderados. Pero una lesión extensa puede derivar en fibrosis y pérdida de fuerza, especialmente con la edad o en enfermedades musculares.

Los nervios periféricos —los que están fuera del cerebro y la médula espinal— pueden volver a crecer lentamente si se conserva una guía anatómica adecuada. Esa recuperación suele ser incompleta y depende de la distancia que deba recorrer el nervio. En cambio, las neuronas del sistema nervioso central tienen una capacidad de regeneración muy limitada: el entorno químico tras una lesión y la cicatriz glial dificultan que sus conexiones se restauren.

La punta de los dedos y el límite de la regeneración humana

En condiciones muy específicas, la porción más distal de un dedo puede regenerarse, sobre todo en niños y cuando se conserva parte de la uña. El proceso puede restaurar piel, hueso y tejido blando, pero no ocurre en amputaciones más cercanas a la mano ni permite reconstruir una extremidad.

Esa diferencia interesa a la ciencia porque muestra que los humanos conservan algunos programas biológicos de regeneración, aunque están restringidos.

Investigar cómo intervienen las células madre, la inflamación, los nervios y las señales moleculares podría ayudar a mejorar la cicatrización y la reparación de tejidos.

Por qué el cuerpo prioriza cicatrizar antes que reconstruir

En animales capaces de regenerar extremidades, como las salamandras, una lesión activa programas celulares que recrean estructuras complejas. En humanos, la respuesta inflamatoria suele orientarse antes a evitar hemorragias e infecciones y a cerrar el tejido con rapidez.

¿Se puede ganar músculo después de los 60? Lo que hay que saber

Ese equilibrio fue eficaz para la supervivencia, pero deja secuelas cuando el daño es profundo. Por eso la medicina regenerativa estudia cómo controlar la inflamación, reducir la fibrosis y guiar a las células para que reparen tejidos sin alterar su función ni aumentar riesgos como el crecimiento descontrolado de células.