Anthropic rechaza ceder ante Pentágono sobre uso de su IA en armas autónomas y vigilancia

Imagen sin descripción

Nueva York, 26 feb (EFE).- La compañía tecnológica Anthropic anunció este jueves que no cederá a los términos del Pentágono para el uso completo de su herramienta de inteligencia artificial Claude, al considerar que permitir su uso en armas totalmente autónomas o en vigilancia masiva sería "incompatible con los valores democráticos".

La empresa informó en un comunicado firmado por su director ejecutivo, Dario Amodei, que "no puede, de buena fe, acceder a la solicitud" del Departamento de Guerra estadounidense de permitir el uso sin restricciones de su tecnología.

Anthropic aclaró que no se retira de las negociaciones, pero que el nuevo texto del contrato recibido del Departamento de Defensa "prácticamente no avanzó en la prevención del uso de Claude para la vigilancia masiva de estadounidenses ni en armas totalmente autónomas".

Por su parte, Sean Parnell, el principal portavoz del Pentágono, afirmó hoy en X que el Departamento de Guerra no tiene "ningún interés en usar IA para la vigilancia masiva de estadounidenses (lo cual es ilegal) ni para desarrollar armas autónomas que funcionen sin intervención humana", algo que calificó como "narrativa falsa".

Anthropic señaló que, aunque apoya el uso de la IA para misiones legales de inteligencia extranjera y contrainteligencia, "el uso de estos sistemas para vigilancia doméstica masiva es incompatible con los valores democráticos" y representa "riesgos novedosos y graves para nuestras libertades fundamentales".

Según el comunicado, Claude se utiliza ampliamente para "análisis de inteligencia, modelado y simulación, planificación operativa, operaciones cibernéticas y más".

Sin embrago, advirtió que las armas totalmente autónomas "no son lo suficientemente confiables para poner en riesgo a nuestros soldados y civiles" y que "necesitan ser desplegadas con salvaguardas adecuadas, que hoy no existen".

El comunicado señala que el Pentágono ha declarado que solo contratará a empresas de IA que acepten "cualquier uso legal" y eliminen estas salvaguardas, llegando incluso a amenazar con retirar a Anthropic de sus sistemas, catalogarla como "riesgo de la cadena de suministro" e invocar la Ley de Producción de Defensa.

Anthropic considera que estas amenazas son "inherentemente contradictorias" y reafirma que su posición no cambia.

Según CBS, el Pentágono fijó el 27 de febrero como fecha límite para que la empresa conceda el uso de Claude bajo cualquier condición o perderá su negocio con el Ejército estadounidense.

La tecnológica había recibido un contrato de 200 millones de dólares en julio de 2025 para desarrollar capacidades de IA de seguridad nacional.

Sin embargo, Anthropic ha buscado garantías de que Claude no se use para "armas autónomas ni espionaje de ciudadanos estadounidenses", mientras que el Pentágono quiere aplicarlo en "todos los casos de uso legal".

Así, la empresa concluyó que, de ser retirada del contrato, trabajará para "permitir una transición fluida a otro proveedor, evitando cualquier interrupción en la planificación militar, operaciones u otras misiones críticas".

También reafirmó también su disposición a "continuar apoyando la seguridad nacional de Estados Unidos siempre que sus salvaguardas permanezcan intactas".