Un tribunal de apelaciones de Estados Unidos confirmó el viernes el veto impuesto por el Pentágono al uso de Claude, el modelo de IA de Anthropic, después de que la empresa se negara a eliminar algunas medidas de seguridad.
El conflicto comenzó en febrero, cuando Anthropic rechazó la exigencia del secretario del Pentágono, Pete Hegseth, de eliminar las restricciones de Claude para uso en armas letales totalmente autónomas y para la vigilancia de ciudadanos estadounidenses en el territorio nacional.
“En nuestra república, depende del presidente y el secretario de Defensa decidir cómo balancear” entre los riesgos de una IA que está muy limitada y una sin límites, escribió el juez Gregory Katsas en representación de dos de los tres magistrados del tribunal de apelaciones de Washington.
Lea más: Google lanzará un satélite de prueba para explorar centros de datos de IA en el espacio
El subsecretario de Defensa, Emil Michael, celebró en X la decisión, al asegurar que “el peso de la justicia ha destrozado los argumentos de Anthropic”. Y aseguró que con la decisión “una compañía privada no insertará sus opiniones en la cadena de mando”.
“Riesgo en la cadena de suministro”
El Departamento de Defensa designó en marzo a Claude como “riesgo en la cadena de suministro”, por lo que anuló los contratos militares de Anthropic e impidió a otros contratistas del Pentágono utilizar su tecnología.
La designación contra Anthropic supuso una aplicación muy inusual de dicha autoridad contra una empresa estadounidense.
Desde entonces, la empresa se ha convertido en un paria en la Casa Blanca, a pesar de que desempeña un papel fundamental en el sector de la IA y que en las próximas semanas se prevé que tendrá un éxito rotundo en su salida a bolsa.
La Casa Blanca ha reaccionado con irritación ante las repetidas advertencias del director ejecutivo de Anthropic, Dario Amodei, sobre los peligros de la IA. Donald Trump incluso las calificó de “bulos”.
En San Francisco a finales de agosto, una jueza federal había dejado sin efecto otras sanciones de la administración Trump contra Anthropic.
“La mera invocación de seguridad nacional no es un cheque en blanco para castigar a quienes critican al gobierno”, escribió la jueza Rita Lin.
Pero la corte de Washington tuvo otra consideración, al señalar en su decisión que el Pentágono no sancionó a Anthropic por sus posiciones, sino por negarse a cumplir con una cláusula contractual.
Según los registros judiciales, un ejecutivo de Anthropic cuestionó el uso de Claude por un contratista del Pentágono, la empresa Palantir, durante la operación militar para la captura de Nicolás Maduro en enero.
Lea más: Manifestantes protestan en Berlín contra el premio Axel Springer a Peter Thiel
Esta objeción “alarmó” al departamento, que temió la posibilidad de que Anthropic hiciera que su software “dejara de funcionar o causara una acción desastrosa que pusiera en riesgo” la vida de los soldados", según Michael.