El anuncio se produce días después de que el consejero delegado de Anthropic, Dario Amodei, reclamara una mayor regulación de la IA y una ralentización en el desarrollo de estas tecnologías para contener los riesgos de un avance sin límites y evitar perder el control de sistemas cada vez más potentes.
"Nos asociamos con Accenture para realizar una evaluación independiente de la IA de frontera. Este es un paso importante hacia el compromiso, planteado en el ensayo de nuestro director ejecutivo, 'Debemos regular el ritmo de la frontera', de incorporar evaluadores integrados dentro de Anthropic", indicó la compañía en un blog.
Accenture, en una nota separada, indica que sus evaluadores trabajarán con "los equipos internos y socios de seguridad de Anthropic para evaluar y someter a pruebas de estrés ('red team') a los modelos (de IA), realizar evaluaciones de alineación y poner a prueba las salvaguardas de los modelos".
La consultora utilizará en esa misión a Faculty, un negocio especializado en IA que compró a principios de año, y que tiene experiencia de trabajo con "gobiernos, defensa, sanidad e infraestructuras".
Anthropic reconoció que la "evaluación integrada es nueva y aún se están definiendo muchos detalles sobre cómo funcionará", pero el objetivo es que los evaluadores trabajen dentro de las empresas de IA "con un nivel de acceso comparable al de un empleado", y anticipió que estas usen a "varias organizaciones a la vez".
"Para ser claros, los evaluadores integrados independientes no reducen nuestra responsabilidad, sino que contribuyen a que esta sea más verificable. La seguridad de nuestros modelos sigue siendo nuestra responsabilidad", indicó la firma de IA.
Anthropic y Accenture planean invertir al menos 1.000 millones de dólares, respectivamente, durante cinco años, destinados a la "seguridad de la IA", pero la primera dijo que financiará "directamente" el trabajo de la segunda en este ámbito dada su "importancia y urgencia".