El Pentágono y Anthropic se enfrentan por límites militares de la IA

Anthropic, empresa de IA

Por Delator.- El Pentágono y Anthropic -empresa de inteligencia artificial fundada por exmiembros de OpenAI-, discuten la posible eliminación de cláusulas que permitirían al Gobierno de EE. UU. usar su tecnología de IA para fijar objetivos de armas de forma autónoma y realizar vigilancia nacional, según informaron a Reuters personas familiarizadas con el asunto.

Estas discusiones podrían representar un parteaguas sobre si las empresas de Silicon Valley pueden o no influir en cómo el personal militar y de inteligencia de EE. UU. despliega una IA cada vez más potente en el campo de batalla.

Tras varias semanas de conversaciones, en el marco de un contrato de 200 millones de dólares, ambas partes se encuentran en un punto muerto, de acuerdo con seis fuentes que solicitaron el anonimato. La postura de la empresa sobre cómo pueden usarse sus herramientas de IA ha intensificado los desacuerdos con la Administración Trump.

Edificio El Pentágono / Wikipedia

¿Cuál es el argumento de cada uno?

• Anthropic tiene políticas de "uso responsable" que prohíben que su IA se use para matar personas (armas autónomas) o vigilar masivamente a ciudadanos.

  
  

• El Gobierno (Administración Trump) sostiene que, si pagan por la tecnología y su uso es legal bajo las leyes de EE. UU., las reglas éticas internas de la empresa no deberían impedirles usarla para misiones militares o de inteligencia.

En un comunicado, Anthropic afirmó que su IA es "ampliamente utilizada para misiones de seguridad nacional por el gobierno de EE. UU. y estamos en discusiones productivas con el Departamento de Guerra sobre formas de continuar ese trabajo".

Anthropic es uno de los pocos desarrolladores de IA que obtuvieron contratos del Pentágono el año pasado. Otros fueron Google (Alphabet), xAI de Elon Musk y OpenAI. Anthropic se ha centrado durante mucho tiempo en la seguridad nacional, al tiempo que sus ejecutivos han buscado delimitar el uso responsable, lo que ha generado conflictos con la administración Trump, según informó anteriormente la plataforma noticiosa Semafor.

Apenas esta semana, el CEO de Anthropic, Dario Amodei, publicó un ensayo en su blog personal en el cual advirtió que la IA debería apoyar la defensa nacional 'de todas las formas, excepto aquellas que nos harían parecernos más a nuestros adversarios autocráticos'."