34. Anthropic Desafía al Pentágono: Amodei Rechaza Acceso Irrestricto a la IA

1. La Firme Negativa de Anthropic por Conciencia Ética.

Dario Amodei, CEO de Anthropic, ha declarado públicamente que la compañía no puede, en buena conciencia, acceder a las demandas del Pentágono para permitir el uso militar irrestricto de sus sistemas de inteligencia artificial. Esta postura se basa en la creencia de que ciertas aplicaciones de la IA, como la vigilancia masiva y las armas autónomas letales, podrían socavar los valores democráticos y poner en riesgo a civiles y militares.

2. Ultimátum del Pentágono y Amenazas de Represalia.

El Departamento de Defensa de EE. UU. ha exigido a Anthropic que elimine las salvaguardias de su modelo de IA, Claude, para permitir su uso en "todos los casos de uso lícitos sin limitación". Ante la negativa de Amodei, el Pentágono ha respondido con amenazas de cancelar contratos multimillonarios y designar a Anthropic como un "riesgo para la cadena de suministro", una clasificación generalmente reservada para empresas vinculadas a adversarios extranjeros.

3. Reacciones Públicas y Desafíos Legales.

La postura de Anthropic ha generado un debate significativo, con apoyo de algunos sectores que ven a Amodei como un "héroe" por defender principios éticos, y críticas de otros, incluyendo funcionarios del Pentágono que han calificado sus acciones de "retaliatorias y punitivas". La compañía ha anunciado su intención de impugnar legalmente la designación de "riesgo para la cadena de suministro", argumentando que no es legalmente sólida y sienta un precedente peligroso.

4. Negociaciones en Curso y el Futuro de la Colaboración.

A pesar del colapso inicial de las conversaciones y las amenazas, Anthropic y el Pentágono han reanudado las negociaciones en un intento por encontrar un acuerdo que respete las "líneas rojas" éticas de la compañía mientras satisface las necesidades de seguridad nacional. Amodei ha expresado el deseo de la compañía de colaborar con el ejército, pero solo bajo condiciones que eviten usos que consideren contrarios a los valores estadounidenses.