Acuerdo de OpenAI con el Pentágono reabre el debate sobre vetos y guardrails en IA militar

OpenAI anunció un acuerdo OpenAI con el Pentágono para IA clasificada que habilita el uso de sus sistemas avanzados en entornos con información sensible, bajo un marco contractual que define límites explícitos de uso y un modelo de despliegue en la nube con controles internos. La compañía sostiene que el movimiento busca reducir tensiones entre el Departamento de Defensa de EE. UU. y los principales laboratorios de IA, justo cuando Washington endurece su postura frente a proveedores considerados “riesgo de cadena de suministro”.

El anuncio se publicó en un comunicado corporativo en el que OpenAI detalla tres “red lines” aplicables al contrato: prohibición de uso para vigilancia masiva doméstica; prohibición de uso para dirigir de forma autónoma sistemas de armas; y prohibición de uso para decisiones automatizadas de alto impacto (por ejemplo, esquemas tipo “social credit”).

Acuerdo OpenAI con el Pentágono para IA clasificada: qué permite y qué prohíbe

Según OpenAI, el acuerdo OpenAI con el Pentágono para IA clasificada incorpora un enfoque “multicapa” para proteger sus líneas rojas. Entre los elementos mencionados están: control discrecional por parte de OpenAI sobre su “safety stack”, despliegue “via cloud”, personal de OpenAI con acreditación de seguridad “in the loop”, y protecciones contractuales adicionales, además de los marcos legales existentes en EE. UU.

El texto también incluye una cláusula sobre el uso en sistemas autónomos y semi-autónomos alineada con la Directiva 3000.09 del Departamento de Defensa, citada por OpenAI como referencia para requerir control humano cuando aplique normativa, regulación o política del DoD, además de procesos de verificación, validación y pruebas antes del despliegue en escenarios realistas.

Las tres “red lines” de OpenAI en el contrato

• No uso de tecnología de OpenAI para vigilancia masiva doméstica.

• No uso de tecnología de OpenAI para dirigir sistemas de armas autónomas.

• No uso de tecnología de OpenAI para decisiones automatizadas de alto riesgo sin supervisión humana.

El trasfondo: el choque del Pentágono con Anthropic y la “Supply-Chain Risk”

OpenAI enmarca el acuerdo como un intento de “de-escalation” tras la disputa pública entre el Departamento de Defensa y Anthropic. En ese conflicto, Anthropic habría sostenido que no podía aceptar determinados términos porque implicarían retirar guardrails que podrían aumentar el riesgo de daño para tropas estadounidenses y civiles en contextos de armas autónomas. Posteriormente, la Administración Trump ordenó apartar a la empresa de sistemas militares y el secretario Pete Hegseth comunicó su intención de designarla como Supply-Chain Risk to National Security, una etiqueta que, según el artículo original, no se había aplicado antes a una firma doméstica.

En la sección de preguntas y respuestas del comunicado corporativo, OpenAI afirma que Anthropic no debería ser designada como riesgo de cadena de suministro y señala que ha comunicado esa posición al gobierno. Además, pide que el Departamento de Defensa ofrezca a otros laboratorios las mismas condiciones contractuales que negoció con OpenAI, con el objetivo explícito de facilitar una salida al bloqueo actual.

Altman llama “scary precedent” al veto: impacto para la industria

La controversia escaló en redes sociales tras una pregunta del columnista Ross Douthat (The New York Times) a Sam Altman sobre si el precedente de “blacklisting” a Anthropic podía afectar la independencia y viabilidad de OpenAI en un futuro desacuerdo con el Pentágono. Altman respondió que sí, calificándolo como un “extremely scary precedent” y expresando que le habría gustado que se gestionara de otra manera, aunque afirmó mantener esperanza en una resolución mejor.

En términos de mercado, el debate introduce una variable crítica para la adopción de modelos de IA en defensa: la coexistencia de contratos de alto secreto con políticas de AI safety y, al mismo tiempo, el riesgo regulatorio/comercial asociado a sanciones, vetos o designaciones por cadena de suministro que puedan repercutir en partners, integradores y proveedores.

Qué cambia a partir de ahora

• El gobierno de EE. UU. aumenta su capacidad de incorporar advanced AI systems en entornos clasificados mediante acuerdos con límites formales de uso.

• Los laboratorios de IA presionan para que las condiciones contractuales sean replicables y no dependan de decisiones ad hoc contra competidores.

• La discusión sobre armas autónomas se desplaza desde “capacidad del modelo” hacia “términos contractuales, despliegue cloud y control humano”, con referencia a directivas del DoD.

Para contextualizar, OpenAI enlaza su anuncio en su web corporativa y remite a marcos del Departamento de Defensa sobre autonomía. Fuentes oficiales: OpenAI (sitio oficial) y U.S. Department of Defense (sitio oficial).

En este escenario, el acuerdo OpenAI con el Pentágono para IA clasificada se convierte en una pieza de referencia: define públicamente límites de uso, blinda un enfoque de despliegue y gobernanza, y deja al descubierto un riesgo sistémico para todo el sector si la Administración utiliza vetos y designaciones de cadena de suministro como herramienta de presión en disputas sobre guardrails.