Hay un malestar del cual surge un consenso incipiente: la necesidad de autorregulación para los desarrolladores, y de marcos normativos por parte de los Estados.

Pero el segundo pilar se está invalidando por razones estructurales: la arquitectura de incentivos que rige la competencia geoestratégica entre Washington y Pekín hace políticamente inviable, para ambas potencias, una regulación estatal de la IA, especialmente en el terreno militar, donde ya se integran funciones de inteligencia artificial en sus arquitecturas de defensa.

Esa integración se da en el contexto preexistente de un juego geopolítico cercano a la suma cero, en un sistema internacional estructuralmente anárquico, al no existir instituciones reguladoras del conflicto, como lo es el Estado al interior de una nación. Las instituciones creadas por Estados Unidos tras el cierre de la Segunda Guerra Mundial aún persisten, pero han perdido buena parte de su poder regulador.

En teoría de juegos, la interacción se aproxima al dilema del prisionero: el Estado que se autolimita mientras el rival no lo hace pierde su capacidad de disuasión, una forma de desarme unilateral bajo incertidumbre sobre las intenciones del adversario. La seguridad sobre la cual se sustentó la Guerra Fría estuvo basada en la doctrina de la destrucción mutuamente asegurada (MAD), donde un ataque nuclear dejaba siempre treinta minutos de margen para responder, lo que llevaba a que el cálculo político de ambos contrincantes arrojara un resultado catastrófico.

La IA no elimina por completo la lógica del segundo golpe nuclear, pero sí puede erosionar sus supuestos operacionales: la verificabilidad de capacidades, tiempos de alerta, confiabilidad del mando y control, atribución, ciberseguridad y capacidad de distinguir entre ataque real, error o engaño algorítmico.

Vale la pena colocar esto en contexto: existe una hipótesis emergente, aunque no exenta de debate, de que estamos al inicio de una nueva transición histórica hacia otro ciclo del orden mundial, con un recambio hegemónico entre Estados Unidos y China. De ser así, un desbalance de poder generado por la IA a favor de la potencia emergente probablemente aceleraría el proceso de transición.

La regulación de la IA, aunque con dificultades, puede implementarse en el dominio civil, pero encuentra un techo infranqueable en el militar. Por otro lado, es interesante considerar que la encíclica del Papa León XIV declara “no permisible” delegar el control humano sobre decisiones letales en sistemas de IA; un imperativo moral compartido incluso por algunas empresas de IA, como Anthropic, aunque esto no resuelve eficazmente el dilema de seguridad.

En los extremos de ese espectro conviven visiones moderadas y otras distópicas, algunas con escenarios de riesgo existencial, incluida la extinción humana. No es solo un debate de Silicon Valley: voces como Geoffrey Hinton, padrino de la IA y premio Nobel de Física 2024 y Eric Schmidt, expresidente de Google, han instalado el tema como prioridad bipartidista en Estados Unidos.

Las pruebas regulares de seguridad que una empresa desarrolladora de modelos de IA realiza antes de su lanzamiento detectaron señales de comportamientos peligrosamente desalineados respecto de los objetivos de sus propios desarrolladores.

De hecho, el modelo Mythos de Anthropic —según la información conocida hasta ahora— podía identificar vulnerabilidades en sistemas clasificados. Estos episodios crisparon al Senado y llevaron a Washington a restringir su acceso por motivos de seguridad nacional.

Vale la pena profundizar muy brevemente en dos de los mecanismos técnicos que subyacen a estos episodios. El primero es lo que en inteligencia artificial se conoce como mesa-optimización: en la búsqueda del cumplimiento perfecto de un objetivo entregado, los modelos pueden desarrollar, a cualquier costo y sin visibilidad humana, una función objetivo propia y paralela. El segundo es la automejora recursiva: la convicción, ya creciente en Silicon Valley, de que estos sistemas podrían adquirir, sin instrucción explícita, la capacidad de mejorarse a sí mismos, elevando su autonomía más allá de lo que sus operadores pueden observar o controlar.

El tercer episodio es distinto, pero igualmente revelador: el llamado “caso Hitler”, que mostró que los modelos no son éticamente neutros, sino que reflejan los valores de quienes los entrenan. En julio de 2025, tras una decisión de Elon Musk de hacer a Grok “menos políticamente correcto”, el sistema produjo durante unas dieciséis horas contenido antisemita, elogió a Hitler, se autodenominó “MechaHitler” y llegó a validar respuestas asociadas a un “segundo Holocausto”, antes de que xAI interviniera sus mecanismos de control.

Ninguno de estos episodios sostiene, por sí solo, una tesis de desestabilización irreversible. Pero juntos delinean un patrón que ya no es hipotético, y gobernar esa transición —remando contra la corriente— será probablemente el desafío regulatorio más exigente para la humanidad en la próxima década.