Qué tienen en común la IA y el proyecto Manhattan de la bomba atómica

El 3 de septiembre, el presidente de OpenAI, Greg Brockman, presentó GPT-6 Astra y cerró la reunión afirmando: “Bienvenidos a la era de la Inteligencia Artificial General (AGI)”. Esto significa que su nuevo modelo sería tanto o más capaz como un ser humano real. Ese mismo día, el senador Bernie Sanders y el diputado Greg Casar anunciaron un proyecto para prohibir de manera permanente la superinteligencia artificial (modelos superiores a nosotros), pausar el desarrollo hasta que una agencia federal escriba las reglas y castigar a quien la viole con veinte años de prisión y la disolución de la empresa. Sería raro que la simultaneidad sea por coincidencia.Las penas tampoco salieron de la nada: el resumen oficial aclara que están calcadas de las que ya existen para quien desarrolla armas nucleares sin autorización. La comparación con la bomba atómica, que hace un año parecía una exageración mediática, es cada vez más recurrente. Pero…¿en qué se parecen y cuáles son sus diferencias?Comencemos por la escala: las mayores empresas de nube e IA de Estados Unidos comprometieron para 2026 entre US$660.000 y US$725.000 millones de inversión, más del 60% arriba que en 2025. El Proyecto Manhattan completo costó unos US$2000 millones de 1945, cerca de US$36.000 millones de hoy. La industria de la IA gasta un Proyecto Manhattan entero cada 19 días. Nvidia, la fabricante de las placas, vale 5,5 billones de dólares, los centros de datos van camino a consumir el 6,5% de la electricidad estadounidense, y China acaba de anunciar US$295.000 millones para ampliar todavía más su propia red nacional. No hay manera de exagerar la escala de lo que estamos viviendo.La mayor similitud entre ambos procesos quizás esté en el desfase entre los incentivos individuales y colectivos. En 1950, dos matemáticos de la RAND Corporation, Merrill Flood y Melvin Dresher, diseñaron un juego que Albert Tucker después bautizó con la historia de dos presos incomunicados: el dilema del prisionero. La RAND era el think tank de la Fuerza Aérea y lo que estaban modelando era la carrera nuclear. La conclusión era clara: cada jugador/país, actuando de manera perfectamente racional, elegía la jugada que los deja peor a los dos. Cooperar conviene en conjunto, pero jugar solo le conviene a cada uno.Ese tablero se volvió a armar solo: Estados Unidos no puede frenar porque teme que China llegue primero, y los mejores modelos chinos están hoy a “solo” nueve meses detrás de la frontera, según el propio gobierno norteamericano. Le están pisando los talones. China no puede frenar porque lee cada control de exportación de chips como una maniobra para congelar esa brecha. Dentro de Estados Unidos, las empresas juegan la misma partida entre ellas: se turnan para realizar anuncios insinuando que harán una pausa o detendrán el ritmo de innovación para garantizar la seguridad de los modelos, pero, en la práctica, nadie lo hace por miedo a perder una ventaja competitiva en valuaciones astronómicas que no convalidarán a la que tenga mayor cautela.El 17 de julio de 1945, Leo Szilárd y otros 69 científicos del Proyecto Manhattan le pidieron por escrito a Truman que no tirara la bomba sobre ciudades sin advertencia previa. La carta nunca llegó al presidente: se trabó en la cadena de mando, quedó clasificada y recién se hizo pública en 1961. El 28 de julio de 2026, más de 1100 empleados de OpenAI, Anthropic, Google DeepMind y Meta firmaron “Pacing the Frontier”, un documento que le pide al gobierno construir las herramientas técnicas para desacelerar el desarrollo automatizado de IA. Entre los firmantes, estaban el CEO de Anthropic y el científico jefe de OpenAI.La diferencia entre las dos cartas es todo: durante la Segunda Guerra Mundial, pedir el freno era una traición interna que había que esconder. En 2026, es marketing corporativo.La resistencia política y social también dibuja un puente inesperado entre ambas épocas. En la escalada de la IA, el impulso regulatorio ha propiciado una inusual alianza: figuras del ala izquierda progresista como Bernie Sanders coinciden con voces del populismo de derecha como Steve Bannon. Ambos se oponen a la proliferación descontrolada de centros de datos en las comunidades locales y defienden la idea de que el público merece una compensación económica (una suerte de dividendo social), bajo el argumento de que los modelos se entrenaron con el conocimiento colectivo de toda la humanidad. Sus «porqués» son opuestos: para Sanders, el motor es la justicia social, el temor al desempleo masivo y la codicia de las corporaciones; para Bannon, se trata de una batalla populista contra la dominación de las élites globales y los tech bros de Silicon Valley.Esta rima política tiene un antecedente idéntico en la Guerra Fría: a principios de los años 80, la campaña por la Congelación Nuclear (“Nuclear Freeze”) generó una de las alianzas transversales más extrañas de la historia estadounidense. El senador demócrata Edward Kennedy y el republicano moderado Mark Hatfield se unieron para liderar un proyecto federal de congelamiento de armas, aglutinando bajo la misma causa a pacifistas radicales, ciudadanos conservadores de clase media preocupados por el gasto, obispos católicos e incluso generales retirados y exdirectores de la CIA preocupados por el rumbo belicista de la administración de Ronald Reagan. Los extremos se tocan.Hasta acá, la analogía entre las dos escaladas parece ser un calco: después, se rompe en los puntos que mejor nos vendrían.El control de armas nunca prohibió el poder destructivo, porque es algo imposible de inspeccionar: se centró en cosas que se pueden supervisar. Los acuerdos contaban lanzadores y misiles, uno por uno; el Tratado de No Proliferación audita inventarios de uranio y plutonio, que son escasos, pesados y con rastro. El tratado contra los ensayos se sostiene sobre más de 300 estaciones de monitoreo repartidas por el planeta, porque una explosión atómica deja una firma que no se puede tapar. Toda esa arquitectura jurídica y militar descansa sobre una idea simple: lo que se puede medir se puede limitar.El problema de la superinteligencia es muchísimo más intrincado: un modelo son números en un disco y se copia en minutos. Un sistema puede esconder capacidades durante una evaluación, o adquirirlas después, cuando alguien le enchufa una herramienta externa. Lo peor es que la definición misma de “superinteligencia” es algo que nadie sabe cómo evaluar bajo un criterio objetivo. En términos conceptuales, sería un sistema que iguale o supere el desempeño cognitivo humano en muchos dominios, pero la letra chica es algo que hoy discuten las propias empresas que lo construyen, sin poder llegar a ninguna conclusión.La velocidad tampoco es comparable: a la Unión Soviética le llevó cuatro años replicar Trinity. Hoy, un laboratorio chino tarda cada vez menos en igualar capacidades y sus modelos ya se llevan más del 30% del volumen de procesamiento en empresas estadounidenses en OpenRouter, una de las plataformas más populares, a precios hasta 90% más baratos.Nos queda hablar sobre la diferencia más compleja: Los Álamos era del Estado, con uniforme y cadena de mando. La frontera de la IA es privada y con valuaciones nunca antes vistas. Cualquier agencia que las supervise va a depender de la información que le entreguen, porque afuera de esas empresas no existe capacidad de evaluar sus modelos, con la complejidad adicional de que la evaluación misma de los modelos es más un arte que una ciencia.Por eso, el proyecto de Sanders sirve más como síntoma que como ley. Prohibir una palabra sin unidad de medida es pedirle a un juez que decida, dentro de cinco años, si un sistema cruzó una línea que nadie sabe dibujar. La falta de una manera concreta y realista de ejercer ese control es el problema de ingenio más importante de nuestros tiempos.La historia nunca se repite, pero rima.