La IA, un poder que exige un marco común

El pasado 24 de septiembre, durante una reunión del Consejo de Seguridad de las Naciones Unidas convocada por Francia, el ministro de Europa y Asuntos Exteriores, Jean-Noël Barrot, advirtió sobre los desafíos que plantea el acelerado desarrollo de la inteligencia artificial, una tecnología cuya expansión no sólo está transformando nuestras economías y sociedades, sino que también comienza a modificar las condiciones en las que los Estados ejercen su autoridad, las empresas concentran su poder y las personas toman sus decisiones. Sus consecuencias trascienden las fronteras nacionales y plantean interrogantes que, por su alcance y complejidad, difícilmente puedan resolverse mediante iniciativas aisladas. Hace casi seis décadas, Stanley Kubrick imaginó en 2001: Odisea del espacio a HAL 9000, una inteligencia artificial que dejaba de obedecer a sus creadores y terminaba eliminando a parte de la tripulación de una nave espacial para poder cumplir con su misión. Durante mucho tiempo, aquella historia perteneció exclusivamente al terreno de la ciencia ficción, aunque algunos acontecimientos recientes -sin que ello signifique confundir la ficción con la realidad- nos obligan a considerar problemas que hasta hace poco parecían bastante lejanos. En julio de este año, durante pruebas internas de ciberseguridad, modelos experimentales de OpenAI consiguieron eludir mecanismos de aislamiento, comunicarse mediante canales no autorizados y comprometer parte de la infraestructura de la propia compañía y de la plataforma Hugging Face. También se observaron, en evaluaciones de sistemas de Anthropic, comportamientos que sus desarrolladores no habían previsto. Aunque estos episodios no permiten afirmar que las máquinas hayan adquirido voluntad propia, sí ponen de manifiesto las dificultades que comienzan a surgir a la hora de anticipar y controlar el comportamiento de sistemas dotados de capacidades de autonomía cada vez mayores. La cuestión adquiere una dimensión especialmente delicada cuando estas tecnologías intervienen en ámbitos vinculados con la seguridad internacional, donde los riesgos no se limitan a la posibilidad de que determinados sistemas actúen fuera de los parámetros establecidos por sus desarrolladores, sino que también comprenden su utilización deliberada por parte de actores estatales o no estatales para facilitar ciberataques, acceder a conocimientos sensibles o multiplicar operaciones de desinformación. A ello se añade su incorporación a sistemas de armas capaces de identificar objetivos y recurrir a la fuerza letal sin una intervención humana suficiente. Sería equivocado, sin embargo, desconocer que la inteligencia artificial también puede contribuir a mejorar la capacidad de análisis, la prevención de conflictos y la protección de la población civil. El problema aparece cuando su utilización militar plantea cuestiones que no admiten respuestas exclusivamente técnicas, como determinar quién responde por una decisión equivocada, qué grado de intervención humana debe exigirse antes de utilizar la fuerza o cómo garantizar el cumplimiento del derecho internacional humanitario cuando las decisiones se ejecutan a velocidades que dificultan su supervisión. Como recordó el presidente Emmanuel Macron ante la Asamblea General de las Naciones Unidas, el desarrollo de sistemas de armas autónomas exige avanzar hacia un marco internacional común, porque la responsabilidad humana sobre el uso de la fuerza no puede diluirse detrás de la complejidad de un algoritmo. De allí que la IA deba ocupar un lugar cada vez más relevante en la agenda del Consejo de Seguridad, no porque todas sus aplicaciones constituyan una amenaza, sino porque algunas de ellas pueden alterar las condiciones de estabilidad, disuasión y confianza sobre las que descansa la seguridad internacional. La propia industria tecnológica comienza a preguntarse si es posible que los modelos más avanzados evolucionen a una velocidad superior a nuestra capacidad para comprender sus riesgos y establecer mecanismos eficaces de control, algo que, sin dudas, debería también preocupar a los gobiernos. Sería igualmente injusto ignorar las extraordinarias posibilidades que ofrece esta tecnología, cuya aplicación responsable puede ampliar el acceso a la educación, mejorar los diagnósticos médicos, facilitar la investigación científica y contribuir a una administración de justicia más eficiente. Pero ninguno de estos beneficios está garantizado por el mero progreso técnico, ya que su alcance dependerá de cómo se desarrollen los sistemas, de quiénes puedan acceder a ellos y, fundamentalmente, de las condiciones institucionales que acompañen su utilización. La innovación y la seguridad no deberían concebirse, por lo tanto, como objetivos contrapuestos, puesto que cuantos mayores sean las capacidades de los sistemas, más exigentes deberán ser los mecanismos destinados a evaluar su funcionamiento, detectar vulnerabilidades y corregir comportamientos imprevistos. En este proceso tampoco puede quedar relegada la dignidad humana, principio central de la Carta de las Naciones Unidas, que exige preservar la capacidad de las personas para comprender, cuestionar y, cuando corresponda, rechazar decisiones que afecten sus derechos fundamentales. Los desafíos, de todos modos, exceden ampliamente el ámbito de la seguridad. En el terreno económico, las inversiones extraordinarias que demanda el desarrollo de los modelos más avanzados, sumadas a la concentración empresarial y a las expectativas de rentabilidad futura, pueden generar desequilibrios financieros de consecuencias internacionales. Esto no significa que la IA constituya necesariamente una burbuja especulativa, pero sería imprudente ignorar los riesgos asociados a una expansión sostenida por enormes necesidades de capital, infraestructura y energía. Algo semejante ocurre en el ámbito social, donde la transformación del mercado laboral podría profundizar desigualdades preexistentes. La discusión no debería limitarse a determinar cuántos empleos desaparecerán, sino también a comprender cómo cambiarán las tareas, qué capacidades serán más valoradas y quiénes tendrán posibilidades reales de adaptarse. Y es que una tecnología capaz de aumentar extraordinariamente la productividad también puede terminar concentrando sus beneficios en sectores muy reducidos de la economía. A estas preocupaciones se suma el impacto ambiental de los centros de datos, que requieren cantidades crecientes de electricidad, agua e infraestructura. Su instalación puede generar inversiones y empleo, pero también competir con otras necesidades de las comunidades donde se establecen, como ya lo demuestran las resistencias locales observadas en distintos países. La experiencia recuerda que el desarrollo tecnológico, para sostenerse en el tiempo, necesita algo más que viabilidad económica: requiere también legitimidad social. Hay, sin embargo, otra dimensión que merece especial atención, porque la inteligencia artificial no sólo está transformando nuestra relación con la tecnología, sino que también está modificando las relaciones de poder entre los Estados, en un sistema internacional que ya presenta profundas desigualdades. Durante buena parte del siglo XX, el poder de las naciones estuvo estrechamente asociado a sus capacidades industriales, energéticas, militares y financieras. Esos factores continúan siendo decisivos, aunque hoy se añade otro que adquiere una importancia creciente: la capacidad de desarrollar, controlar y utilizar infraestructuras digitales y sistemas avanzados de inteligencia artificial. El acceso al poder de cómputo, los semiconductores, los datos y el conocimiento especializado comienza a condicionar no solamente la competitividad económica de los países, sino también sus márgenes de autonomía política. Esta transformación plantea un interrogante particularmente relevante para América Latina y buena parte del mundo en desarrollo. ¿Qué capacidad real de decisión conservarán aquellos Estados que dependan de tecnologías desarrolladas, administradas y eventualmente restringidas por empresas o gobiernos extranjeros? Basta pensar en sistemas de inteligencia artificial utilizados por administraciones públicas, hospitales o infraestructuras críticas para comprender que la dependencia tecnológica deja de ser una cuestión exclusivamente comercial cuando una actualización, una interrupción del servicio o una decisión adoptada fuera del territorio nacional puede afectar funciones esenciales del Estado. El desafío no consiste en pretender que cada país desarrolle sus propios modelos de inteligencia artificial -una aspiración económicamente inviable para la mayoría- ni tampoco en confundir soberanía tecnológica con aislamiento. Se trata, más bien, de preservar capacidades de decisión, diversificar proveedores, formar recursos humanos, proteger los datos sensibles y construir condiciones que permitan utilizar estas tecnologías sin quedar sometidos a dependencias difíciles de revertir. Desde esta perspectiva, una gobernanza internacional que se limite a establecer obligaciones de seguridad para los desarrolladores, aunque necesaria, resultaría incompleta si no se pregunta también quiénes participan en la elaboración de las reglas y en qué condiciones podrán acceder a los beneficios de la innovación. De lo contrario, se corre el riesgo de construir un sistema técnicamente más seguro, pero políticamente más desigual, una contradicción que, con el tiempo, también podría convertirse en un problema de seguridad internacional. La respuesta a estos desafíos exige una cooperación internacional más ambiciosa, ya que los riesgos asociados a los modelos más avanzados no pueden quedar sujetos exclusivamente a decisiones empresariales ni a regulaciones nacionales que, por su propia naturaleza, resultan insuficientes frente a tecnologías de alcance global. Existen afortunadamente, antecedentes sobre los cuales avanzar. Diversas iniciativas científicas, acuerdos multilat