No hay que ser Casandra para ver los riesgos en la carrera por la IA

En la mitología griega, Casandra tenía un don singular. Podía ver el futuro, pero nadie le creía. Advirtió sobre la caída de Troya. Advirtió sobre el engaño del caballo de madera. Advirtió que detrás de aquello que parecía un regalo se escondía una amenaza. La escucharon, pero igual decidieron ignorarla. Un par de miles de años después, la historia sigue teniendo vigencia. No hace falta tener el don de Casandra para advertir algunos riesgos que empiezan a aparecer detrás de la carrera global por la mal llamada “inteligencia artificial”. Y solo basta con leer los proyectos que empiezan a discutirse en el Congreso.Por un lado, el denominado Súper RIGI, un régimen de beneficios extraordinarios para atraer inversiones multimillonarias, en parte vinculadas a la economía digital y la inteligencia artificial. Por otro, una reforma que habilita sociedades operadas por sistemas automatizados, donde buena parte de las decisiones podrían quedar en manos de sistemas totalitarios tecnológicos manejados por las corporaciones.Cada iniciativa, por separado, merece discusión. Juntas plantean preguntas mucho más profundas, porque la inteligencia artificial no es solamente una nueva tecnología, sino que es, sobre todo, una nueva forma de concentrar poder. Estamos incursionando en la posibilidad de regímenes totalitarios manejados por corporaciones tecnológicas que se llevarán puestas las instituciones democráticas y el sistema mismo. Y en ese sentido la empresa Palantir es líder y de ahí que se haya radicado en nuestro país Peter Thiel para poder implementar esto, siendo nuestro país y los ciudadanos que lo habitamos los “conejitos de Indias” del experimento. La declaración más famosa de Thiel sobre su escepticismo hacia la democracia apareció en un ensayo publicado el 13 de abril de 2009 en la revista del Cato Institute, titulado “The Education of a Libertarian”. Allí escribió: “I no longer believe that freedom and democracy are compatible” (“Ya no creo que la libertad y la democracia sean compatibles”).En ese texto, Thiel argumentaba que los libertarios habían fracasado en influir políticamente a través de los mecanismos democráticos tradicionales y sostenía que la expansión del Estado de bienestar y de determinados grupos de votantes había hecho cada vez más difícil alcanzar una sociedad que él consideraba verdaderamente libre. Este ensayo es considerado por muchos analistas como un texto fundacional de las corrientes tecnolibertarias y de la llamada Dark Enlightenment o “Ilustración oscura”, con la que Thiel comparte todas las ideas de ese movimiento. Otra prueba del peligroso movimiento que está liderando Thiel, llamado Dialog, una organización privada a la que solo se puede acceder por invitación, cofundada en 2006 por el multimillonario inversor tecnológico, que fue denunciado por el portal Wired, que reúne a funcionarios estadounidenses, representantes de gobiernos extranjeros y ejecutivos de Silicon Valley en retiros anuales confidenciales. Dialog lleva dos décadas negándose a revelar la identidad de sus miembros, pero con un funcionamiento de secta. El retiro está programado del 12 al 16 de agosto en un lugar cerca de Dublín, Irlanda.Los grandes centros de datos que alimentan estos sistemas requieren de enormes cantidades de energía, agua e infraestructura. Las empresas que los operan manejan volúmenes de información sin precedentes. Y los algoritmos que desarrollan empiezan a intervenir en áreas cada vez más sensibles de la vida económica, social y política.Entiendo la urgencia, entiendo que la Argentina lleva décadas perdiendo oportunidades y entiendo que la IA es la transformación más grande que va a vivir nuestra generación. Lo entiendo, y precisamente por eso me preocupa lo que estamos a punto de hacer.El Súper RIGI le ofrece a cualquier empresa tecnológica que llegue al país impuestos a las ganancias al 15%, cero retenciones desde el primer día, contribuciones patronales reducidas a la mitad y treinta años de estabilidad normativa garantizada. Sin posibilidad de cambio, sin ajuste posible. Si mañana descubrimos que el data center que instalamos en la Patagonia consume más agua que toda una provincia, ya no podemos tocarlo. No me es ajena esta visualización como un eslabón relevante con la reciente reforma de la Ley de Glaciares. Y si hay una controversia, el caso ni siquiera se podrá dirimir en la Argentina porque la empresa elige el tribunal internacional. Eso no es una política de atracción de inversiones. Eso es un regalo.Y encima un regalo que nadie pidió. Los estudios más serios sobre localización de data centers muestran que los incentivos fiscales representan apenas el 2% de la decisión de dónde instalar una infraestructura de hiperescala. Lo que de verdad mueve la aguja es la disponibilidad de energía, el clima y la conectividad. La Argentina tiene todo eso, tenemos ventajas reales y no las estamos usando como poder de negociación: las estamos regalando junto con el paquete fiscal. Proyectado a plena escala, el costo de estos beneficios equivale a 1,27 puntos del PBI, o sea más de 8600 millones de dólares anuales, resignados por treinta años. Para dimensionarlo: es más del doble de lo que el Estado invierte hoy en ciencia, tecnología y educación universitaria juntas. El mismo presupuesto que crea el Súper RIGI recortó el Conicet un 41% y dejó la inversión en ciencia en el piso más bajo desde 2002. Vaciamos el semillero y le regalamos el campo al que venga de afuera.El problema de los troyanos no fue el caballo sino creer que un regalo de semejante magnitud no exigía preguntasEn paralelo, el Gobierno envió al Congreso una reforma de la ley de sociedades que crea las “sociedades automatizadas”, es decir, empresas con personería jurídica plena, operadas por algoritmos o agentes de inteligencia artificial, sin necesidad de ningún ser humano en la cadena de decisión. El CEO puede ser una IA. Los directores pueden ser robots. La empresa existe, tiene derechos, puede demandar al Estado argentino en un tribunal internacional, y nadie responde con su patrimonio, con su libertad, con nada.Ya no son fantasías futuristas sino debates que ya están ocurriendo en Estados Unidos y en Europa, y son discusiones que atraviesan a las propias empresas que lideran esta revolución tecnológica. Sin embargo, mientras en buena parte del mundo ahora se debate cómo regular estos procesos, la Argentina parece dispuesta a ofrecer el escenario contrario: beneficios extraordinarios, estabilidad normativa por décadas y escasas exigencias de transferencia tecnológica o desarrollo local.La innovación no elimina la responsabilidad, sino que la vuelve más importanteAhí es donde vuelve a aparecer la imagen de Troya. Porque el problema de los troyanos no fue el caballo. El problema fue creer que un regalo de semejante magnitud no exigía preguntas y creer que aquello que ingresaba por sus puertas solo podía traer prosperidad.La Argentina necesita inversiones. Las necesita con urgencia y en eso estamos todos de acuerdo. Pero una cosa es atraer inversiones y otra muy distinta es renunciar a la capacidad de establecer condiciones para que esas inversiones sean creíbles y sostenibles, tanto para el país como para los propios inversionistas.Tenemos activos estratégicos que el mundo tecnológico necesita: energía, clima favorable, territorio, conectividad y talento humano. Estas son fortalezas que deberían aumentar nuestra capacidad de negociación en vez de reducirla.Por eso preocupa que estemos discutiendo incentivos extraordinarios sin debatir con la misma intensidad quién responde, quién controla y quién se beneficia cuando esas inversiones se consolidan. Porque la innovación no elimina la responsabilidad, sino que la vuelve más importante. Y cuanto más sofisticada sea la tecnología, más imprescindible resulta saber dónde termina la decisión de una máquina y dónde comienza la conciencia humana.El Congreso todavía está a tiempo de hacer las preguntas correctas, no para rechazar la inteligencia artificial ni tampoco para cerrarle la puerta al futuro, sino para evitar que, fascinados por las promesas de una nueva revolución tecnológica, terminemos dejando entrar un caballo de Troya sin preguntarnos qué lleva dentro.Casandra se equivocó en muchas cosas. Pero no se equivocó en esa. Y cuando Troya entendió que tenía razón, ya era demasiado tarde.