Empresas sin humanos: la ley argentina que divide al mundo

El jueves 4 de junio, Javier Milei y Federico Sturzenegger publicaron en el Financial Times una columna titulada “Argentina invita a la IA a liberarse a sí misma”, y presentan la novedad de un proyecto de reforma de la ley de sociedades que contemplaría la posibilidad de sociedad integradas 100% por agentes de inteligencia artificial. Hoy, el mismo diario publica la respuesta de Yuval Noah Harari a este artículo: “No debemos otorgar personalidad jurídica a los agentes de IA”. Un asunto sobre el que está evangelizando hace varios meses. Un presidente argentino en ejercicio junto a uno de sus ministros y uno de los intelectuales más leídos de la historia, sobre una ley que está en el Congreso argentino. Es tentador elegir un bando, incluso de aportar una opinión sobre este debate, pero antes de hacerlo, los invito a detenernos en algo que Harari y Milei comparten: están usando las mismas palabras para hablar de cosas distintas.El filósofo Ludwig Wittgenstein sostenía que la mayoría de los problemas filosóficos no eran problemas filosóficos genuinos sino confusiones del lenguaje. “La filosofía es una batalla contra el embrujo de nuestra inteligencia por medio del lenguaje”, escribió en las Investigaciones filosóficas. ¿Cuántas veces nos vimos atrapados, en nuestra forma fervorosa de intercambiar ideas, de que uno de los participantes del debate dice “estamos diciendo lo mismo de maneras diferentes”, o bien “estamos hablando de cosas distintas que son complementarias”? La pregunta que se desprende es si estamos ante posiciones realmente irreconciliables, o bien ante una de estas hipótesis.Milei usa “personalidad jurídica” en un sentido funcional y económico, como un instrumento jurídico. El proyecto de ley que enviaron junto a Sturzenegger es concretamente un contenedor de responsabilidad que permite a una entidad contratar, responder por daños y ser demandada. En su artículo del Financial Times mencionan el caso de la sociedad de responsabilidad limitada del siglo XVII en Holanda, y cómo les permitió -una arquitectura jurídica- ser expansivos en la explosión del desarrollo capitalista. Su argumento es que la IA necesita el mismo contenedor, para que los algoritmos puedan operar en la economía con responsabilidad definida y que Argentina pueda ser vanguardia y líder en el desarrollo económico de la industria digital, concretamente: no condicionar jurídicamente la creatividad alrededor de lo que puede ser una nueva revolución industrial.Harari usa “personalidad jurídica” en sentido filosófico y político. No discute si la IA de hoy tiene conciencia -no la tiene-, y los sistemas actuales siguen dependiendo del diseño humano para cada una de sus funciones, incluso las más sorprendentes. Lo que Harari presupone es que en algún momento podría alcanzar ese umbral, y que las consecuencias de haberle otorgado personalidad jurídica antes de ese momento serían irreversibles. Los riesgos que menciona van desde la concentración sin control del sistema financiero hasta el diseño autónomo de armas biológicas. Considera que otorgarle ese estatus equivale a entregarle “una llave maestra” que abre los sistemas financieros, económicos, bélicos y políticos a entidades sin responsabilidad humana directa, ni ética.Leídos así parece que ambos tienen un punto, y también queda claro que se ocupan de problemas diferentes.Detrás de esta discusión está la presentación del proyecto de reforma de la Ley General de Sociedades. El proyecto trae varias novedades; a los efectos de este artículo nos concentramos en dos. La primera es la Sociedad Automatizada, una empresa que opera íntegramente mediante algoritmos o agentes de inteligencia artificial, sin requerir empleados ni intervención humana en su gestión ordinaria. La segunda es la DAO (descentralized, autonomous organization), o Sociedad Descentralizada Autónoma Operativa, una organización cuya gobernanza no está en un estatuto firmado ante escribano sino en un protocolo de código y contratos inteligentes que ejecutan las decisiones colectivas de sus miembros.El dueño de un animal responde por el daño que cause, sin que el animal sea persona jurídica. El guardián de una cosa riesgosa responde objetivamente por los daños que ella produzca. El que introduce en el mercado un producto defectuoso responde aunque no haya actuado con culpa. En todos esos casos el derecho argentino ya construyó responsabilidad sin necesidad de atribuir subjetividad. La pregunta que el Congreso debería hacerse antes de votar el artículo 14 es si ese linaje alcanza a la IA o no, y por qué. Mi respuesta es que alcanza, pero no es suficiente.Dicho esto, hay un problema que el derecho de daños no resuelve y que justifica la innovación del anteproyecto: la escala. Un sistema autónomo que puede ejecutar miles de decisiones por día en treinta mercados simultáneos no puede ser gobernado exclusivamente por responsabilidad ex post, ni tampoco por los modelos societarios actuales. Pero la propuesta tiene sus propios riesgos que hay que gestionar. El primero es que, según la propuesta del gobierno, una sociedad integrada íntegramente por agentes de IA solo respondería con su propio patrimonio, sin que haya ningún humano que responda solidariamente por los daños causados. El segundo es que un sistema autónomo puede apartarse gradualmente de su objeto lícito sin que nadie lo detecte a tiempo, no hay directorio, gerente, ni empleado que advierta la desviación. Parece insuficiente que frente a esos riesgos la única garantía sea el patrimonio de una entidad sin existencia física ni humana detrás. Ahí sí tiene sentido crear un contenedor jurídico previo con requisitos de gobernanza. Emiliano Kargieman, CEO de Satellogic, publicó esta semana un paper que propone una arquitectura que podría mejorar el proyecto de ley: seguro obligatorio proporcional al riesgo, registro de las decisiones relevantes, un protocolo de interrupción del sistema, y un mecanismo de arbitraje escalonado de velocidad compatible con la escala a la que operan estos sistemas.La tradición jurídica continental en la que se inscribe Argentina es una de las más sofisticadas del mundo en materia de responsabilidad. La teoría del riesgo y la responsabilidad objetiva, desarrolladas por nuestra doctrina a lo largo del siglo XX y hoy codificadas en el Código Civil y Comercial, no reemplazan la innovación que propone el anteproyecto sino que la complementan y pueden potenciarla. Si los nuevos tipos societarios se construyen sobre ese linaje, Argentina no estaría improvisando una respuesta jurídica a la IA. Estaría aplicando a un problema nuevo una tradición que ya demostró su capacidad para distribuir responsabilidad donde no hay culpa evidente.El marco que Milei propone podría ser el instrumento que modera el riesgo que Harari teme, pero para eso el congreso tiene que estar a la altura de lo que el debate exige. Creo que el proyecto tiene dos oportunidades concretas de mejora, y van en sentidos opuestos porque las figuras son distintas. La primera es devolverle a la DAO su esencia, que es una organización genuinamente gobernada por protocolo, no una Sociedad Anónima a la que se le agrega tecnología blockchain, es decir: desburocratizarlo. La segunda requiere más complejidad, completar la arquitectura de la Sociedad Automatizada para que la responsabilidad patrimonial que reconoce pueda ejercerse en la práctica: quién es el responsable del sistema, cómo se registran sus decisiones, bajo qué condiciones se interrumpe.Incluso hay algunas hipótesis que el proyecto todavía no formula. ¿Puede un agente de IA ser socio de una persona humana? ¿Qué pasa si un humano quiere asociarse en una Sociedad Automatizada, y qué derechos políticos tiene, a quién le reclamaría, a quién le rendiría cuentas? Estas y más preguntas van a surgir conforme avancemos institucionalmente y avance la tecnología. El debate que Milei y Harari abrieron esta semana es una buena señal de que en Argentina está la materia prima para ser parte del futuro, y jugar un rol protagónico en lo que viene, y que estamos haciéndonos algunas de las preguntas correctas del momento.El autor es Diputado Nacional por la Provincia de Buenos Aires (PRO) y preside la Comisión de Ciencia y Tecnología de la Cámara de Diputados.