Anthropic propone que EE.UU. pueda bloquear modelos de IA peligrosos con autorización judicial

Anthropic, creador del asistente de inteligencia artificial Claude, propuso su propio marco de regulación ante la falta de una ley federal, según el cual Washington podría vetar un modelo de IA peligroso pero solo con la autorización de un juez. La iniciativa fue presentada a legisladores estadounidenses, reveló el medio Politico.El texto plantea que Washington pueda bloquear un modelo de IA en caso de riesgo inminente de causar más de 50 muertos o heridos graves o pérdidas por más de 1000 millones de dólares. Todo, bajo el visto bueno de un juez.Asimismo, se obligaría a los desarrolladores de IA a “poner a prueba los modelos más potentes”, a transparentar sus resultados frente al público, así como a “someterlos a una evaluación independiente” y “mantener un sólido programa de seguridad”, dijo un portavoz de Anthropic a la AFP el pasado viernes.Bajo el gobierno de Donald Trump, las empresas de IA están solo obligadas a decretos y compromisos voluntarios. El mandatario republicano se opone a frenar el auge de esta tecnología que impulsa la economía estadounidense.El Congreso se mantiene dividido frente al tema, y no ha aprobado nada relacionado. La seguridad de la IA cobró relevancia tras las revelaciones de una serie de incidentes causados por sistemas avanzados de inteligencia artificial que se escaparon del control de sus creadores. En junio, Anthropic fue obligada por Washington a suspender sus modelos más avanzados por casi tres semanas tras ser vetada por el Pentágono.Las relaciones de la empresa con el gobierno de Trump mejoraron recientemente. “Nuestra propuesta (de regulación) también otorga al gobierno federal la capacidad de bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso”, remarcó el vocero de Anthropic.Alarma mundialLa propuesta de Anthropic se da en un escenario de gran temor e incertidumbre respecto al avance de la IA. De hecho, los propios empresarios hicieron un llamado de atención en el último para frenar el ritmo de desarrollo de esta tecnología.Uno de ellos fue Sam Altman, director ejecutivo de OpenAI, quien aseguró que uno de los principales riesgos es que la humanidad termine perdiendo el control sobre su propio futuro. Además, reclamó reglas de seguridad comunes para las empresas que desarrollan los modelos más avanzados y sostuvo que “ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”.A su vez, Altman consideró necesario que las técnicas destinadas a garantizar la alineación y la seguridad de los sistemas avancen al mismo ritmo o incluso por delante de las capacidades de los modelos. “Necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos”, sostuvo.También destacó como peligroso la excesiva concentración de poder en manos de quienes controlen las tecnologías más avanzadas. Según advirtió, una inteligencia artificial extraordinariamente poderosa podría convertirse en una herramienta para que una persona, una empresa o incluso un país impongan sus intereses sobre el resto.Con información de AFP