Manual de IA: qué información nunca deberías compartir con una inteligencia artificial

En abril de 2023, cuando ChatGPT acababa de ver la luz, un grupo de ingenieros que trabajaban en la división de semiconductores de Samsung pegó código fuente confidencial en esta IA para que detectara errores. Además, uno de ellos aprovechó la ocasión para ahorrar tiempo y le cargó una minuta completa de una reunión directiva, para que generara un resumen. ¿El problema? Toda esa información corporativa ultra confidencial terminó alojada en los servidores de OpenAI y disponible para el entrenamiento de su modelo. La compañía no lo dudó y tomó medidas drásticas: prohibió temporalmente el uso de herramientas de IA generativa en todas sus redes internas. El caso de Samsung sigue dándose hoy en muchas industrias, empresas y emprendimientos, muchas veces sin que los autores sean conscientes de lo que están haciendo. “El riesgo no es un hacker ruso atravesando tu barrera de seguridad a medianoche; hoy la principal fuga de información son empleados con buenas intenciones usando herramientas públicas para trabajar más rápido“, fue contundente Marcelo De Luca, cofundador de The App Master, compañía argentina que crea soluciones tecnológicas para startups, pequeñas y medianas empresas.Para recuperar el control del cuerpo. Antes que Neuralink, China aprueba su primer chip cerebral para su uso médicoEfectivamente, pocos saben que cuando se utiliza una inteligencia artificial, el modelo lee el prompt y la información para brindar una respuesta en el momento, pero también ocurre algo más: esos datos se guardan en sus servidores -en muchos casos- para seguir “entrenando” el sistema. ¿Qué significa esto en la práctica? “Que si le subís un balance, una estrategia de ventas o el código de tu sistema, todo eso entra en una gran bolsa de aprendizaje. Mañana, si un competidor tuyo le hace la pregunta correcta a esa misma IA, el sistema podría usar lo que aprendió con tus datos para responderle a él”, advirtió De Luca, aunque señaló que esto no se da en todos los escenarios: “A menos que pagues versiones corporativas donde te firman que no van a usar tu información”.Pero a veces pagar no es sinónimo de privacidad: es necesario desactivar manualmente esto en el caso de cuentas personales (especificar que no se desea usar los datos para el entrenamiento), contar con una versión corporativa o utilizarlo a través de API (conectores específicos para software). “En las versiones gratuitas y abiertas al público masivo, la regla general establecida por los proveedores es la reserva del derecho a incorporar las consultas y las respuestas para perfeccionar sus algoritmos. Por el contrario, cuando se opera mediante suscripciones corporativas, entornos dedicados o accesos por interfaz de programación de aplicaciones, los contratos estipulan cláusulas explícitas donde los datos son excluidos de los esquemas de reentrenamiento”, sintetizó el Ing. Sergio Aguilera, director de Carreras de Informática de la Universidad de Belgrano. Lo inquietante es que se trata de términos y condiciones que muchas veces no se aclaran -o por lo menos no de forma evidente-, aunque esto puede variar según la legislación vigente en cada jurisdicción. Jorge Litvin, especialista en riesgos de ciberseguridad, fundador y CEO de la empresa Safe-U, señaló que, en Europa, por ejemplo, la regulación exige una aviso previo y un derecho de oposición fácil de ejecutar. “El resultado es que algunos proveedores directamente excluyen del entrenamiento a los usuarios europeos y otros los dejan oponerse antes de empezar”, explicó y agregó: “En la Argentina no existe una obligación equivalente: acá el usuario no tiene garantizado por ley ni el aviso ni la opción, depende de lo que cada empresa decida ofrecerle”. LA NACION también consultó a las empresas detrás de las herramientas de IA más populares acerca de cuándo y cómo utilizan los datos de los usuarios para entrenar sus modelos. “En cuentas personales, si el usuario mantiene activada la función de «Actividad» en las aplicaciones con Gemini, las interacciones pueden utilizarse para mejorar los productos de Google", respondieron desde la tecnológica, aunque aclararon que “los datos se desvinculan de la cuenta del usuario y se anonimizan antes de cualquier revisión. Si el usuario desactiva el historial, sus nuevas consultas no se guardan ni se usan para entrenar modelos”. Vale agregar que, al hacer la prueba e intentar desactivar la función “Actividad”, la empresa aclara varias condiciones más, entre las que figuran que “algunas apps conectadas no están disponibles cuando este parámetro de configuración está desactivado”.En el caso de cuentas corporativas: en productos empresariales como Google Workspace o Google Cloud, la empresa aseguró que “la información (correos, documentos, consultas o respuestas) nunca se utiliza para entrenar los modelos públicos de IA de Google ni de terceros. Los datos pertenecen exclusivamente a la empresa, están aislados en su perímetro de seguridad y cuentan con protección de grado empresarial, asegurando que no se utilicen para entrenar modelos externos ni para perfiles publicitarios”. OpenAI no respondió a las consultas que se le hicieron en relación al tratamiento de la información.¿Qué no deberías compartir nunca con una IA?Pablo Lima, director de ventas para el sur de América Latina de la empresa VU, dedicada a la ciberseguridad, señaló que, siempre que la información sea de terceros, confidencial o estratégica es recomendable pensar cuidadosamente si conviene o no compartir los datos con el modelo de IA. “Conviene detenerse antes de ingresar datos de clientes, empleados, pacientes o proveedores; documentos internos, contratos, código fuente, resultados financieros no publicados o cualquier información protegida por un acuerdo de confidencialidad”, explicó Lima y advirtió que también importa el uso que se le da a la IA: “No es lo mismo pedir ayuda para redactar un texto genérico que cargar una base de datos completa para analizarla. Una regla simple que puede servir consiste en que, si esa misma información no se la enviarías sin problema a un proveedor externo desconocido, tampoco deberías cargarla en una herramienta de IA sin los controles y las garantías contractuales adecuadas”. “Un golpe terrible”. Robaron más de US$100 millones en bitcoin de cuentas consideradas segurasEn este sentido, Litvin detalló cuáles son los datos que jamás compartiría con una herramienta de IA pública:Credenciales: contraseñas, claves de API, tokens y códigos de doble factor. Documentación personal y financiera: fotos de documentos, tarjetas, comprobantes o resúmenes bancarios. Información confidencial de terceros: datos de pacientes, clientes, empleados, compañeros de trabajo o expedientes. Secretos de negocio: código fuente con credenciales, información previa a un anuncio, una compra, un balance o una reestructuración. Estrategias sensibles: la estrategia jurídica de un caso abierto, una investigación interna o una negociación. Información de menores: fotos, audios, documentos y datos que permitan identificarlos o perfilar su vida. Por su parte, Luciano Moreira, director ejecutivo de estrategia y transformación de Cloud Legion, agregó algunos casos más en los cuales considera que es importante ser especialmente cuidadoso en el tratamiento de la información de la IA: información de terceros bajo confidencialidad, donde el problema no es la privacidad propia, sino un incumplimiento contractual. También se refirió a la información financiera o societaria no pública y una última cuestión de la que no se suele hablar: “Nunca subir un documento que no se leyó completo. Los archivos llevan metadatos, comentarios, control de cambios y hojas ocultas. Uno cree que comparte un resumen, pero comparte el historial de negociación”. El lado oculto de la IAEn algunos casos, brindar información a las inteligencias artificiales resulta especialmente grave e incluso puede implicar consecuencias legales. Actualmente, se está dando un fenómeno conocido como “Shadow AI”, que, tal como explicó Ailin Castellucci, fundadora y CEO de Hécate Security, empresa de ciberseguridad dedicada a la formación de profesionales en gestión de riesgos y a la asesoría de startups y empresas, implica usar corporativamente estas herramientas, pero sin una cuenta de tu empresa. “Esto es uno de los puntos ciegos más grandes que hay en seguridad corporativa en este momento y no hay que confiarse, porque existen empresas que están aplicando sanciones disciplinarias contra sus empleados para preservar su confidencialidad”, detalló la experta, que también forma parte de la comunidad EmprendedoraLAC. Le dejará su lugar a Gemini. El Asistente de Google dará su último adiós el 4 de septiembreCastellucci explicó que si se utiliza una cuenta corporativa, el primer paso es revisar si la empresa cuenta con una política de uso de IA y de manejo de información sensible, “muchas ya la tienen, sobre todo si trabajan con estándares de seguridad de la información o manejan datos regulados por la Ley de Protección de Datos Personales. Si no la tiene, aplicá el sentido común: nada de información de clientes, código propietario, contratos o estrategias internas”. Sima advirtió que, en lo vinculado a la protección de datos, pueden incumplir los principios de consentimiento, finalidad y seguridad aquellos que carguen información de clientes o empleados en una IA, sin base legal adecuada. También detalló que existe riesgo de transferencias internacionales de datos sin garantías, cuando el proveedor -como puede ser OpenAI o Google- procesa la información en otro país. A esto se suman incumplimientos contractuales, violación de confidencialidad, filtración de secretos comerciales y responsabilidad por decisiones automatizadas incorrectas. Además, es importante tener en cuenta que cada sector cuenta con deberes específicos propios de esa actividad, ya sea salud, telecomunicaciones, finanzas, etc. A estas cuestiones, el ingeniero Aguilera agregó que la publicación involuntaria de desar