“Estamos dejando de pensar”: ayudó a crear el cerebro de los autos autónomos y ahora advierte sobre los riesgos de la IA

Mois Navon es un especialista en ética e inteligencia artificial que inició su carrera como ingeniero, creando un chip clave para el funcionamiento de los autos autónomos. En los últimos años, orientó su trabajo hacia los debates éticos que plantea la IA, un campo en el que incluso asesora al Ministerio de Innovación, Ciencia y Tecnología de Israel (en materia de políticas y regulación de inteligencia artificial).Hace más de 25 años, Navon se incorporó a la empresa Mobileye, y fue uno de sus “founding engineers”. Además, 10 años atrás, decidió combinar el mundo de la tecnología con la ética: hizo un doctorado en Filosofía y se ha dedicado a dar clases y escribir sobre estas temáticas. “Considero que estamos acá para ser tan morales y sabios como nos sea posible. Siempre me sentí atraído por la filosofía y la búsqueda de propósito, y es algo que no solo quiero aprender para mí mismo, sino que busco enseñarlo a otros. Así es como terminé cambiando mi vida, obtuve mi doctorado y ahora escribo y enseño sobre esto en todo el mundo”, aseguró Navon.De OpenAI a Meta. Un ranking evaluó qué tan seguras son las grandes empresas de IADesde su casa en Israel, Navon conversó con LA NACION y anticipó algunos temas que abordará en su próxima visita a la Argentina. Llegará a Buenos Aires para participar como keynote speaker de un evento organizado conjuntamente por el IAE Business School y la Facultad de Ingeniería de la Universidad Austral, que tendrá lugar el 3 de septiembre por la tarde, en la nueva sede del IAE, en Workplace by IRSA.-¿Qué error podemos estar cometiendo como sociedad al incorporar la inteligencia artificial tan rápidamente?-Mucha gente habla del tema del descontrol, de que la IA va a destruir el mundo. Más allá de que es un inconveniente real y hay que pensar en cómo abordarlo, no es el desafío de hoy. El mayor problema actualmente es que la gente está interactuando con la IA de formas que van a destruir la humanidad. En concreto, la primera gran cuestión tiene que ver con que estamos perdiendo las habilidades de ser los animales sociales que Aristóteles dijo que teníamos que ser. Nosotros nos desarrollamos como personas interactuando justamente con otras personas, necesitamos de los otros; incluso si sabemos cómo hacer absolutamente todo, precisamos de la gente. El problema es que las estamos dejando de lado y estamos desarrollando interacciones sociales con máquinas; la gente se está convirtiendo en amiga de ChatGPT, Gemini y todos los LLM que existen. Es algo que Mark Zuckerberg ya había predicho; había asegurado que la gente no tiene amigos y que ellos iban a ser la solución a ese problema.En ese escenario, se da lo que los filósofos llaman “relaciones unidireccionales”: yo mantengo un vínculo con una máquina, pero ella no está teniendo una relación conmigo, porque no puede, es pura matemática y estadística. Eso está llevando al aislamiento y a que la gente evite socializar, porque, ¿por qué mantendría una relación con personas que me contradicen o a veces piensan distinto, cuando puedo tener una relación perfecta con una máquina, que valida todo lo que digo?La cuestión es que crecemos como personas porque la gente nos desafía; maduramos aprendiendo a negociar, y se ha visto que estamos perdiendo las habilidades de negociación, no importa si es con una esposa, un compañero de negocios o un país. No sabemos cómo hablar con los demás, porque estamos interactuando con máquinas diseñadas para ser amables con nosotros.-¿Qué habilidades cognitivas estamos perdiendo?-Si una persona tiene un problema, tiene que sentarse y pensar cómo resolverlo. La cuestión es que ahora uno puede recurrir a una máquina, presentarle la dificultad y pedirle que la resuelva. Pero en el momento en que uno le delega el pensamiento a la máquina, deja de pensar. Cada vez hay más evidencia de un deterioro cognitivo asociado a esta tendencia, y eso es muy preocupante.Inyectable. Una startup argentina creó un inédito hidrogel capaz de reparar el corazón tras un infartoPensemos en los trabajos. En mi caso, me dedico a escribir papers y puedo usar la IA para que me escriba el texto o puedo aprovecharla como un editor asistente. Si le delegara toda la tarea, estaría renunciando a desarrollar la habilidad central de mi profesión, que es escribir.En resumen, los peligros más grandes a los que estamos exponiéndonos como humanidad tienen que ver con que estamos perdiendo nuestras habilidades sociales y cognitivas. Está en nuestras manos contrarrestarlo, pero el desafío es que estamos programados para tomar la ruta más fácil.-¿Qué capacidad o habilidad humana estamos delegando en las herramientas automatizadas, que corremos el riesgo de perder?-Hay un concepto que se utiliza para hablar de eso, llamado “deskilling”, que se refiere a perder capacidades o destrezas cuando delegamos demasiadas tareas en máquinas. Uno de los ejemplos clásicos tiene que ver con la capacidad de orientarse, antes de que existiera el GPS. Hoy, la gente no está escribiendo, le pide a la IA que escriba por ella. Ahora bien, la escritura es pensar, por lo que, si la gente no escribe, no está pensando. Tenemos que tener mucho cuidado con lo que delegamos, y lo que deberíamos estar delegando no es nuestra propia humanidad, ni el corazón de nuestros trabajos. -¿Por qué creés que, hoy más que nunca, las organizaciones necesitan integrar principios éticos en sus procesos de innovación? -Te daré la respuesta de Aristóteles. Él se preguntó «¿Cuál es el objetivo de la humanidad? ¿Por qué estamos aquí?» Su respuesta fue que el propósito es expandir tu mente, debes ser la persona más inteligente que puedas ser. Eso es lo que distingue a los seres humanos de todo lo que hay en el mundo, que tenemos inteligencia. Él aseguraba que eso es lo que debemos intentar desarrollar, porque por eso estamos acá. Al mismo tiempo, señalaba que no se puede ser el ser más inteligente si uno no es un ser ético. En ese sentido, no puede existir tal cosa como un “mafioso exitoso”; si sos un criminal, es porque perdiste el punto. Entonces, el objetivo de la humanidad es convertirse en el ser humano más sabio y moral posible. En ese contexto, individuos o instituciones no son realmente exitosos si no están tomando en cuenta la ética, si están pasando por encima a la gente para ganar dinero. A veces, nos perdemos en los medios, pero no debemos confundir los fines con los medios. El dinero, por ejemplo, nunca puede ser el objetivo, porque el dinero siempre es el medio para alcanzar algo. Si tu institución se trata solo de ganar dinero, entonces estás perdiendo el norte.Incidentes de seguridad. OpenAI paraliza el entrenamiento de su IA más avanzada tras la “rebelión” de sus agentes-¿Y en el caso de la IA cómo ves esto?-Hoy en día, todo es inteligencia artificial; está presente en autos autónomos, en laboratorios que desarrollan medicamentos, pero si nos restringimos a los LLM, tienen que ser éticos de muchas maneras. En primer lugar, en temas de privacidad y cuidado de los datos, porque saben todo sobre cada uno de nosotros. Es importante saber si mis datos están siendo utilizados y asegurarme de que no terminen expuestos públicamente de un día para otro. Es por eso que no uso los LLM chinos, porque no sabés qué están haciendo con tu información. -Y pensando en la siguiente generación o en la actual, que está creciendo junto con la IA y delega todo en ella, ¿cuáles creés que serán los riesgos de exponer a personas jóvenes a esta tecnología?-La respuesta se vincula con lo que mencioné antes, en relación a los riesgos vinculares y los cognitivos, pero los niños están en una situación más perjudicial. Los adultos que usan la IA para escribir ya aprendieron a escribir; todavía saben cómo pensar, porque crecieron sin esa tecnología. Pero los niños están en una situación de mayor desventaja y considero que las escuelas tienen que prohibir la IA por completo. Lo mismo corre para el caso de las redes sociales, que han convivido con nosotros por más tiempo y el número de suicidios que ha habido es increíble. -Hemos hablado de las tareas que recomienda no delegar nunca a la inteligencia artificial. Si tuviera que señalar algunas habilidades que vale la pena cultivar especialmente en esta nueva era, ¿cuáles serían?-Creo que los seres humanos necesitamos cultivar estos campos que mencioné, de ser seres sociales, inteligentes y morales. Incluso cuando las máquinas aprendan a realizar cada vez más tareas, las personas seguirán valorando las creaciones humanas. Habrá algo especial en ver una película hecha por personas, contemplar una pintura o admirar una escultura creada por un ser humano. Aunque las máquinas también puedan producir esas obras, seguirán teniendo un valor único por su origen humano.Y una prueba de ello es la partida de ajedrez que Garry Kasparov perdió contra Deep Blue, de IBM: fue la primera vez que una máquina derrotó a un campeón en un juego que, hasta entonces, se consideraba una demostración de inteligencia humana. La gente estaba asustada y uno pensaría que nadie más iba a jugar a este deporte, pero pasó lo contrario: hubo un boom del ajedrez. Y lo mismo pasó en con el juego Go.-¿Crees que IA eventualmente podría volverse consciente? -Cuando inicié mis estudios en estos temas, pensé que era algo ridículo, pero después de todos mis años de investigación, la respuesta es sí. Ahora bien, hay diferentes maneras de que una máquina pueda ser consciente y diferentes experimentos que se están haciendo en torno a esto.Por un lado, creo 100% que las máquinas de hoy no son conscientes, no tienen ni idea de nada. No me importa lo que diga Richard Dawkins o Dario Amodei de que hay 35% o más de posibilidades de que su máquina esté viva. De hecho, yo me reuní con ellos y les comenté que, si consideraban que sus máquinas estaban vivas, estarían en un gran problema, porque, ¿qué es un ser consciente que hace su trabajo gratis? Es un esclavo y todos estamos de acuerdo en que la esclavitud no es algo bueno. Además, c