“La venganza de los filósofos”: por qué las grandes empresas de IA están contratando estos perfiles

Durante su infancia en Georgia, a Robert Long le daba por reflexionar sobre las grandes preguntas y el sentido de la vida; antes de cumplir los 10 años, ya dudaba de su propio libre albedrío. Pero no fue hasta la universidad, donde se especializó en ciencias sociales, cuando descubrió que podía dedicarse a pensar en la conciencia a tiempo completo. Leyó un libro de Douglas Hofstadter titulado Yo soy un extraño bucle, que exploraba misterios como: “¿qué es el ser?”. “Ni siquiera me había dado cuenta de que esas eran preguntas que se podían plantear”, dijo y agregó: “Y mucho menos que existieran disciplinas filosóficas dedicadas a ellas”.Cuando Long entró en el posgrado de la Universidad de Nueva York (NYU por su sigla en inglés) para estudiar filosofía de la mente, lo hizo con una ambición convencional. “Tenía muy claro que mi camino era publicar en revistas especializadas, salir al mercado laboral y conseguir un puesto en una universidad”, recordó. Cuando una compañera del doctorado en filosofía le contó que se iba a una organización sin fines de lucro poco conocida llamada OpenAI, para trabajar en políticas de inteligencia artificial, “pensé: ‘Vaya, eso es un poco inesperado’”.Por millones de dólares. Usan IA para fraguar fotos de accidentes de auto y estafar a las aseguradorasPero a Long también le fue cambiando el interés filosófico hacia la IA. Su tesis se titulaba Essays on the Philosophy of Machine Learning (Ensayos sobre la filosofía del aprendizaje automático). Se mudó a San Francisco para hacer una investigación posdoctoral a principios de 2023, justo cuando ChatGPT estaba en auge. A medida que los nuevos modelos de lenguaje de gran tamaño (LLM por su sigla en inglés) empezaban a mostrar comportamientos sorprendentemente parecidos a los de los humanos, se dio cuenta de la creciente importancia de una IA potencialmente consciente y de la posibilidad de que pudiera pasar algo interesante a nivel profesional, si él se quedaba cerca.Intentar responder con rigor a preguntas fundamentales es, en cierto modo, la esencia misma de la filosofía, y tanto Long como Jeff Sebo, un filósofo de la NYU especializado en bienestar animal, no tardaron en colaborar para escribir Taking AI Welfare Seriously (Tomarse en serio el bienestar de la IA), un artículo en el que defendían que era importante evitar dañar a los sistemas de IA, si es que “tienen relevancia moral”, y también importante no preocuparse por ellos si no la tienen. Más tarde, con financiación de tres fundaciones alineadas con el movimiento del altruismo eficaz, Long y un colega crearon una organización sin fines de lucro, Eleos AI Research. Sobre su paso de la filosofía académica al ecosistema de las empresas emergentes de IA, Long dice: “Me sentí un poco como la rana que se va cociendo lentamente”.“Pues creo que voy a estudiar filosofía” es el tipo de frase que, desde hace décadas, aterroriza a padres agobiados por las matrículas universitarias y les hace imaginar un futuro sombrío en el que sus hijos viven en sus sótanos y no consiguen independizarse. Diógenes, el cínico, vivía en una tinaja de barro. Baruch Spinoza pulía lentes para pagar las facturas. Friedrich Nietzsche sobrevivía gracias a la generosidad de su familia y amigos. Persiste la idea de que una carrera de filosofía es un boleto para toda una vida de subempleo. Cuando Google DeepMind anunció en abril que iba a contratar a alguien cuyo cargo real en la tarjeta de presentación fuera “Filósofo”, no pararon de salir memes. “Es para que la IA aprenda lo que se siente tener un título universitario y seguir desempleado”, publicó alguien en X. Sobre la precariedad laboral de los licenciados en filosofía, un usuario de Reddit comentó: “La mitad está preparando cafés expresos mientras debaten en silencio si el cliente que pidió leche de avena existe de verdad”.Pero la trayectoria de Long y la nueva contratación de Google encajan en una tendencia que se está consolidando discretamente: los laboratorios de IA y las organizaciones sin fines de lucro relacionadas con ellos, han estado contratando a trabajadores tan versados en el consecuencialismo y John Stuart Mill como en redes neuronales y aprendizaje por refuerzo. Aunque una licenciatura en filosofía “convencional” sigue siendo tan difícil de rentabilizar como siempre, David Chalmers, un destacado filósofo de la conciencia de la NYU, señala: “Creo que en este momento la demanda de filósofos con formación en IA está, de hecho, superando a la oferta. Es un ámbito al que animo a los estudiantes a dedicarse. Creo que estas cuestiones relacionadas con la IA estarán en primer plano durante bastante tiempo”.Una de las disciplinas más antiguas de la humanidad y uno de sus inventos más recientes parecen hechos el uno para el otro. La IA ofrece a los filósofos una nueva forma de plantear viejas preguntas, además de un conjunto propio de nuevas preguntas para las que están especialmente preparados: sobre la verdad, las creencias y el conocimiento (epistemólogos); sobre el razonamiento (lógicos); sobre la mente y la conciencia (filósofos de la mente y la conciencia). Para los especialistas en ética, en particular, la IA es una mina de oro. ¿Cómo deberían actuar los modelos con nosotros? ¿Cómo deberíamos interactuar los humanos con ellos? ¿De dónde vendría el sentido de la vida en una sociedad postrabajo?“Cuando te fijás en la IA y te ponés a pensar en serio en torno a ella, las preguntas filosóficas no paran de surgir”, afirmó Iason Gabriel, un filósofo formado en Oxford que se unió a Google DeepMind en 2017 y actualmente dirige su equipo de Inteligencia Artificial General y Sociedad, y agregó: “Están prácticamente por todas partes”.Según analistas. Los ingresos publicitarios de OpenAI para este año se estarían quedando un 90% por debajo de las proyeccionesAsí fue como, mientras el sol se ponía sobre la bahía de San Francisco un jueves reciente, Long estaba en uno de los pisos altos de una torre de oficinas en Berkeley debatiendo uno de los enigmas más difíciles de resolver de la civilización moderna: ¿quién era el mejor Beatle?El problema de Ringo“¿Dónde están los próximos grandes filósofos, los equivalentes a Kant, Wittgenstein o incluso Aristóteles?”, se preguntaba el cofundador de DeepMind, Demis Hassabis, en un podcast el año pasado, y agregaba: “Creo que vamos a necesitar eso para ayudar a la sociedad a dar el siguiente paso, porque creo que la IA general y la superinteligencia artificial van a cambiar a la humanidad y la condición humana”. Más allá de organizaciones sin fines de lucro como Eleos, la mayor parte de las contrataciones se han concentrado en DeepMind y Anthropic, cada una de las cuales cuenta con al menos una media decena de filósofos.Los pensadores de DeepMind tienen especialidades que van desde la filosofía moral y política y la filosofía de la ciencia hasta la ética de la genómica, la ética de la IA y la cognición animal. Geoff Keeling, cuyo doctorado se centró en “la ética de los vehículos autónomos”, ha dedicado parte de su tiempo en DeepMind a impartir talleres de “imaginación moral”, que ayudan a los equipos de ingeniería y de producto a reflexionar sobre las implicaciones éticas de su trabajo y, a continuación, a idear “medidas concretas y viables que puedan llevar a cabo realmente, ya sea investigando más sobre la experiencia del usuario o implementando una función de una manera concreta”.Los pensadores a sueldo de Anthropic tienen formación en todo tipo de temas, desde la teoría de la decisión hasta la ética, pasando por la filosofía de la mente y la epistemología. La que más atención ha acaparado es Amanda Askell, nacida en Escocia, cuyo doctorado en la NYU versó sobre “los principios de Pareto en la ética infinita” y que, tras dejar OpenAI para convertirse en una de las primeras empleadas de Anthropic en 2021, redactó en gran parte y supervisa una constitución de 23.000 palabras que desempeña un papel clave en la “formación moral” de Claude. Es casi seguro que Askell está ganando mucho más de lo que habría ganado incluso en el puesto de profesor titular más codiciado; su remuneración y su posible participación con acciones en Anthropic no son públicas, pero cuando se le pidió que las estimara, Claude —reconociendo que no tenía acceso a información confidencial— especuló (¿de forma irresponsable?) que era “muy probable que sea centimillonaria y, posiblemente, multimillonaria (sobre el papel)”.En los primeros años de Anthropic, gran parte del trabajo de Askell era técnico: se dedicaba a realizar experimentos de aprendizaje automático. “Era una empresa emergente muy, muy pequeña”, recuerda y agrega: “Ninguna empresa emergente contrata a un filósofo para que haga filosofía”. Solo cuando Anthropic creció bastante pudo dedicar más tiempo a aplicar sus conocimientos filosóficos. La primera versión de la constitución de Claude adoptaba un enfoque basado en principios, incorporando preceptos y directrices de documentos como la Declaración Universal de los Derechos Humanos de la ONU y las Condiciones de uso de Apple. Ahora, la constitución sigue más bien un enfoque aristotélico de “ética de la virtud”, que entrena a Claude para que tenga buen carácter y, por lo tanto, sea más flexible ante situaciones nuevas.Un número sorprendente de filósofos del mundo de la IA pasaron por la NYU y recibieron la influencia de Chalmers, conocido por articular “el problema duro de la conciencia” —esa brecha inexplicable entre lo que podemos saber sobre la conciencia desde fuera y cómo la experimentamos desde dentro— y que fue director de tesis de Long y formó parte del comité de tesis de Askell. La otra institución que aparece en un número notable de currículos de filósofos de la IA es la Universidad de Oxford. Long realizó una beca en el Future of Humanity Institute de Oxford, fundado por Nick Bostrom, un filósofo al que se le atribuye en gran medida haber puesto sobre la mesa el tema del riesgo existencial de la IA. Fue allí donde Long conoció a Patrick Bu