El nuevo sesgo de la IA: decide quién avanza en una búsqueda laboral según qué app armó el CV

Las personas que están buscando trabajo ya utilizan en gran medida la inteligencia artificial generativa para optimizar sus CVs, y dentro de las organizaciones, del otro lado del escritorio, sucede lo mismo: este tipo de plataformas sirven para filtrar entre cientos de documentos y dar con el perfil más acorde con cada posición. Si bien la promesa inicial de esta tecnología es la neutralidad al momento de elegir un candidato entre muchos, un nuevo estudio concluye que los modelos de IA tienden a elegir los CVs redactados con sus mismos algoritmos. En otras palabras, los postulantes que usan la misma herramienta que la empresa tienen más chances de avanzar en el proceso, independientemente de sus calificaciones reales. El estudio realizado por investigadores de la University of Maryland, la National University of Singapore y Ohio State University lo confirmó con números. En este experimento controlado a gran escala, los grandes modelos de lenguaje (LLM) mostraron una preferencia sistemática por los CVs que ellos mismos habían generado: los favorecieron en entre un 67% y un 82% por encima de los escritos por humanos. Además, se determinó que un candidato que usó el mismo modelo que la empresa tiene entre un 23% y un 60% más de probabilidades de quedar en la lista de finalistas que otro igual de calificado que escribió su CV con una herramienta diferente. Por qué pasa esto Iván García Villavicencio, Talent Acquisition Regional Manager en el proveedor de IT Softtek para la región de Sudamérica, señala que la clave está en cómo se entrenan los LLM que luego filtran los CV. “Si uno toma cualquier herramienta de IA como ChatGPT para seleccionar CV, y genera un CV con esa misma herramienta, ChatGPT entiende que viene del mismo camino y va a tener ciertos sesgos sobre eso”, detalla, y aclara: “Esto no quiere decir que haya un sesgo sobre la persona, sino más bien sobre la forma de cómo lo comunica”. En otras palabras, no es un sesgo intencional ni un defecto de diseño deliberado, sino una consecuencia directa del entrenamiento. El sistema aprendió a procesar texto de una determinada manera y, al evaluar, se siente estadísticamente más cómodo con los textos que replican esos mismos patrones. “Es lo mismo que le sucede al reclutador humano cuando siente cierta afinidad con un candidato en la primera llamada, entonces trata de que llegue hasta el final de la selección”, compara. Por qué el ojo humano todavía importa Francisco Scasserra, director en la consultora Michael Page, comenta que, si bien el problema que plantea la investigación es real, se trata de un fenómeno acotado. “Hoy los Applicant Tracking System (ATS) de las compañías están trabajando con palabras claves que tienen que estar en un currículum. Entonces, por ahí hay un perfil muy interesante que se queda fuera en una selección, en un inicio, porque no tiene establecidas ciertas palabras clave”, explica. Desde su perspectiva, el sesgo detallado por la investigación importa más cuanto más bajo es el perfil buscado, por ejemplo, en el caso de los juniors. “Para posiciones de entry level, el AI puede ser más útil porque es una cuestión de volumen de candidatos. Pero para un perfil de management o de búsqueda específica en un rubro, el ojo humano y la experiencia del consultor siguen siendo importantes”, dice. Un punto que Scasserra destaca es que las empresas muchas veces no se preguntan cómo trabajó el sistema para realizar la selección de CV. “Puede pasar que las empresas no tengan idea:descarta 1000, me entrega estos 10, y yo no me estoy preguntando cómo fue que trabajó y cómo lo seleccionó”, advierte. Respecto a qué IA utiliza el candidato para armar su CV , el ejecutivo de Michael Page explica que los especialistas en selección de personal notan enseguida cuando un CV está muy armado desde ese lugar. Y agrega que el verdadero problema aparece después: “Si yo tengo un currículum con un montón de explicaciones de mi experiencia actual que después en la entrevista no sé explicar, se nota rápidamente. Las mentiras tienen patas cortísimas en los procesos de selección, sobre todo en el momento de pedir referencias”. Cómo detectar y mitigar el sesgo En cuanto a si los proveedores de ATS están midiendo este problema, García Villavicencio distingue dos universos. Las soluciones empresariales de larga trayectoria cuentan con comités de seguridad y auditoría específicamente diseñados para detectar este tipo de sesgos. El problema, advierte, es que no todas las empresas acceden a esas plataformas. “La pregunta más relevante no tiene que ver con si usás ChatGPT o cualquier otro modelo, sino con si el modelo de auditoría que existe puede o no detectar ese tipo de sesgo”. Por eso, para evitar los sesgos descubiertos en la investigación, el experto de Softtek recomienda a las empresas que contratan soluciones de ATS , que les exijan a su proveedor un modelo de auditoría activo que demuestre que ese tipo de sesgos no suceden. “Para las compañías que están comenzando a incorporar IA en sus procesos de selección, la recomendación es crear un comité interno que esté pendiente y que detecte no solo el sesgo de la información, sino también posibles filtraciones de datos personales y temas legales”, dice. Hay, además, un cambio de enfoque que García Villavicencio considera clave: no usar la IA para rankear candidatos, sino para comparar. “Mi consejo es, primero, usar la IA para desarrollar la descripción del puesto de trabajo. Y luego, usarla para comparar esa descripción con los candidatos que yo, en mi experiencia, considero que se pueden alinear”, propone. De esa forma, el criterio de selección inicial sigue siendo humano y la IA opera como verificador, no como árbitro. “En empresas donde los equipos de reclutamiento pueden recibir más de 150 postulaciones por semana, esta división de roles entre humano y algoritmo es una necesidad operativa”, agrega. De la misma manera, opina que los postulantes no deberían prescindir de la IA ni delegarles todo. “Hay que utilizar la inteligencia artificial para que ordene el CV e incluir las palabras clave que luego toman los ATS, pero siempre hay que incluir el toque personal e intentar que nuestro CV esté lo más alineado posible al job description. “Esto no implica mentir ni inflar el perfil, sino asegurarse de que las palabras clave relevantes estén presentes, porque los sistemas de ranking operan sobre coincidencias semánticas entre el CV y la descripción del rol”, concluye.