La IA aprende y se entrena con personas, por lo que la fuente de sesgo más importante es el comportamiento humano que imita

Fernando Díez Ruiz es doctor en Educación, MBA-Executive y Licenciado en Psicología y Pedagogía por la Universidad de Deusto. Ha cursado también el Programa de Alta Dirección de Instituciones de Investigación, Innovación y Transferencia Tecnológica (PADIIT) de IESE Business School y la Fundación Gadea Ciencia, entre otras formaciones.

Como docente, es profesor asociado en la Facultad de Educación y Deporte. También es profesor en los cursos de doctorado, en el Master EMBA y en el Master de RRHH de la Deusto Business School, docente de Leadership and Social Entrepreneurship en la Advantere Business School.

Como investigador ha participado en varios proyectos de investigación nacionales y europeos, centrando sus esfuerzos en la publicación de artículos en el ámbito de la educación y los recursos humanos.

Entre sus aportaciones centradas en la gestión de los recursos humanos y la selección de talento destacan: Los algoritmos guían la selección de personal en las empresas y eso puede ser un problema, The Digital Transformation of the Talent Management Process: A Spanish Business Case, o Digitalización en la gestión del talento, entre otros.

En los últimos años asistimos a un apoyo en las nuevas tecnologías en todos los procesos de ciclo de vida del talento, dentro de lo que podemos denominar digitalización del talento. A esto tenemos que añadir que la Inteligencia Artificial (IA) ha experimentado un crecimiento exponencial en el ámbito de los RRHH durante la pandemia. Pero no todo es positivo. Si bien asistimos a un despliegue amplio en la oferta de tecnología, todavía hoy existe muy poca regulación.

En el caso de las empresas de selección, éstas se están apoyando en diversas y novedosas aplicaciones para agilizar los tiempos, ahorrar costes y objetivar la gestión. Lo más extendido podemos decir que es el uso de algoritmos en el cribado curricular (el análisis de las palabras clave y la estructura de la información). Luego tenemos también el diseño de cuestionarios personalizados para evaluar las habilidades específicas requeridas para un puesto o la utilización de chatbots y gamificación en entrevistas.

También se utiliza la IA para analizar a los candidatos que participen en entrevistas virtuales, para interpretar su personalidad, evaluando el lenguaje corporal y las expresiones faciales, aportando datos adicionales para una toma de decisiones más informada. O, los Sistema de Seguimiento de Candidatos (Applicant tracking systems-ATS), que permiten al mismo tiempo acceder a tiempo real a toda la información de reclutamiento y selección de los candidatos. Son muchas las aplicaciones que se van generando en poco tiempo.

Las ventajas son varias. Desde el punto de vista de las plataformas ATS: el ahorro de tiempo y coste en el proceso, tener toda la información disponible para que puedan valorar distintos responsables o ver el grado de avance en las candidaturas. En el caso del reclutamiento, poder realizar de manera rápida un cribado curricular, eso sí, basado en los elementos claves de aceptación o rechazo que definamos previamente.

La inteligencia Artificial es capaz de realizar de manera rápida el cribado de muchas candidaturas, lo cual ayuda en la preselección de candidatos. En el proceso de selección, apoyarse en la tecnología proporciona información adicional que nos permite afinar más en la selección. Nos da información complementaria que podemos contrastar con otras pruebas que realicemos. En el caso de que la información esté alineada nos permite tener más seguridad en el proceso. Por ejemplo: si el candidato nos parece franco y sincero, las pruebas realizadas lo indican y la Inteligencia Artificial también, entonces esto nos proporcionará más seguridad en el resultado del perfil analizado. Si, por el contrario, se diera una incongruencia entre los datos obtenidos, entonces esto nos permitirá profundizar en el perfil para salir de dudas.

El mayor reto es no perder el control de la información y la decisión. Por un lado, me refiero a no olvidarse que estamos hablando de tecnología y que, si está mal programada, el resultado puede estar sesgado. Al mismo tiempo, la decisión final es de la persona, por lo que la automatización nos ayudará, pero sólo hasta cierto punto. Es la gestión de esa información la que nos permitirá acertar o no con el candidato. La decisión es nuestra. Hay que conocer, probar y familiarizarse con estas tecnologías que nos pueden ayudar en el proceso de selección. El reto en sí es la actualización de conocimiento para no quedarse obsoletos y el conocimiento de las nuevas tecnologías de apoyo a los procesos de selección para la toma de decisiones.

En el reclutamiento se ha generado un debate en torno a la parcialidad y la equidad de la Inteligencia Artificial, puesto que estos sistemas son propensos a los prejuicios de sus creadores. Es importante que cuando se generen no tengan en cuenta nada que no esté relacionado con el trabajo. También es fundamental evaluarlos de manera que garanticemos que los modelos sean predictivos, imparciales y no originen resultados falsos.

Hay más de 200 tipos de sesgos que pueden afectar a las personas. En la selección de talento son comunes la percepción selectiva, el efecto halo, el efecto de contraste, la proyección, los estereotipos, el efecto Rosenthal, el efecto de similaridad, etc.

En concreto, hay que tener cuidado con algunos, como alteraciones en el rostro durante la entrevista, la ropa usada o iluminación, que pueden ocasionar lecturas muy diferentes. El seleccionador accederá a los currículos de las personas que cumplan con los criterios establecidos previamente y éstos pueden no estar seleccionados adecuadamente. Si el algoritmo no es neutral, entonces la selección no lo será. Se pueden perder candidatos válidos si las reglas y el dato que se maneja es inexacto o incompleto.

Las medidas que hay que tomar tienen que ser previas, en la programación de los algoritmos, comprobando que realizan bien el proceso y que no hay errores. La IA aprende y se entrena con personas, por lo que la fuente de sesgo más importante es el comportamiento humano que imita. Por otro lado, hay que saber también que la IA puede eliminar el sesgo inconsciente de las personas, algo que también es interesante. La combinación de ambos factores (humano + IA) debería de añadir precisión al proceso de selección.

Si bien cada programa de recursos humanos tiene sus particularidades, lo cierto es que todos coinciden en la utilización de palabras clave o estructuración de la información.

Principalmente las empresas están utilizando los algoritmos en la fase del cribado curricular. Son muchos los candidatos que postulan, interviniendo los algoritmos en esta primera fase, filtrando sólo los currículums que cumplen los criterios designados en la programación. Estos son los que llegarán a los seleccionadores. En esta fase de cribado habrá currículums que se queden fuera por una mala selección de palabras clave o porque el algoritmo no los identifica adecuadamente. Esto produce una pérdida de candidatos, no porque el currículum no sea adecuado para la oferta, sino más por aspectos técnicos.

Las palabras clave son fundamentales. Se seleccionan para buscar en los CV de los candidatos en experiencia, aptitud o formación. Pero si no coincide, será difícil que aparezca en la selección. Por ejemplo, si buscamos alguien experto en selección y entre las competencias figura que es bueno «entrevistando a personas» puede no reconocerlo. Por lo tanto, hay que tener acierto en la selección de palabras clave para evitar pérdidas de candidatos.

El diseño también es importante. En el ámbito del diseño hay que tener en cuenta que el algoritmo atiende al texto y no al diseño. Es más, el diseño no favorece la lectura para los algoritmos, por lo que puede dar omisiones en candidatos válidos que hayan presentado un currículum con logos e imágenes, incluso con programas de diseño como Photoshop.

Por lo tanto, la intervención humana es fundamental en la fase previa de selección de palabras clave y en la posterior, de entrevista con el candidato.

Es fundamental la formación y la práctica, así como el entrenamiento de los profesionales de recursos humanos. Realizar pruebas piloto con los mismos currículums, y una selección manual y al mismo tiempo con algoritmos, permite conocer si los candidatos seleccionados coinciden o no. Analizar los que no coinciden y consideramos válidos implica investigar la razón por las que el algoritmo les ha dejado fuera del proceso. Esto ayudará a entrenar mejor al algoritmo y al seleccionador. Se trata de conocer el funcionamiento del algoritmo y entrenarlo, de manera que nos ayude en el proceso con el máximo de fiabilidad y el mínimo de error. Las aplicaciones de IA deben ser revisadas continuamente para garantizar su precisión, que sean justas y estén libres de prejuicios.

Una vez se conoce la posición que nos interesa, hay que preparar el currículum de manera que el algoritmo lo pueda leer sin problema. Si el puesto señala competencias valorables o puntos fuertes del candidato, incluir las mismas palabras en nuestro currículum para que las pueda identificar y seleccionar. La mayor coincidencia nos dará más posibilidades.

Estructurar el currículum siguiendo la estructura de la oferta. Es utilizar la lógica del algoritmo y adecuar nuestro formato a su estructura. Esto facilita el entendimiento de nuestra candidatura. La Inteligencia Artificial también compara las habilidades y experiencia de los candidatos con los requisitos del puesto, por lo que es bueno que pongamos especial énfasis en facilitar que identifique la coincidencia de lo que está buscando con lo que sabemos hacer.

En la entrevista realizar ensayos previos analizando la coherencia entre el lenguaje verbal y no verbal, actuar despacio y tranquilos y preparar bien la entrevista. Y analizar en un espejo los gestos que realizamos de manera inconsciente para dar más coherencia a nuestras afirmaciones.

Artículo elaborado y publicado por Educaweb, y escrito por el profesor e investigador de la Universidad de Deusto, Fernando Díez.