El titular se repitió en varios medios de comunicación en octubre de 2018: “Amazon ‘despide’ a su inteligencia artificial de reclutamiento por sexista”.
Se trataba de una herramienta tecnológica que la compañía había construido desde 2014 para revisar y preseleccionar hojas de vida de quienes se postulaban a alguna de sus vacantes de empleo.
La máquina consideraba a aquellas que mejor se adaptaban al perfil solicitado, pero la jugada le salió mal, ya que se descubrió que el algoritmo con el cual había sido programada discriminaba a las mujeres y privilegiaba a los hombres.
Amazon integra una larga lista de empresas que han recurrido a la inteligencia artificial –IA– en sus procesos de selección, bien sea mediante herramientas como Linkedin, chat bots en Facebook Messenger o desarrollos propios . En la actualidad muchas firmas especializadas en la captación de talento humano la utilizan ya que “brinda la ventaja de poder hacer más efectivos los procesos de reclutamiento, da la posibilidad de automatizar la búsqueda, ampliar la base de candidatos, automatizar partes del proceso e incluso predecir el ajuste más acertado de los postulantes con los perfiles buscados”, señala Erica Bernal, senior consultant IT, Digital & eCommerce de la firma Michael Page.
Sin embargo, su uso aún se analiza con rigor por quienes piensan que existen riesgos al delegarle por completo esta tarea a una máquina, más en un proceso en el que, como advierte Andrés Cajiao, cofundador y Chief Growth Officer (CGO) de Torre –una plataforma especializada en la búsqueda de empleo remoto–, intervienen aspectos emocionales, psicológicos y humanos que de no ser enseñados debidamente al sistema pueden generar efectos contrarios a los deseados.
¿Cómo recluta la IA?
María del Pilar Sandoval, CEO de Alentti – empresa que se presenta como un “ecosistema de trabajo” que “conecta oportunidades con talento”–, explica que hay varios tipos de IA, una de ellas es el machine learning o aprendizaje automático. Este consiste en enseñarle a una máquina a predecir el resultado a partir de un conjunto de datos que se le suministran al sistema por un ser humano que lo programa.
Para que el sistema funcione bien, se requieren, en palabras de Sandoval, algunas condiciones: datos de buena calidad (que sean ciertos, precisos y estén completos), variables o parámetros con las que estos son analizados; y algoritmos, que “son las relaciones entre estas variables y parámetros que la máquina usa para hacer predicciones”.
Como un humano es quien define esas variables y diseña los algoritmos, “la máquina piensa como él le enseñe a pensar”, por eso la gran relevancia del criterio directivo y experto en los procesos de selección, expresa la CEO de Alentti.
Las áreas de talento humano recurren al machine learning para predecir quiénes son los mejores candidatos para un cargo específico, y al contrario, un candidato puede visualizar los trabajos ideales de acuerdo con su perfil.
Las compañías de reclutamiento y las cazatalentos han venido definiendo en qué parte del proceso puede ser mejor aprovechado el uso de IA, señala Erica Bernal, de Michael Page, pues las prioridades o los proceso son diferentes.
“Comúnmente es más usada en la parte inicial de la búsqueda para llegar a candidatos no conocidos, en etapas de filtro dentro de bases de datos o redes sociales, identificando detalles o experiencias específicas, habilidades cognitivas, rasgos de personalidad y hasta emocionales”, comenta.
Las ventajas
Lina María Correa, gerente de ManpowerGroup Solutions, señala que la IA es una buena herramienta para optimizar tareas muy repetitivas, como la filtración de hojas de vida que hagan conexión con el perfil buscado. Hoy, el auge de las plataformas de empleo hace que a las empresas les llegue una gran cantidad de postulaciones cuya revisión demanda un esfuerzo significativo para los reclutadores en términos de costos y tiempo, que podrían invertir en otras labores más analíticas o creativas para captar el mejor talento.
“Nos interesa concentrarnos en la evaluación de los candidatos y la IA nos puede ayudar a identificar las habilidades y competencias que necesitamos de ellos”, afirma Correa, quien agrega otra ventaja: la IA brinda más agilidad en las comunicaciones con los candidatos, en especial con aquellas personas que no continúan en el proceso.
Clara Marcela Mosquera, profesora investigadora en Oregon Health and Science University, con Ph. D. en Ingeniería Eléctrica y experta en IA, destaca además las posibilidades que brinda el sistema de valorar la mayor cantidad de candidatos posibles, y en especial la oportunidad de considerar perfiles diversos para las posiciones disponibles.
“Bien usada, la IA les sirve a las empresas para atraer nuevas ideas, nuevas visiones y ser así empresas más innovadoras, pero el efecto también puede ser el contrario”, expresa Mosquera.
¿A qué se refiere? La profesora investigadora advierte que estos sistemas aprenden de los datos que les son suministrados.
En tal sentido, y como ejemplo, una máquina a la que se le dice que en Medellín las mujeres solo ocupan el 32,5 % de posiciones de liderazgo (de acuerdo con el Ranking Par 2019 de Aequales), tendrá en cuenta esa información para sus análisis predictivos cuando una compañía esté buscando una mujer para cargos directivos.
“Esto quiere decir que es posible que los sistemas de IA aprendan de los sesgos que están presentes en nuestra sociedad”, como la discriminación por temas como la raza, el género, las inclinaciones sexuales, las preferencias políticas o filosóficas, complementa Mosquera. No se debe olvidar que estos algoritmos pueden nutrirse de la huella digital que se deja como rastro en las redes sociales u otras plataformas tecnológicas.
Riesgos en el uso de la IA
Para María del Pilar Sandoval, de Alentti, hay unos riesgos inherentes al uso de la IA en el reclutamiento de personal. El primero es la calidad de los datos: “hacer predicciones con muy pocos datos o con unos que no son ciertos lleva inevitablemente a sacar conclusiones equivocadas, a visiones parciales de la realidad que no le aportan ni al candidato, ni a la empresa”.
En segundo término, la directiva hace énfasis en la correcta selección de variables y parámetros de análisis (que es hecha por seres humanos) para tener procesos de selección justos.
“Si el género o la raza de una persona son parámetros del algoritmo, podemos estar volviendo regla la discriminación laboral. Esto por supuesto se debe evitar”, plantea.
Y en tercer lugar, dice que los algoritmos deben ser reglas para hacerse las preguntas correctas: “¿qué tipo de perfil está asociado con el mayor desempeño en un determinado cargo? ¿qué tipo de entorno laboral genera un mayor nivel de motivación, felicidad y desarrollo en una persona de determinado perfil?”.
A este panorama, hay que sumarle la posibilidad de que estos sistemas sean víctimas de ciberataques con robo de información o datos personales que pueda ser utilizada para fines maliciosos.
La profesora investigadora Clara Marcela Mosquera agrega que la tecnología puede hacer “impersonal” el proceso de reclutamiento, y que a través de esta es difícil evaluar aspectos psicológicos del candidato o identificar si este se conecta con la cultura organizacional de la empresa o las personalidades del equipo al cual se va a unir.
Lina María Correa, de ManpowerGroup Solutions, recuerda que, en definitiva, “estamos hablando de un robot, y que si la fuente de la cual está procesando la información es buena, su análisis predictivo también lo será.
¿Cómo funciona mejor?
Para Clara Marcela Mosquera, es importante que antes de usar el sistema en procesos de reclutamiento, durante las fases de desarrollo y testeo, se detecten a tiempo los posibles sesgos que este pueda presentar para estar seguros de que no los habrá cuando la herramienta esté operando.
Otra idea que recomienda para que la IA funcione mejor es que esta embeba o contenga cuestionarios psicológicos para que el sistema tenga la oportunidad de evaluar estas condiciones del candidato y que tenga la capacidad de identificar si este conecta con la cultura de la empresa o del equipo de trabajo.
Una más para el final: “que estos sistemas sean evaluados por comités de ética que aseguren que este cumple los principios éticos establecidos en los diferentes marcos de trabajo de la organización, para un uso responsable de la IA, en especial por el impacto directo que tiene en la vida de muchas personas”
575
millones de miembros registrados tiene Linkedin, 6 millones están en Colombia.
