Los algoritmos guían la selección de personal en las empresas y eso puede ser un problema

(Por Elene Igoa Iraola, Universidad de Deusto y Fernando Díez Ruiz, Universidad de Deusto) “No soy un producto de mis circunstancias. Soy un producto de mis decisiones”. Los siete hábitos de las personas altamente efectivas (Stephen Covey).

Image description

Desde que abrimos los ojos para despertarnos hasta que se acaba el día estamos constantemente tomando decisiones. Muchas son inconscientes. No las pensamos, simplemente actuamos.

Nuestro cerebro no está dispuesto a gastar energía en cosas tan simples como una primera impresión de una persona o contexto. Por lo general, no pensamos o reflexionamos sobre estas decisiones que tomamos de manera rápida.

La realidad es que estas decisiones impulsivas pueden tener consecuencias negativas, como la discriminación en una entrevista de trabajo.

En psicología decimos que juzgar rápidamente a una persona por su apariencia es como juzgar un libro por su tapa. Es fácil hacerlo, pero puede ser fácil fallar. En los procesos de selección de personal puede estar sucediendo lo mismo, aunque sea un algoritmo el que tome las decisiones.

Tenemos que saber que no tomamos todas las decisiones de manera independiente. La gran mayoría están apoyadas en la tecnología. Esto es así por la economía de esfuerzo. Muchas veces para decisiones complejas hay que manejar un gran volumen de datos, y esto nos genera un gasto de energía importante. La confianza hacia estas tecnologías suele ser ciega: todo lo tecnológico nos da cierta sensación de veracidad.

Pero, ¿cómo es posible que un algoritmo esté sesgado?

El sesgo es una inclinación hacia una persona, cosa o grupo que produce un desequilibrio que perjudica a la otra parte. Estamos sesgados cuando no somos neutros ante una persona, grupo, situación, etc. Eso produce un error.

Estos errores, que se pueden dar en las interpretaciones de diferentes contextos, individuos o información, se pueden ver reflejados tanto en la toma de decisiones humanas como en la inteligencia artificial (IA). Al ser los humanos los que diseñan esta tecnología, es posible que estén reproduciendo datos sesgados o manipulados.

Introducción de la IA en los puestos de trabajo

El razonamiento más común para la introducción de nuevas tecnologías en nuestros trabajos suele ser la objetividad y la eficiencia. Se podría decir que, a nivel social, todo lo tecnológico nos da más seguridad. Ante una tarea compleja, tendemos a fiarnos más de los algoritmos que de nosotros mismos.

Así, el aumento de la utilización de la IA está siendo exponencial. Por ejemplo, en el área de los recursos humanos estas nuevas tecnologías se están aplicando en el reclutamiento y selección del personal, la evaluación del desempeño y desarrollo del personal. Estos recursos están ayudando a la automatización de diferentes tareas que se puede interpretar como eficiencia organizacional.

En el mercado actual tenemos herramientas digitales que nos ayudan a escoger al mejor candidato utilizando una búsqueda semántica automatizada basada en la información escrita por el candidato en su currículum. Pero también teniendo en cuenta el número de palabras técnicas que utiliza en la entrevista o en la conversación que puede llegar a mantener con un chatbot.

Ejemplos de la actuación de los sesgos en la IA

Existen plataformas de búsquedas de empleo que hacen uso de la IA para poder ofrecer un resultado objetivo a la hora de escoger al candidato idóneo para un puesto de trabajo específico.

La realidad es que la selección final que hacen estos algoritmos hacia los candidatos seleccionados está sesgada. Se ha visto que los algoritmos pueden generar discriminación étnica y de género para ofrecer, en el 85 % de los casos, puestos de trabajo de cajera de supermercado a mujeres, o puestos de taxista al 75 % de perfiles afroamericanos.

A su vez, los algoritmos pueden tener en cuenta las tendencias de búsqueda del reclutador y sus interacciones con perfiles específicos. Y, así, recomendar perfiles de empleados con características similares. En estos casos no es una sorpresa encontrarnos con perfiles muy similares a las características personales del reclutador. Por ejemplo, haber estudiado en la misma universidad, ser de la misma etnia, tener un estilo de vida similar, mismo aspecto físico y lugar de residencia.

La explicación se debe a que la IA aprende a tomar decisiones basándose en la reproducción de datos que se pueden apoyar en el aprendizaje de las decisiones humanas. Estas últimas puede que estén sesgadas y, en consecuencia, reflejar disparidades históricas o sociales. A su vez, eliminar algunas variables sensibles como el género, la etnia o la orientación sexual puede llevar a la reproducción de resultados sesgados.

No hay que tener fe ciega en la IA

Se están dando muchos avances en la inteligencia artificial. A raíz de la pandemia, los procesos de e-recruitment (reclutamiento por medios digitales) han experimentado cierto crecimiento apoyado en estas tecnologías.

Se han creado algoritmos que interpretan semánticamente el contenido escrito (carta de recomendación o currículum) o verbal (entrevista por plataformas digitales). Como resultado se ofrece un diagnóstico del candidato (perfil de personalidad, inteligencia) que es determinante para la toma de decisiones en el proceso de selección.

Sin embargo, hay que tener en cuenta que, como sucede en casi toda la tecnología, la parte vulnerable es la persona. Es decir, el algoritmo no falla, pero puede fallar la persona que lo programa. Esto se puede producir por un error humano, por falta de conocimiento psicológico, por influencias externas y por intereses de empresas.

La tecnología nos está ayudando en el campo de los recursos humanos, al igual que en otros como salud, marketing, automoción, sector jurídico y asegurador y banca. Su implementación ha crecido en los últimos años e irá a más.

¿Significa esto que no debemos dejarnos guiar por la inteligencia artificial? Podemos apoyarnos en ella, pero siempre con reservas. Debemos entender que un algoritmo no es un genio mágico y sabelotodo, sino que detrás tiene, como sucedía en El mago de Oz, a una persona imperfecta.

Elene Igoa Iraola, Investigadora Predoctoral, Universidad de Deusto y Fernando Díez Ruiz, Profesor doctor Facultad de Educación y Deporte, Universidad de Deusto

Este artículo fue publicado originalmente en The Conversation. Lea el original.

The Conversation

Tu opinión enriquece este artículo:

Hace 10 años un piso en Madrid costaba 187.000 euros, y ahora cuesta 314.000 euros (un 68% más)

El precio acumulativo de la vivienda en venta ha subido en Madrid un 17% en los últimos 15 años, un 68% en los últimos 10 años, un 34% en los últimos 5 años y un 15% en el último año, según el análisis “Variación acumulativa de la vivienda en España en 2024”, basado en los precios de la vivienda en venta del mes de febrero de los últimos 15 años del Índice Inmobiliario Fotocasa.

España se posiciona como el primer destino en el mundo para talento europeo (los trabajadores provienen de Italia, Francia, Alemania y Polonia)

Deel, empresa global de RRHH y nóminas para equipos globales lanza hoy su nuevo informe Tech Migration que analiza miles de contratos creados a partir de 2023 en más de 120 países del mundo. Según los datos de la empresa, el 27% de los trabajadores contratados a través de Deel en 2023 trabajan fuera de sus países de origen, lo que representa una tendencia de crecimiento frente al año anterior (25%).

Destino Formentera, una isla para vivirla palmo a palmo con los más pequeños de la casa (actividades, planes y experiencias pensadas para toda la familia)

La pequeña de las Pitiusas no es solo un destino para parejas o bohemios aventureros en busca de desconexión. También las familias con hijos hallarán aquí su paraíso vacacional. Aguas turquesas, tranquilas y templadas, donde bañarse sin peligro; paseos en bicicleta, a pie o a caballo, iniciación a deportes acuáticos, actividades para descubrir y disfrutar de la naturaleza… Formentera es mucho más que un destino de ‘sol y playa’ para amantes del dolce far niente. Las familias con hijos descubrirán un rincón que es una verdadera ‘amiga de la infancia’.

1 de cada 3 españoles deja de comprar en comercios que no disponen de tienda online

Square, la compañía tecnológica que ofrece un ecosistema integral de soluciones de software y hardware para ayudar en la gestión y crecimiento de negocios de todos los tamaños, presenta las conclusiones de la segunda edición de su estudio Radiografía del consumo en España. Con él, la compañía ofrece una visión sobre los cambios, preferencias e innovaciones que más están demandando los consumidores españoles en la actualidad. Además, como en su primera edición, el estudio incluye una radiografía detallada de los hábitos y tendencias de consumo de los españoles en negocios de restauración, comercios minoristas, así como en salones de belleza y cuidado personal.

Las empresas del sector de los productos infantiles en Cataluña (un total de 488) generan un volumen de negocio de más de 4.400 millones de euros

El sector de los productos infantiles en Cataluña concentra 488 empresas que generan un volumen de negocio de 4.424 millones de euros anuales, que equivaldría al 1,7% del PIB. Son los datos principales de la actualización del estudio sectorial, que ha elaborado el Gobierno por medio de ACCIÓ -la agencia para la competitividad de la empresa del Departamento de Empresa y Trabajo- con la colaboración del Kid's Cluster, y que se ha presentado este jueves en el marco de la asamblea general del Kid's Cluster. El acto ha contado con la participación del director ejecutivo de ACCIÓ, Joan Romero i Circuns, y la mánager de inteligencia de mercado de la agencia, Imma Rodríguez López.

El diseño danés conquista Europa: Kvik abrirá 8 tiendas en España en los próximos 2 años (y prevé alcanzar las 25 tiendas antes de finales de 2026 en el país)

Kvik, multinacional danesa especializada en el diseño y fabricación de cocinas, baños y armarios de diseño danés de gran calidad, continúa expandiendo con éxito su modelo de negocio en Europa y ha puesto el foco en ciudades como Londres, Madrid y Ámsterdam. En concreto, de los 50 showrooms que la compañía esperar abrir en los próximos dos años, 8 de ellos serán en España.

Startup Valencia incorpora a Innsomnia como hub tecnológico de su comunidad (que se une al resto de aliados)

Innsomnia Accelerator se convierte en partner estratégico de Startup Valencia. De esta manera, se profundiza y se refuerza esta colaboración entre ambas entidades, que vienen aunando sinergias desde el año 2017, el año de creación de ambas. Esta colaboración estratégica nace con el objetivo de generar iniciativas, sumar esfuerzos, colaborar en distintos programas y proyectos, así como promover la concentración de startups a través de hubs para generar conexiones en el ecosistema y potenciar la integración como comunidad.

Circula, la fintech de software as a service, hacia la transformación y crecimiento en España

La empresa tecnológica de software como servicio financiero, Circula, ha anunciado su apuesta por el mercado español con el nombramiento de Eva Espinoza como nueva Country Manager en España. Esta incorporación viene de la mano de un fuerte proceso de transformación y crecimiento de la fintech a nivel internacional, que incluye también la presentación del nuevo equipo directivo de la empresa. 

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.