La inteligencia artificial (IA) engloba a un conjunto de tecnologías, siendo una de ellas la dedicada al aprendizaje de máquinas.
En el aprendizaje de máquinas los programas de software son creados automáticamente con datos y algoritmos. Este tipo de automatización con sistemas algorítmicos se están desplegando en todos los sectores de la sociedad, siendo el ámbito de las empresas uno de ellos.
Según cifras del Observatorio Nacional de Tecnología y Sociedad, el 11,8% de las empresas españolas de 10 o más personas en plantilla usaron IA en 2023, en Aragón la implantación de la IA asciende al 12,7%. Por otra parte, más de la mitad de las grandes compañías en nuestro país implementan la IA dentro de su proceso productivo; automatizar flujos de trabajo, ayudar en la toma de decisiones, generar lenguaje escrito o hablado, movimiento de máquinas, identificar objetos o personas, e incluso procesos de selección de personas, son los usos más comunes de la IA en las empresas.
Los procesos de selección de las empresas son uno de los muchos campos de aplicación, dada la capacidad de la IA para analizar grandes volúmenes de datos de forma rápida, por lo que reduce el tiempo y el coste de estos procesos.
Sin embargo, el hecho de identificar patrones y características relevantes de las personas para el puesto, evaluar habilidades y competencias, realizar entrevistas virtuales, entre otras capacidades de la IA, y al mismo tiempo, manejar un algoritmo basado en datos históricos como punto de partida normativo, como por ejemplo “pocas madres en cargos de responsabilidad”, y así crear un sistema que correlaciona el género, la maternidad y la capacidad de desempeño de puestos de responsabilidad, pone de manifiesto la presencia de sesgos de género en el proceso.
Los estereotipos de género en la IA son un reflejo de los sesgos existentes en la sociedad, sesgos que llegan a ser discriminatorios. Estos sesgos se introducen en los sistemas a través de los datos con los que se alimentan. La IA puede reproducir y reforzar estereotipos de género y normas sociales discriminatorias si no se desarrolla y aplica con una perspectiva de género.
Los sesgos de género en la IA predisponen a la herramienta hacia uno de los géneros a la hora de llevar a cabo el proceso de selección de personal.
Son muchos los ejemplos de empresas que han tenido que mejorar sus sistemas de reclutamiento de personas basados en programas informáticos, software o IA generativa que discriminaban a las mujeres. Una de las empresas, por ejemplo, que tuvo que dejar de utilizar un sistema de selección basado en IA fue Amazon, cuando se dieron cuenta que dicho sistema tendía a seleccionar a más hombres que a mujeres.
La IA debe incluir la perspectiva de género, para ello es imprescindible tener en cuenta el contexto social y la dinámica que la normativa nos lleva a la reducción y eliminación de las desigualdades entre mujeres y hombres, sobre todo en el ámbito laboral. Del mismo modo, las empresas deberían someter dichas tecnologías a una evaluación de riesgos, auditar sus resultados o revisar la calidad de sus datos de entrenamiento, con el fin de eliminar los posibles sesgos de género.
El Reglamento Europeo de IA, o la ley europea de inteligencia artificial como se la conoce, no se aplicará en términos generales hasta el 2 de agosto de 2026, pero no habría que esperar a su entrada en vigor para eliminar los sesgos de género de inteligencia artificial. Se recoge, entre otras, la obligación de que quienes implementen sistemas de IA de alto riesgo lleven a cabo una evaluación del impacto en los derechos fundamentales antes de ponerlos en marcha. Además, para asegurar el cumplimiento de estos requisitos y garantías, se establece un sistema de evaluación, registro, información, supervisión y control de la inteligencia artificial generativa.
