IA contra el sesgo en compensación: cómo evitar que el algoritmo discrimine

La idea de que una IA con sesgo en compensación termine fijando salarios injustos es uno de los miedos más razonables sobre la automatización en RRHH. Una IA mal diseñada puede reproducir e incluso amplificar las desigualdades del dato histórico. La buena noticia: el problema tiene tratamiento técnico y legal, y los principios para evitarlo ya están en la normativa que tienes que cumplir.

1. Por qué el miedo al sesgo en compensación con IA es legítimo

Que el sesgo en compensación aparezca cuando una empresa fija salarios con un algoritmo suena a frialdad, pero la realidad tiene más matices. Pero la decisión humana sin método tampoco está libre de sesgo: estudios sobre revisiones salariales muestran que la diferencia entre revisar un caso por la mañana o por la tarde llega a mover el salario en porcentajes significativos.

El problema no es elegir entre humano y máquina, sino entre un proceso sin criterio y un proceso con criterio objetivo y trazable. La pregunta correcta no es «¿la IA tiene sesgo?», sino «¿el proceso de compensación tiene sesgo?». Y ahí la IA bien diseñada mejora la respuesta humana porque obliga a explicitar los criterios.

2. Cómo entra el sesgo en un sistema de IA de compensación

Hay tres vías principales por las que un algoritmo aprende a discriminar sin que nadie se lo pida. Estas son las tres puertas por las que se cuela el sesgo en compensación cuando la IA no está bien gobernada, y las tres se pueden mitigar con criterio metodológico.

Datos históricos

Si entrenas una IA con los salarios actuales de tu empresa, y en esos salarios hay una brecha de género del 12% sin justificación objetiva, la IA aprenderá que «en esta empresa, los puestos ocupados por mujeres pagan menos» y lo replicará en sus propuestas para nuevas contrataciones o revisiones. No es maldad del algoritmo: es estadística pura.

La solución no es ocultarle a la IA el género de las personas, sino limpiar el dato de entrada: identificar qué parte de la diferencia salarial actual responde a criterios objetivos (puesto, antigüedad, responsabilidad documentada) y qué parte es residuo injustificado. La IA debe aprender solo del primero.

Etiquetas humanas en la valoración de puestos

La valoración de puestos de trabajo de puntos por factor clasifica cada puesto según distintos factores. En nuestro caso, fruto de la experiencia de 30 años y la aplicación de la metodología en empresas de todos los sectores y tamaños, los factores son bagaje profesional, complejidad, responsabilidad, relaciones profesionales, ejercicio del mando y condiciones de trabajo. Y la puntuación en cada factor la pone una persona (o un comité formado por varias personas), no la máquina.

Si quien valora puntúa sistemáticamente más bajo la «responsabilidad emocional» de un puesto que la «responsabilidad económica», está introduciendo un sesgo que, probablemente, lleva a pagar menos a trabajos típicamente feminizados. La IA hereda ese sesgo y lo aplica al resto. Esto solo es un ejemplo para entender a qué nos estamos refiriendo.

La mitigación es metodológica. Y ese es el control que da el modelo de CEINSA, y que la normativa en igualdad y transparencia retributiva va a exigir.

Proxies que esconden el género o el origen

Este es el sesgo más sutil. Aunque excluyas el género del modelo, hay variables que actúan como proxy: información que correlaciona estadísticamente con el género o el origen y termina haciendo el mismo daño.

Algunos proxies clásicos:

• Código postal del domicilio.
• Sector previo de procedencia.
• Tiempo fuera del mercado laboral (proxy de maternidad).
• Centro de estudios, si correlaciona con clase social.
• Idioma materno del candidato.

Una IA que use estas variables para «predecir» el salario adecuado puede estar discriminando sin que aparezca el campo «género» en ningún sitio. La solución es restringir el modelo a las variables del artículo 28 del Estatuto de los Trabajadores: cualificación, esfuerzo, responsabilidad, condiciones, antigüedad documentada y desempeño verificable.

¿Sabes cómo se están tomando hoy las decisiones salariales en tu empresa y qué riesgos de sesgo asumes? Antes de incorporar IA, mide tu punto de partida con el Test de Madurez Retributiva. En pocos minutos tienes un primer diagnóstico.

3. Qué pedir a un proveedor para evitar el sesgo en compensación

Cuando una empresa incorpora inteligencia artificial a procesos de compensación, no debería fijarse solo en si la herramienta «acierta» o si ahorra tiempo. Debería preguntarse algo más importante: cómo está gobernada esa IA.

En compensación, la IA puede intervenir en procesos sensibles: descripción de puestos, valoración, comparación salarial, análisis de equidad, detección de desviaciones o apoyo a decisiones retributivas. Por eso no basta con una demo atractiva. Hay que exigir método, control y trazabilidad para reducir el riesgo de sesgo en compensación.

Un buen proveedor de IA en compensación debería poder demostrar, como mínimo, estos siete puntos.

1. Que la IA trabaja sobre una metodología clara

La IA no debería valorar puestos «desde cero» ni sustituir el criterio técnico. Debe operar sobre una metodología definida de puntos por factor, que sea rigurosa y de aplicación a todos los sectores y tamaños de empresa, e incluya al menos los aspectos que indica la normativa de igualdad y transparencia retributiva.

En compensación, el riesgo no es solo tecnológico. Es metodológico. Si la base técnica es débil, la IA solo hará más rápido un mal análisis.

2. Que existe supervisión humana

La IA puede ayudar a proponer, ordenar, comparar o detectar incoherencias. Pero las decisiones retributivas deben seguir teniendo revisión humana.

Esto es especialmente importante en procesos como la valoración de puestos o el análisis de equidad retributiva interna, donde pueden aparecer sesgos, matices organizativos o información que el sistema no interpreta correctamente.

La pregunta clave al proveedor es: ¿qué parte hace la IA y qué parte valida una persona experta? Es el modelo IA propone, humano valida que sustenta cualquier uso responsable.

3. Que se gestionan los riesgos de sesgo

En compensación, un sesgo no siempre aparece de forma evidente. Puede estar en cómo se describen los puestos, en qué factores se valoran más, en qué referencias de mercado se utilizan o en cómo se han tomado decisiones salariales históricas.

Por eso hay que pedir al proveedor que explique cómo identifica, controla y revisa posibles sesgos en el sistema.

Una IA aplicada a compensación debe ayudar a ordenar, no a reproducir desigualdades previas con apariencia de objetividad. Es la diferencia entre gestionar el sesgo en compensación y automatizarlo.

4. Que las decisiones son trazables

La empresa debe poder saber por qué el sistema ha hecho una propuesta o ha generado una recomendación.

En compensación, la trazabilidad es crítica. Si una valoración, una banda o una alerta de inequidad no se puede explicar, no sirve para tomar decisiones defendibles.

Un proveedor serio debería permitir revisar los datos utilizados, los criterios aplicados y el razonamiento que sostiene cada resultado. Eso es lo que permite justificar las diferencias salariales legalmente ante cualquier revisión.

5. Que hay control sobre los datos

La información salarial es especialmente sensible. Por eso hay que preguntar cómo se protegen los datos, quién puede acceder a ellos, dónde se alojan, cómo se usan y con qué garantías.

También conviene confirmar si los datos de la empresa se utilizan o no para entrenar modelos externos, y bajo qué condiciones.

En IA aplicada a compensación, la seguridad de la información no es un complemento: es una condición básica.

6. Que el sistema se mantiene y mejora

La IA no debería implantarse y quedar congelada. Los puestos cambian, el mercado salarial evoluciona, la normativa avanza y los criterios internos pueden ajustarse.

Por eso hay que pedir al proveedor que explique cómo revisa, actualiza y mejora el sistema: qué controles realiza, cómo gestiona incidencias, cómo incorpora aprendizajes y cómo asegura que la herramienta sigue siendo fiable con el tiempo.

7. Que existe un marco de gobierno de la IA

Aquí es donde certificaciones como ISO/IEC 42001 aportan una diferencia relevante.

Esta norma no se limita a mirar la tecnología. Exige un sistema de gestión: responsabilidades definidas, control de riesgos, seguimiento, revisión y mejora continua de los sistemas de inteligencia artificial dentro del alcance certificado.

En otras palabras: no se trata solo de usar IA, sino de demostrar que esa IA se desarrolla, implanta y gobierna con criterios responsables.

En un ámbito como la compensación, donde las decisiones tienen impacto económico, legal y reputacional, este punto es especialmente importante, sobre todo con la entrada progresiva de la Directiva UE 2023/970 sobre transparencia retributiva.

En resumen

A un proveedor que pretenda ayudarte a controlar el sesgo en compensación no hay que pedirle solo rapidez. Hay que pedirle método, seguridad, trazabilidad, control del sesgo, supervisión humana y gobierno.

Porque una IA sin control puede dar una respuesta rápida. Pero una IA bien gobernada ayuda a tomar mejores decisiones.

Y en salarios, la diferencia entre una cosa y la otra es enorme.

4. Preguntas frecuentes

¿Cómo entra el sesgo en un sistema de IA de compensación?

Por tres vías: datos históricos que ya reflejan diferencias salariales injustificadas, etiquetas humanas cargadas de prejuicio en la valoración de puestos y proxies del género o el origen como código postal, sector previo o nombre del centro de estudios. Si no se controla, la IA aprende y reproduce esos patrones a la hora de proponer bandas y revisiones.

¿La IA puede ser más justa que un humano fijando salarios?

Puede serlo, pero no por el simple hecho de ser IA. Una IA puede ayudar a tomar decisiones más equitativas si trabaja con criterios objetivos, datos depurados, metodología de valoración de puestos y supervisión humana. En ese caso, puede reducir la arbitrariedad.

Pero una IA también puede ser injusta si aprende de datos históricos sesgados o si utiliza variables que no deberían influir en una decisión salarial. En ese caso, no elimina el sesgo humano: lo automatiza.

Por eso la pregunta no es si decide mejor una persona o una máquina. La pregunta es si el proceso tiene método, trazabilidad y control. Una IA bien gobernada puede mejorar la «justicia salarial». Una IA sin gobierno puede hacer más rápido el mismo error.

¿Qué aporta una certificación como ISO/IEC 42001?

ISO/IEC 42001 aporta un marco de gestión: responsabilidades definidas, análisis de riesgos, controles, seguimiento y mejora continua de los sistemas de inteligencia artificial dentro del alcance certificado.

En un ámbito como la compensación, donde las decisiones tienen impacto económico, legal y reputacional, esa gobernanza es especialmente relevante.