Puntuar el ánimo de un empleado con IA no es alto riesgo: está prohibido
Por Jorge Octavio Tercero, cofundador de iActiva Labs ·
Una herramienta que graba las llamadas de un equipo comercial y etiqueta cada una según cómo sonaba la persona no entra en la categoría de alto riesgo del Reglamento de IA. Entra en la lista de lo que está prohibido, y lo está desde el 2 de febrero de 2025.
El artículo 5 no es una lista de vigilancia
El artículo 5 recoge las prácticas prohibidas, y su apartado 1, letra f), prohíbe «el uso de sistemas de IA para inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos, excepto cuando el sistema de IA esté destinado a ser instalado o introducido en el mercado por motivos médicos o de seguridad».
Conviene entender qué significa que algo esté prohibido en este Reglamento. No es una categoría más exigente, con más papeleo que el alto riesgo. Es que no existe una versión conforme de esa funcionalidad: o se desactiva o se incumple. El considerando 44 explica el motivo en el entorno laboral, que es el desequilibrio de poder entre empresa y trabajador.
Una fecha que el Ómnibus Digital no movió
El artículo 113, párrafo tercero, letra a), aplica los capítulos I y II desde el 2 de febrero de 2025, y el artículo 5 cierra el capítulo II. El Ómnibus Digital reescribió esa letra, pero solo para retrasar al 2 de diciembre de 2026 las dos prohibiciones que él mismo añadió. Las letras de 2024, la f) entre ellas, siguen aplicándose desde febrero de 2025 en ambas redacciones.
Dónde está la línea: hechos frente a emociones
Ninguna de estas herramientas hace una sola cosa, y ahí es donde se decide si el problema es vuestro. Lo prohibido es inferir emociones. Contar hechos no lo es: cuánto habló cada interlocutor, cuántas interrupciones hubo, cuántos segundos de silencio. Eso son datos de una conversación.
El considerando 18 lo delimita con precisión. Deja fuera «los estados físicos, como el dolor o el cansancio», y también «la mera detección de expresiones, gestos o movimientos que resulten obvios, salvo que se utilicen para distinguir o deducir emociones», incluidas «características de la voz de una persona, como una voz alzada o un susurro».
Que alguien levante la voz es un hecho. Convertir ese hecho en la afirmación de que estaba a la defensiva es lo que cruza la línea. Por el mismo motivo, avisar de que un conductor se está durmiendo no está prohibido: el cansancio es un estado físico, no un estado de ánimo.
Que no esté prohibido no significa que no tenga reglas
Una herramienta que solo cuenta hechos no cae en la prohibición, pero eso no la deja libre. Puntuar con IA cómo trabaja una persona es alto riesgo por el anexo III, punto 4, letra b), que cubre los sistemas destinados «a supervisar y evaluar el rendimiento y el comportamiento de las personas» en el marco de la relación laboral. Y si lo que se puntúa es el ánimo del cliente en lugar del comercial, el sistema entra por el punto 1, letra c), como sistema de reconocimiento de emociones.
Esas obligaciones son exigibles desde el 2 de diciembre de 2027, según el artículo 113 en la redacción vigente. La prohibición del artículo 5, en cambio, ya lleva año y medio aplicándose.
La distancia entre los dos cajones
El régimen sancionador mide esa diferencia. Incumplir una prohibición del artículo 5 se sanciona, según el artículo 99, apartado 3, con hasta 35.000.000 de euros o el 7 % del volumen de negocio mundial. El resto de incumplimientos se queda en 15.000.000 o el 3 %. No es una gradación entre trámites: es la distancia entre hacer mal una cosa permitida y hacer una que no se puede hacer.
Qué mirar
La comprobación se hace en el propio panel de la herramienta, leyendo los nombres de las columnas. La que describa cómo se sentía una persona es la que no puede estar ahí. Lo laborioso no es apagar esa columna, sino saber antes qué herramientas de grabación hay contratadas, quién las contrató y qué campos calcula cada una.
Fuentes: artículos 5, apartado 1, letra f), 99, apartados 3 y 4, y 113, párrafo tercero, letra a), anexo III, puntos 1, letra c), y 4, letra b), y considerandos 18 y 44 del Reglamento (UE) 2024/1689, en la redacción vigente tras el Reglamento (UE) 2026/1744 (Ómnibus Digital).
← Las imágenes generadas con IA que publicáis hay que declararlas