Inteligencia artificial
Trabajo presenta una herramienta para controlar los algoritmos en entornos laborales

Un grupo de expertas elabora una guía contra la opacidad de los algoritmos, que no solo incide directamente en la precariedad de los trabajadores, sino que también afecta a los empresarios que compran productos que no saben cómo funcionan
algoritmosrepercusiones
Presentación de la Guía de información algorítmica en el Palacio de Zurbano por parte del equipo de expertas y Yolanda Díaz. Álvaro Lorite

Este viernes 10 de junio en un acto organizado por el Ministerio de Trabajo y presidido por Yolanda Díaz se ha presentado la 'Guía de información algorítmica' en el Palacio de Zurbano en el céntrico barrio de Almagro, en Madrid. Se trata de un documento pionero en todo el mundo cuya mayor fortaleza reside en facilitar la capacidad de acceder a las funciones de los algoritmos que usan las empresas por parte de trabajadores y sindicatos sin la necesidad de que estos tengan un conocimiento específico en informática. ¿Cómo? Preguntando.

“Hay otros trabajos previos que se centran más en auditoría algorítmica. En este caso queríamos en una herramienta que generase información accesible. Nos hemos centrado en preguntar sobre los parámetros que usan los algoritmos y las variables en las que se basan. Si tras estas preguntas el algoritmo es plenamente legal, se puede implementar, si no, se abre un espacio para que sindicatos y trabajadores puedan seguir preguntando”, señala Gemma Galdón, directora de Eticas Consulting y coordinadora del equipo multidisciplinar de investigadoras independientes que han desarrollado el informe y la herramienta solicitada por Trabajo.

Virginia Eubanks, autora de La automatización de la desigualdad y Nick Srnicek, autor de Capitalismo de plataformas y uno de los padres del aceleracionismo han intervenido a través de sendos vídeos en los que han señalado la importancia de esta guía y han agradecido al equipo su trabajo en la dirección del control de estas herramientas

Desde noviembre de 2021 un equipo de personas expertas nombradas por el Ministerio ha elaborado un informe que detalla los usos que ya existen de algoritmos que están mediando en las relaciones laborales. Entre las que destacan los procesos de selección y búsqueda de perfiles, pero también la evaluación constante y el control en el ámbito laboral. Hace un año, en El Salto ya informamos sobre la publicación de otro informe similar. No estamos hablando solo de compañías basadas en plataformas digitales como Glovo, Uber o Deliveroo, la implementación algorítmica ya es una realidad en muchas empresas de lo que consideramos trabajo tradicional, como el sector de la atención telefónica al público o la venta al por menor.

Laboral
Tecnología laboral Inteligencia artificial al servicio de tus jefes
La industria que desarrolla inteligencia artificial para entornos laborales crece y se desarrolla a grandes pasos. Principalmente se utiliza para contratar, organizar, vigilar empleados y predecir rendimiento.

En segundo lugar, el informe detalla la legislación vigente en base al Reglamento General de Protección de Datos de la Unión Europea (RGPD) y su artículo 88 que se refiere al “procesamiento de datos en contesto de empleo” y realiza un seguimiento de casos de denuncias contra algoritmos en entornos europeos y de Estados Unidos.Un ejemplo es el fallo de la Corte de Bolonia que en 2021 falló contra Deliveroo ya que su algoritmo, conocido como 'Frank', despedía a trabajadores en base a una puntuación condicionada a la “disponibilidad horaria” sin atender a las razones de esta disponibilidad que podían estar protegidas por la ley, como el caso de enfermedad.

Una medida pionera en todo el mundo


“Somos pioneras. La academia está observando de cerca nuestro trabajo. Por eso tenemos la responsabilidad de ser útiles. Suele haber una tendencia a sobrevalorar los impactos del futuro e infravalorar los impactos que la tecnología ya está teniendo en el presente, no podemos caer en esto”, señala Galdón, aludiendo explícitamente a todos esos artículos que encontramos que hablan sobre derechos de los robots o hacerles pagar impuestos.

Virginia Eubanks, autora de La automatización de la desigualdad y Nick Srnicek, autor de Capitalismo de plataformas y uno de los padres del aceleracionismo han intervenido a través de sendos vídeos en los que han señalado la importancia de esta guía y han agradecido al equipo su trabajo en la dirección del control de estas herramientas.

Díaz ha señalado que el espíritu que motiva la relación del Estado con estos algoritmos es la del “anhelo de libertad”, en tanto y cuanto estas herramientas nos sirvan para liberarnos de jornadas y fatigas excesivas cuando hablamos del ámbito laboral y no lo contrario. “El uso de los algoritmos persigue nuestras vidas privadas y laborales. Ya planifican nuestros deseos y no puede haber mayor invasión. La decisión de la salida de la cárcel de un reo o la posibilidad de una ayuda social ya están determinadas por algoritmos. El Estado tiene que estar a la altura. Estas máquinas no son perfectas, tienen fallos y tenemos que corregir las perversidades que provocan”, añadió.

Muñoz Ruíz alude también a los posibles riesgos laborales que puedan estar entrañando estas máquinas regidas por la matemática, que no están siendo tenidos en consideración. “Igual que la empresa tiene que evaluar los riesgos de introducir cierto tipo de máquinas, sucede lo mismo con estos algoritmos que puedan estar afectando directamente a la salud mental de los trabajadores”

Para Ana B. Muñoz Ruíz, profesora de Derecho del Trabajo y de la Seguridad Social de la Carlos III, este es uno de los primeros pasos ante los ratos que plantea el presente. “Nos hemos anticipado a Europa, que está trabajando en una regulación en profundidad de estas plataformas. Un siguiente reto podría ser profundizar en el control de las auditorías, cómo verificar que las empresas cumplen realmente estos requisitos legales. Tenemos por delante también la regulación de sistemas biométricos, como el reconocimiento facial o de emociones. En esta guía nos hemos centrado mucho en el marco de la protección de datos”.

Una guía para aplicar la ley vigente

Para Adrián Todolí Signes, uno de los expertos que ha participado en la elaboración del documento, profesor de Derecho del Trabajo y la Seguridad Social en la Universitat de València, “la legislación no debe prohibir, sino regular”. Como ejemplo señala la cantidad de muertes que se daban en las primeras fábricas del siglo XIX, que no provocaron la prohibición de las mismas sino la entrada de regulaciones en materia de seguridad y prevención de riesgos.

De hecho, Muñoz Ruíz alude también a los posibles riesgos laborales que puedan estar entrañando estas máquinas regidas por la matemática, que no están siendo tenidos en consideración. “Igual que la empresa tiene que evaluar los riesgos de introducir cierto tipo de máquinas, sucede lo mismo con estos algoritmos que puedan estar afectando directamente a la salud mental de los trabajadores”.

En este sentido Anna Ginès y Fabrellas, doctora en Derecho y lincenciada en Economía, parte del equipo, no duda al afirmar que “hay una relación clara entre el uso actual de los algoritmos y la precariedad. En un primer punto, cuando estos entran a sustituir a las relaciones laborales, como en el caso de los riders. En un segundo plano, cuando estos regulan tu puntuación en una empresa, tu salario y te sientes vulnerable ante ello sin saber cómo funciona ese sistema de puntos. Si el algoritmo es opaco, genera precariedad. Lo hemos analizado tanto en plataformas digitales como en empresas tradicionales”.

“Esta guía puede ayudar a evitar complejidades innecesarias y artificiales que usan para subir el precio”, señala Sánchez Monedero y narra un caso de una investigación académica que demostraba que un algoritmo de dos variables sacaba los mismos resultados que uno de 38

“Ya existen regulaciones vigentes, como la 'ley rider' (modificación del artículo 64 del Estatuto de los Trabajadores para pedir transparencia algorítmica) o la RGPD. Hemos hecho un esfuerzo para interpretar estas normas y que se puedan usar a nivel tanto sindical como individual”, puntualiza Todolí, poniendo el foco en el hecho de que esta guía nos ayuda a forzar que se aplique una legislatura que ya existe.

Para ello se han basado en la aplicación del principio de proporcionalidad. Según ha ejemplificado el profesor de Derecho, por un lado la legislación indica que la contabilidad de las empresas es secreta, pero también asegura que los sindicatos puedan acceder a esta información y, según este principio, la segunda parte prima a la primera. Obviamente respetando el secreto ante terceros. Y esta es la misma fórmula que esta guía propone para enfrentar los secretos en los algorítmicos.

Muchos de los algoritmos que se aplican en empresas de la UE están desarrollados y han sido aplicados en Estados Unidos, donde la legislación laboral vigente es muy diferente, como tantas otras. “Igual que hay protocolos sanitarios que no permiten que entre pollo hormonado de EEUU por no cumplir la normativa sanitaria, debería ocurrir lo mismo con estos algoritmos”, resume Javier Sánchez Monedero, doctor en Informática y otro de los expertos que han desarrollado el informe y la guía.

Una guía también para las empresas

Existe una tendencia en el mercado de estos sistemas de computación matemática a complejizar artificialmente, o dar una sensación de ello, para aumentar su precio en el mercado. “Esta guía puede ayudar a evitar complejidades innecesarias y artificiales que usan para subir el precio”, señala Sánchez Monedero y narra un caso de una investigación académica que demostraba que un algoritmo de dos variables sacaba los mismos resultados que uno de 38. Al estar obligados a describir las variables que usa el algoritmo a las empresas que quieran comprarlo, los diseñadores tendrán que optar por variables que puedan ser descriptibles para sus clientes.

Para Sánchez Monedero, cuando muchas empresas vean como funcionan realmente los sistemas que pagan para “encontrar talentos” optarán por invertir ese dinero en otro sitio.





Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra en tu cuenta.

Relacionadas

Tecnología
Alberto Venegas Ramos “Los programas de IA perpetúan los imaginarios dominantes”
El investigador Alberto Venegas Ramos indaga en la representación de la historia que se muestra en videojuegos, memes y otras manifestaciones audiovisuales contemporáneas.
Inteligencia artificial
Inteligencia Artificial ‘Robot Dreams’, dejad que los niños se acerquen a la IA
El criterio humano –humanista en el mejor de los sentidos– ha de prevalecer, también en el mundo de la ficción, antes de que la próxima ‘Robot Dreams’ la genere una IA.
Inteligencia artificial
Inteligencia artificial La Unión Europea abraza la ley del algoritmo más fuerte
La inteligencia artificial ya tiene quién la regule. El Parlamento Europeo ha aprobado una ley que no mitiga las preocupaciones por los efectos que puede tener el modelaje algoritmo sobre los derechos fundamentales.
Genocidio
Ayman Qwaider “A la gente se le pide una cantidad excesiva de dinero para poder salir de este campo de exterminio de Gaza”
Profesor especializado en educación en emergencia y educación inclusiva, Ayman Qwaider vive en Australia. Desde allí, intenta ayudar a su familia a salir de Gaza, mientras denuncia la ocupación israelí y la complicidad de la comunidad internacional.
Ocupación israelí
Opinión Las palestinas también existen
La morbilidad femenina, el conjunto de enfermedades, factores de riesgo y motivos de consulta recurrentes en las mujeres que merecen una atención específica, tiene múltiples ejes de discriminación: no es lo mismo en Suecia que en Palestina.
Palestina
Palestina Viaje al fondo del horror
El fotoperiodista Javier Bauluz cubrió la primera Intifada, la primera gran rebelión del pueblo palestino desde la creación del estado israelí.
Economía
En primera persona Instrucciones por si encuentras muerta a tu suegra
Todo el que está en el mundillo sabe que el sector funerario vive casi un duopolio de facto y lo máximo que se está dispuesto a hacer es poner una multa de vez en cuando. Cuando alguien llama a una, ni se imagina al entramado que está llamando.
Educación pública
Iglesia Semana Santa: negocios, procesiones en colegios, inmatriculaciones y fervor
Más allá de la expresión cultural, la Semana Santa tiene una esfera económica que genera millones de euros y otra social que le sirve a la Iglesia Católica para legitimar sus privilegios dentro del Estado español.
Venga, circula
Venga, circula Un paso, luego otro
Llega un día en el que vemos con claridad algo que solíamos observar en los demás pero que nunca —prometíamos— nos sucedería a nosotros.
Sexualidad
Consultorio de sexualidad ¿Qué tengo si me diagnostican Síndrome de Ovario Poliquístico?
Afecta a entre un 7 y un 13% de las mujeres en edad reproductiva, y el 70% están sin diagnosticar. Pero, ¿qué es el SOP y como podemos apaciguar sus síntomas?

Últimas

Ocupación israelí
Palestina El Salto te ofrece una camiseta para apoyar económicamente a la UNRWA
No cesamos de buscar nuevas vías para visibilizar un mayoritario clamor social que pide un alto el fuego al que apenas se da cabida en el discurso mediático convencional. Todos los beneficios de esta campaña irán destinados a la UNRWA.
Maternidad
Maternidades Reaprender la espera
El tiempo de gestación es largo y va a un ritmo distinto al que acostumbras: el ritmo natural al que desarrolla una playa, un monte, un océano. Y no estamos ya habituados a darle la mano a la pausa.
Derecho a la vivienda
Derecho a la vivienda La PAH València clama por el derecho a una vivienda digna: “¿Duermen tranquilos?”
Centenares de personas protestan frente al palacio de la Generalitat para exigir que se haga efectivo el derecho a la vivienda ante la insoportable alza de los precios.
Momus Operandi
Momus operandi Todo es una narración
Nos dicen que las mentiras son la única realidad. Que aprendamos a mentirnos, que nos engañemos, que no nos importa la salud, ni los derechos laborales, ni las violencias estructurales.
Sidecar
Sidecar Crisis intratable en la República Democrática del Congo
Una y otra vez los actores externos han fracasado a la hora de contener la escalada de violencia en la República Democrática del Congo.
Más noticias
Accidentes laborales
Accidentes laborales Detenidos tres empresarios en Galicia tras la muerte de un migrante que trabajaba sin equipo de protección
El joven de 28 años, que estaba empleado con un contrato irregular, falleció el 26 de febrero tras precipitarse desde una carretilla elevadora sin la protección necesaria para esa labor.
Deportes
Rugby femenino +35 Las Milnoh Granada, un club de rugby femenino +35 creado y gestionado por mujeres
32 mujeres nacidas en mil novecientos y pico, federadas en un equipo que les ha dado un espacio propio, sentido de pertenencia, una tribu donde “yo soy porque somos”

Recomendadas

Argentina
Argentina Myriam Bregman: “El de Milei es un típico gobierno neoliberal con recetas ortodoxas clásicas”
Quien fuera candidata de la izquierda a la presidencia en las elecciones en las que Milei salió victorioso, evalúa las consecuencias del gobierno de La Libertad Avanza y las respuestas que están dando los distintos actores políticos.
Ríos
Radiografía fluvial de España La tierra que no amaba sus ríos
Los ríos ibéricos agonizan. Casi la mitad de las masas de agua está en mal estado. Presas, sobreexplotación, contaminación y crisis climática son sus principales amenazas, con la agroindustria como mayor agresora.
Memoria histórica
Marc Solanes “Mi bisabuela luchó en el frente y fue considerada una mala madre, pero lo hizo por sus hijas”
En ‘Las niñas de Elna’ (Pollen, 2024) el periodista reconstruye la historia de las mujeres de su familia resolviendo enigmas para resignificar la imagen de la mujer en la historia.
Euskal Herria
Korrika Correr a favor del euskera cruzando fronteras
La Korrika es el mayor evento de Euskal Herria. En la última edición de esta carrera de más de 2.500 kilómetros ha participado un tercio de la población vasca.