El aspecto fundamental del documento es la obligatoriedad de información ‘ex ante’ sobre los algoritmos que toman decisiones automáticas sobre la relación laboral. Se propone una herramienta para que la transmisión de la información se realice en un lenguaje de uso común, mediante un cuestionario de 16 preguntas, donde se pone el acento en las variables utilizadas para tomar las decisiones y en las métricas, más que en la tecnología o ciencia aplicadas.

No faltaron referencias a los más conocidos escritores en materia de efectos no deseados en tecnología, como Cathy O’Neil, Nick Srnicek o Virginia Eubanks, que dejaron un mensaje en vídeo para la audiencia. También se ha mencionado el caso del ‘algoritmo Frank’. Recordamos que el Tribunal de Bolonia sentenció en enero de 2021 que “el algoritmo de Deliveroo es discriminatorio” por considerar que la reputación del repartidor o ‘rider’, y por tanto la asignación de tareas, dependía de su indisponibilidad, sin tener en cuenta el motivo de esta.

Seguiremos observando la aplicación de esta guía en las diferentes empresas, y su extensión al resto de Europa, en un escenario deseable de mayor transparencia y explicabilidad de los modelos. La aplicación ha comenzado por las plataformas de comercio, y seguirá por las grandes empresas. Los retos son muchos, como por ejemplo la explicabilidad en modelos con redes neuronales profundas. En todo caso, ya existen otras iniciativas internacionales con el ánimo de establecer nuevos estándares, como los trabajos hacia una inteligencia artificial digna de confianza, realizados por el grupo ‘Trustworthiness’ del subcomité 42 ‘Artificial Inteligence’ del ISO/IEC, y que ya han generado un estándar, el TR 24028 en 2020: ‘Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence’.