Como toda innovación, la inteligencia artificial (IA en adelante) va asociada a riesgos y oportunidades y de ello se ocupa, además de Isaac Asimov con sus tres leyes de la robótica[1], el Reglamento 2024/1689 de Inteligencia Artificial adoptado por el Parlamento Europeo y el Consejo de la Unión Europea, tal y como expone su primer artículo:
[1] Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño. 2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley. 3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
1.- El objetivo del presente Reglamento es mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA (en lo sucesivo, “sistemas de IA”) en la Unión así como prestar apoyo a la innovación.
Entró en vigor el pasado 1 de agosto, tras su publicación en el Diario Oficial de la Unión Europea, y será aplicable a partir del 2 de agosto de 2026. No obstante, algunos artículos serán aplicables a partir del 2 de agosto de 2025, mientras que el artículo 6.1 lo será a partir del 2 de agosto de 2027, precisamente el de más impacto a efectos de seguridad y salud en el trabajo y que motiva este artículo, que se orienta hacia el usuario final, no abordando lo demás.
Actores implicados
Si bien los actores principales del reglamento son los proveedores, o fabricantes en su caso, y los organismos de normalización, también establece obligaciones para los empresarios que adquieran un sistema de IA, bajo el nombre de ‘responsable del despliegue’[1], así como para otros actores:
- Distribuidores, importadores y representantes autorizados.
- Organismos de evaluación de la conformidad y organismos nacionales de acreditación.
- Autoridades de vigilancia del mercado.
Además, a nivel de gobernanza, crea el Consejo Europeo de Inteligencia Artificial, la Oficina Europea de Inteligencia Artificial, el Foro consultivo y el grupo de expertos científicos independientes, con sus funciones y responsabilidades.
Seguridad y salud en el trabajo
La conexión con la seguridad y salud en el trabajo se da a través de lo definido como sistemas de IA de alto riesgo, entre los que se incluyen (artículo 6.1) los sistemas de IA destinados a ser utilizados como componentes de seguridad de un producto, o el producto en sí mismo, del que sea necesario una evaluación de la conformidad de terceros según establezca su normativa correspondiente, lo que incluye máquinas, ascensores, aparatos y sistemas de protección para uso en atmósferas potencialmente explosivas, equipos a presión, equipos de protección individual o vehículos agrícolas, entre otros (anexo I).
Para concretar mejor ambos supuestos, la Comisión se compromete a proporcionar, antes del 2 de febrero de 2026, directrices que faciliten su aplicación práctica, junto con una lista exhaustiva de ejemplos prácticos (artículo 6.5). En cualquier caso, los requisitos que deben cumplir estos sistemas de IA de alto riesgo, para garantizar la seguridad y la salud de los trabajadores, se establecen en la sección 2 del capítulo III y son responsabilidad del proveedor o, en su caso, del fabricante (artículo 25.3).
Para los sistemas de IA asociados a productos que no se consideren de alto riesgo, y por tanto no apliquen los requisitos de la sección 2, el considerando 166 establece que deben ser igualmente seguros, con lo que les es de aplicación, al menos, el Reglamento relativo a la seguridad general de los productos[2] en lo que a IA se refiere.
Por su parte, los empresarios que adquieran uno de estos sistemas deben (artículo 26):
- Garantizar que su utilización se realiza con arreglo a las instrucciones de uso.
- Vigilar su funcionamiento.
- Encargar la supervisión humana a personas con la competencia, la formación y la autoridad necesarias.
- Observar los datos de entrada bajo su control.
- Conservar los registros generados automáticamente que estén bajo su control.
- Informar a los representantes de los trabajadores y a los trabajadores afectados antes de la puesta a disposición de un sistema de IA de alto riesgo.
- Informar al proveedor y a la autoridad de vigilancia del mercado, y suspender su uso, cuando dé lugar a un riesgo para la seguridad y salud en el trabajo al utilizarse según las instrucciones del fabricante.
- Informar igualmente de los incidentes graves y, en determinados casos, realizar la evaluación de riesgos del incidente y establecer medidas correctoras (mutatis mutandis).
Su incumplimiento puede dar lugar a multas administrativas de hasta 15.000.000 EUR, o de hasta el 3 % del volumen de negocio mundial del ejercicio anterior, si esta cuantía fuese superior (artículo 99).
Marco general: Ley de Prevención de Riesgos Laborales (LPRL)
La exposición de motivos de la LPRL[3] define su objeto como la determinación del cuerpo básico de garantías y responsabilidades preciso para establecer un adecuado nivel de protección de la salud de los trabajadores frente a los riesgos derivados de las condiciones de trabajo, por lo que el empresario debe contemplar su contenido cuando incorpore sistemas de IA que puedan afectar a la seguridad y salud de los trabajadores.
De esta manera, se deberá realizar una evaluación de riesgos con ocasión de la elección de los equipos de trabajo (artículo 16.2), considerando el artículo 17.1 referente a estos. El informe técnico UNE-CEN ISO/TR 22100-5:2022 Seguridad de las máquinas. Relación con la norma ISO 12100. Parte 5: Implicaciones del aprendizaje automático de inteligencia artificial, concluye que la metodología de evaluación y reducción de riesgos descrita en la norma EN ISO 12100 es válida siempre y cuando se prevea que la IA realice tareas dentro del uso y los límites previstos especificados por el fabricante, pero no cuando actúe más allá de esos límites.
Si bien esta norma EN ISO 12100 se dirige a los fabricantes, es una buena herramienta para realizar dichas evaluaciones de riesgos en los lugares de trabajo, ofreciendo orientaciones claras a los usuarios finales.
También se debe prestar atención a los artículos 18 a 21 de la propia LPRL, referentes a la información, consulta y participación, formación, medidas de emergencia y riesgo grave e inminente.
A su vez, el artículo 6 hace referencia a las normas reglamentarias que fijan y concretan los aspectos más técnicos de las medidas preventivas y que también se deberán observar cuando sean de aplicación, como, por ejemplo:
- Real Decreto 1215/1997 por el que se establecen las disposiciones mínimas de seguridad y salud para la utilización por los trabajadores de los equipos de trabajo.
- Real Decreto 681/2003 sobre la protección de la salud y la seguridad de los trabajadores expuestos a los riesgos derivados de atmósferas explosivas en el lugar de trabajo.
- Real Decreto 773/1997 sobre disposiciones mínimas de seguridad y salud relativas a la utilización por los trabajadores de equipos de protección individual.
- Real Decreto 809/2021 por el que se aprueba el Reglamento de equipos a presión y sus instrucciones técnicas complementarias.
Sin olvidar que las medidas preventivas necesarias para dar cumplimiento a dicha normativa de desarrollo deberán respetar los principios de la acción preventiva que se mencionan en el artículo 15 de la LPRL.
Procedimientos de evaluación de la conformidad
Además de los proveedores, los empresarios deben llevar a cabo un procedimiento de evaluación de la conformidad tras realizar cualquier modificación sustancial[4], que no será necesario ante los cambios debidos al aprendizaje inherente a estos sistemas de IA cuando hayan sido previstos y evaluados en origen (artículo 43.4).
El reglamento no establece explícitamente esta obligación para el empresario, pero es lógico pensar que será así, por coherencia con el marco jurídico vigente, donde sí es explícito, por ejemplo, en el nuevo Reglamento de Máquinas[5] (artículo 18), al atribuir las obligaciones del fabricante a toda persona física o jurídica que realice una modificación sustancial.
El procedimiento de evaluación de la conformidad a aplicar será el exigido en la normativa correspondiente al producto en cuestión (máquina, ascensor, equipo a presión, etc.), incluyendo en la evaluación los requisitos de la sección 2 del capítulo III y ciertos puntos del anexo VII del Reglamento de IA (artículo 43.3).
Para ello, el mismo artículo establece que los organismos de evaluación de la conformidad notificados conforme a la normativa correspondiente al producto en cuestión, están facultados para evaluar la conformidad de los requisitos de la sección 2 del Reglamento de IA siempre que cumplan con ciertos requisitos relacionados con el conflicto de intereses o la competencia técnica.
A su vez, establece que cuando la normativa específica no considere necesaria la evaluación de la conformidad de terceros, a condición de haber aplicado normas armonizadas, esta seguirá sin ser necesaria cuando también se hayan aplicado normas armonizadas que contemplen todos los requisitos de la sección 2 del capítulo III, y, por ello, no se considerará un sistema de IA de alto riesgo. En caso contrario, será necesaria la intervención de un organismo notificado y sí será considerado un sistema de IA de alto riesgo.
En este sentido, conviene observar lo que depara el futuro, dado que, por ejemplo, el Reglamento de Máquinas, que deroga la Directiva de Máquinas[6] a partir del 14 de enero de 2027, es más exigente en cuanto a la participación de un tercero para realizar la evaluación de la conformidad, reclasificando las categorías de máquinas y los componentes de seguridad según su anexo I, en lugar del anexo IV de la directiva, haciendo imperativa la participación de un tercero en ciertas máquinas o productos relacionados aunque se hayan fabricado con arreglo a normas armonizadas.
Este será el caso, por ejemplo, de los resguardos para dispositivos amovibles de transmisión mecánica, que cambian de categoría entre directiva y reglamento, o las máquinas y los componentes de seguridad con comportamiento total o parcialmente autoevolutivo, que la directiva no contempla, pero el reglamento sí.
Conclusión
Si bien el reglamento parece tener en cuenta todo lo necesario para garantizar la seguridad y salud de los trabajadores, conviene recordar que la normativa, por sí misma, no crea condiciones de trabajo seguras y saludables. Una vez más, lo que marcará la diferencia será el grado de integración de la seguridad y salud en las empresas y el compromiso con la cultura preventiva.
Las condiciones de trabajo van a cambiar y, con ellas, los riesgos laborales. Unos desaparecerán, otros se modificarán y otros aparecerán, además en dinámico, dado el autoaprendizaje de los equipos de trabajo, que será dentro de los límites establecidos por el fabricante o fuera de ellos, en cuyo caso, y por el momento, no hay metodologías para realizar la evaluación de riesgos, ni imaginación para anticiparlos.
Por ello, los actores implicados deberán ser aún más estrictos en la observación de sus obligaciones y, así, poder detectar comportamientos no previstos que puedan derivar en riesgos laborales. Y quién sabe, podría aparecer un nuevo concepto: el error no humano.
[1] Una persona física o jurídica, o autoridad pública, órgano u organismo que utilice un sistema de IA bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesional.
[2] Reglamento (UE) 2023/988 relativo a la seguridad general de los productos.
[3] Ley 31/1995 de prevención de Riesgos Laborales.
[4] Un cambio en un sistema de IA tras su introducción en el mercado o puesta en servicio que no haya sido previsto o proyectado en la evaluación de la conformidad inicial realizada por el proveedor y a consecuencia del cual se vea afectado el cumplimiento por parte del sistema de IA de los requisitos establecidos en el capítulo III, sección 2, o que dé lugar a una modificación de la finalidad prevista para la que se haya evaluado el sistema de IA de que se trate.
[5] Reglamento (UE) 2023/1230 del Parlamento Europeo y del Consejo relativo a las máquinas.
[6] Directiva 2006/42/CE del Parlamento Europeo y del Consejo relativa a las máquinas.
[quote bgcolor=”#ffffff” arrow=”yes”]Prevencionar se reserva el derecho de reproducir o ceder sus contenidos en otros medios, obligándose a citar fuente y autor. Queda expresamente prohibida la reproducción total o parcial de los mismos sin autorización expresa. Prevencionar no se hace responsable de las opiniones expresadas en los artículos y/o entrevistas. Si quieres participar en el apartado artículos y/o entrevistas mandamos un mail a: [email protected][/quote]
