La inteligencia artificial está entrando con fuerza en los entornos industriales. Sistemas de apoyo a la decisión, herramientas predictivas, modelos de evaluación de riesgos y soluciones basadas en datos prometen mejorar la seguridad, anticipar fallos y reducir errores humanos. Sin embargo, una pregunta empieza a ser cada vez más importante: ¿qué ocurre cuando la IA se equivoca y las personas confían demasiado en ella?
Esta es la cuestión que aborda el estudio de Xiaoyu Yu, Lin He, Jiayin Qin y Tao Liu, titulado When artificial intelligence misguides the brain: A cognitive-ethical mechanism in industrial safety decisions, publicado en 2026 en la revista International Journal of Industrial Ergonomics.
La investigación analiza cómo la precisión del consejo ofrecido por una inteligencia artificial puede influir en la evaluación humana de la seguridad en contextos industriales de alto riesgo. Y sus conclusiones son especialmente relevantes para el ámbito de la prevención de riesgos laborales: la IA puede ayudar a reducir errores, pero también puede generar nuevos riesgos si induce a las personas a relajar sus criterios de seguridad.
La IA no solo informa: también influye en cómo decidimos
El estudio parte de una realidad cada vez más frecuente. En sectores industriales, logísticos, sanitarios, energéticos o de infraestructuras críticas, la inteligencia artificial comienza a utilizarse como apoyo en procesos de evaluación, supervisión y toma de decisiones. En teoría, esto debería mejorar la calidad de las decisiones. Pero el problema aparece cuando el ser humano deja de actuar como supervisor crítico y pasa a convertirse en un mero validador de la recomendación tecnológica.
Para comprobar este efecto, los autores diseñaron un estudio experimental con 82 participantes. Primero, los participantes evaluaban de forma independiente la seguridad de proyectos industriales de alto riesgo. Después, volvían a evaluar esos mismos escenarios, pero esta vez en colaboración con una IA que ofrecía recomendaciones correctas o erróneas.
Los resultados fueron claros: cuando la IA ofrecía consejos erróneos presentando como “seguros” determinados contextos de alto riesgo, los participantes tendían a otorgar puntuaciones de seguridad más elevadas. Además, aumentaba la probabilidad de que cambiaran una decisión inicialmente correcta por una aprobación equivocada.
El sesgo de automatización: cuando la tecnología parece tener siempre la razón
Uno de los elementos más preocupantes del estudio es el papel del sesgo de automatización. Este sesgo aparece cuando las personas tienden a aceptar las indicaciones de un sistema automatizado, incluso cuando existen señales que deberían llevar a cuestionarlas.
En prevención de riesgos laborales, este fenómeno puede tener consecuencias relevantes. Si un sistema inteligente clasifica una situación como segura, el profesional puede verse tentado a asumir que la recomendación es correcta, especialmente si el sistema parece sofisticado, utiliza datos complejos o presenta sus resultados con aparente objetividad.
El riesgo no está únicamente en el fallo técnico de la IA, sino en la forma en que ese fallo modifica el juicio humano. La tecnología no solo aporta información; también puede alterar la percepción del riesgo, reducir la vigilancia crítica y desplazar la responsabilidad psicológica de la decisión.
Desconexión moral: justificar decisiones inseguras
Una de las aportaciones más interesantes del trabajo es la identificación de la desconexión moral como mecanismo mediador. Según los autores, cuando los participantes recibían recomendaciones erróneas de la IA que calificaban como seguros determinados escenarios de riesgo, aumentaba su tendencia a racionalizar decisiones inseguras.
Dicho de otro modo: la presencia de una recomendación tecnológica podía facilitar que la persona justificara una decisión menos prudente. El problema no era solo cognitivo, sino también ético. La IA actuaba como una especie de “coartada” que facilitaba la relajación de los estándares de seguridad.
Este hallazgo es especialmente importante para las organizaciones. La incorporación de IA en seguridad y salud laboral no puede limitarse a una cuestión técnica. También exige una reflexión sobre responsabilidad, supervisión, cultura preventiva y gobernanza de las decisiones.
La experiencia profesional protege frente al error de la IA
El estudio también muestra un resultado esperanzador: las personas con mayor experiencia en evaluación de seguridad fueron menos vulnerables a las recomendaciones erróneas de la IA. Es decir, la experiencia actuó como un factor protector.
Los participantes más experimentados mostraron mayor capacidad de supervisión crítica y menor tendencia a aceptar de forma automática los consejos incorrectos del sistema. Esto refuerza una idea clave: la IA no sustituye la competencia profesional. Al contrario, cuanto más complejos sean los sistemas de apoyo a la decisión, más necesario será contar con profesionales capaces de interpretar, cuestionar y contextualizar sus recomendaciones.
La prevención no puede delegarse en algoritmos. La decisión final debe seguir estando vinculada al conocimiento experto, al criterio técnico y a la responsabilidad organizativa.
Implicaciones para la prevención de riesgos laborales
El estudio de Yu, He, Qin y Liu aporta una advertencia relevante para empresas, servicios de prevención, responsables de seguridad y diseñadores de sistemas inteligentes: introducir IA en procesos de seguridad no garantiza automáticamente mejores decisiones.
Para que la inteligencia artificial aporte valor real en prevención, las organizaciones deberían considerar al menos cinco aspectos:
Primero, la IA debe entenderse como una herramienta de apoyo, no como una autoridad incuestionable. Sus recomendaciones deben estar sujetas a revisión humana, especialmente en contextos de alto riesgo.
Segundo, los profesionales deben recibir formación específica sobre sesgos de automatización, límites de los modelos predictivos y errores potenciales de los sistemas inteligentes.
Tercero, las decisiones críticas no deberían depender de una única fuente automatizada. La triangulación con datos, observaciones, experiencia técnica y criterios preventivos sigue siendo imprescindible.
Cuarto, las organizaciones deben definir claramente quién responde por las decisiones tomadas con apoyo de IA. La tecnología no puede convertirse en una forma de diluir responsabilidades.
Quinto, la cultura preventiva debe reforzar la capacidad de cuestionar. Una organización segura no es la que acepta sin más lo que dice un sistema, sino la que mantiene vivo el pensamiento crítico incluso cuando la recomendación procede de una herramienta avanzada.
Tecnología sí, pero con criterio preventivo
La inteligencia artificial puede tener un papel muy valioso en la prevención de riesgos laborales. Puede ayudar a detectar patrones, anticipar escenarios, priorizar intervenciones y mejorar la gestión de la información. Pero este potencial solo será positivo si se integra dentro de un modelo de decisión responsable.
El verdadero riesgo no es que la IA se equivoque. El verdadero riesgo es que, cuando se equivoque, nadie se atreva a cuestionarla.
La prevención del futuro no será menos humana por incorporar inteligencia artificial. Debería ser más exigente, más crítica y más consciente de sus propios sesgos. Porque en seguridad laboral, la eficiencia nunca debe estar por encima del principio esencial: ante la duda, proteger.
Referencia del artículo
Yu, X., He, L., Qin, J., & Liu, T. (2026). When artificial intelligence misguides the brain: A cognitive-ethical mechanism in industrial safety decisions. International Journal of Industrial Ergonomics, 114, 103942. ISSN 0169-8141. https://doi.org/10.1016/j.ergon.2026.103942
