Mientras que el 50% de las empresas reconoce haber experimentado mejoras de rendimiento gracias a la IA, el 70 % de las organizaciones aún no se siente preparada para gestionar los riesgos y las perturbaciones que esta tecnología conlleva. Así lo revela el «Barómetro IA de ESSCA–Mazars«, basado en las respuestas de más de 400 responsables tecnológicos en Europa, donde subraya que la adopción acelerada de la IA está dejando a muchas organizaciones vulnerables, tanto en el ámbito operativo como ante las inminentes exigencias del Reglamento Europeo de IA (AI Act).
De hecho, el estudio destaca que uno de cada cinco proyectos de IA ha sufrido problemas importantes de implementación. Estos fracasos se atribuyen principalmente a la falta de estrategia, la deficiente calidad de los datos y la escasez de perfiles especializados.
Dejan Glavas, profesor de finanzas y director del Instituto AI for Sustainability de ESSCA, advierte sobre la profundidad de este desafío, “las empresas están entusiasmadas con el potencial de la inteligencia artificial, pero subestiman los retos de gestión que implica. La IA no es solo una cuestión tecnológica sino que es también un desafío de gobernanza, ética y talento”.
La brecha de la Gobernanza: incompatibilidad con el AI Act
La falta de madurez organizacional señalada por el barómetro pone en tela de juicio la capacidad de las empresas para cumplir con los requisitos del Reglamento UE 2024/1689, la primera ley integral del mundo sobre IA, que adopta un enfoque gradual y proporcionado basado en el riesgo.
Para los sistemas clasificados como de alto riesgo, que incluyen IA utilizada en infraestructuras críticas, educación, empleo, servicios esenciales o justicia, la regulación europea exige un riguroso Sistema de Gestión de Riesgos continuo y cíclico, que cubra desde la identificación de sesgos e imprecisiones hasta la garantía de supervisión humana y la trazabilidad de las decisiones. El incumplimiento de estas normas, especialmente en las prácticas prohibidas (como el social scoring), puede acarrear multas de hasta 35 M€ o el 7 % del volumen de negocio mundial.
Mientras que el 50% de las empresas reconoce haber experimentado mejoras de rendimiento gracias a la IA, el 70 % de las organizaciones aún no se siente preparada para gestionar los riesgos y las perturbaciones que esta tecnología conlleva
Los problemas detectados en la implementación de IA por las empresas europeas se correlacionan directamente con las áreas de cumplimiento del AI Act. El 45% de los problemas se relacionan con cuestiones estratégicas o de recursos, mientras que el 30% está vinculado a la calidad y disponibilidad de los datos. Un 25% de los fallos está relacionado con la confianza y la responsabilidad de los sistemas, incluyendo los cruciales retos de los sesgos, la explicabilidad y la supervisión humana.
Diferencias sectoriales y el reto del sector público
En cuanto a la madurez, el estudio identifica claras disparidades sectoriales:
– Los sectores de utilities (energía, transporte, telecomunicaciones) y el sector financiero son los más avanzados, con más del 60% de las organizaciones con equipos específicos de IA
– La administración pública apenas alcanza el 27%, una brecha de madurez que resulta particularmente preocupante. Los gobiernos locales tienen una doble responsabilidad como «consumidores» de soluciones tecnológicas y como «reguladores»
La AI Act impone a los gobiernos locales la obligación de clasificar correctamente los sistemas que utilicen e identificar los riesgos derivados, lo que en sistemas de alto riesgo implica implementar auditorías para detectar sesgos de género, origen o situación económica. Existe una necesidad imperiosa de fomentar la alfabetización en IA tanto entre el personal público como entre la ciudadanía para poder implementar este marco normativo.
Hacia la madurez organizacional
Para superar esta brecha de preparación, el barómetro de ESSCA propone seis líneas de actuación clave:
