En los últimos meses, los incidentes de ciberseguridad han crecido y se han profesionalizado cada vez más mediante el uso de inteligencia artificial. Esta tendencia ha llevado a los ciberdelincuentes a explorar nuevos objetivos de ataque, y los propios sistemas de IA de las compañías se han convertido en el blanco perfecto para estos.
A pesar de este escenario, desde Logixs, compañía española especializada en el diseño e integración de soluciones de IA para empresas, advierten de que 8 de cada 10 empresas no cuentan con protocolos de ciberseguridad en sus proyectos de IA, según su cartera de clientes, ya que la mayoría da por hecho que sus políticas tradicionales sirven de la misma forma para proteger un modelo de lenguaje o un agente.
“En los últimos tiempos hemos visto cómo la concienciación en términos de ciberseguridad aumentaba en las empresas, impulsada también por normativas como el AI Act, DORA o NIS2. Sin embargo, aún hay muchas compañías que, al tratar de acelerar los proyectos para ver resultados pronto, introducen la seguridad a mitad del camino, cuando debería estar desde el diseño”, declara Luis Bravo, responsable de seguridad de la información en Logixs. “De igual forma, también hay casos en los que estos proyectos se ven frenados precisamente por el miedo a implantarla y que no sea segura, lo que supone el riesgo de quedarse atrás”.
El mayor peligro procede de dentro de la empresa
Entre los riesgos más frecuentes, que se repiten en todas las compañías sin importar su tamaño o sector, destaca el uso de herramientas públicas de IA por parte de la plantilla sin supervisión. En estos entornos no seguros, los empleados comparten información confidencial como contratos, datos de clientes o código propio sin que la empresa lo sepa. Tal es así que 8 de cada 10 empleados españoles que ya usan IA en su puesto de trabajo aseguran haber recurrido a herramientas no facilitadas por su empresa sin comunicarlo, según un estudio de Cegid, mientras que 6 de cada 10 afirman usar la IA sin directrices ni supervisión corporativa, de acuerdo con VML The Cocktail y Salesforce.
Entre los riesgos más comunes en proyectos de IA, se encuentran la falta de trazabilidad para explicar por qué una herramienta de IA dio una respuesta concreta o de dónde extrajo el dato. Además, el despliegue de agentes con exceso de permisos conectados a sistemas críticos sin vigilancia y el robo de claves de servicios de IA, también pueden ser usados por los atacantes, disparando las facturas en cuestión de horas. De hecho, solo el 30 % de las empresas españolas sabe con exactitud dónde se almacenan y procesan los datos que usan sus sistemas de IA, según un estudio reciente de Red Hat.
Asimismo, el uso de la IA para programar más rápido está generando fallos invisibles. Un ejemplo de ello es la IA que escribe código que funciona. Cuando esto ocurre, las empresas tienden a revisar menos su código y procesos de lo necesario. De hecho, en 2 de cada 10 auditorías que el equipo de Logixs realiza sobre software previamente desarrollado por parte de las compañías con ayuda de la IA aparece al menos una vulnerabilidad o una credencial expuesta.
Principales problemas de ciberseguridad
Y no es un caso aislado. Según el informe GenAI Code Security 2025 de Veracode, el 45 % de las muestras de código generadas por más de 100 modelos de IA no supera las pruebas de seguridad. Además, se han documentado casos en los que la IA recomienda paquetes de software que no existen y que los ciberdelincuentes registran con código malicioso bajo esos mismos nombres para infectar a las empresas.
El uso de la IA para programar más rápido está generando fallos invisibles
“La ciberseguridad es algo crítico en los proyectos de IA. Por eso, en Logixs hemos desarrollado un sistema propio que acompaña todo el ciclo de desarrollo con agentes de IA, desde que se escribe la primera línea de código hasta su puesta en producción, con monitorización continua y no solo con una revisión al final del proyecto.
De esta forma, podemos detectar a tiempo problemas que podrían acabar convirtiéndose en una incidencia, desde claves de acceso o contraseñas incluidas en el código hasta datos personales protegidos por el RGPD. Además, antes de poner un agente en producción, lo sometemos a ataques controlados en un entorno aislado para comprobar cómo responde a intentos de manipulación, como la inyección de instrucciones, o a un uso indebido de sus permisos”, señala Bravo.
