A diferencia de los modelos convencionales de inteligencia artificial, los sistemas agénticos pueden planificar, acceder a herramientas externas y ejecutar tareas de forma autónoma en nombre de una organización.
Esa autonomía, advierte Noemí Brito Izquierdo, socia responsable del área de Propiedad Intelectual y Nuevas Tecnologías de KPMG Abogados, introduce vectores de riesgo que deben abordarse desde el diseño.
Suscríbete a nuestro canal de Telegram y lleva la información en tus manos.
¿Qué son las fugas de datos hormiga y cómo las produce la IA agéntica?
La amenaza más silenciosa de la IA agéntica que describe Brito Izquierdo es la exfiltración silenciosa, también conocida como shadow-leak o fuga de datos hormiga. En estos casos, en vez de un gran robo detectable, “el sistema extrae información crítica de forma lenta y constante, camuflándola entre el tráfico normal para no ser detectado”, explica la especialista.
La filtración puede incluir datos, contexto interno, memoria, reglas o secretos, a través de interacciones aparentemente legítimas, consultas fragmentadas e inocuas y respuestas parciales del modelo. En estos casos, la respuesta parece segura, pero al combinar varias consultas se pueden reconstruir datos confidenciales.
Este riesgo se amplifica por la memoria agéntica, advierte Brito Izquierdo: para ser eficaces, estos sistemas almacenan contextos y experiencias previas. Sin una política de purga o una arquitectura de silos clara, esa retención excesiva puede vulnerar el derecho al olvido o el principio de limitación de la finalidad.
¿Cuáles son las otras amenazas de la IA agéntica para la seguridad de los datos?
Además de las fugas de datos hormiga, Brito Izquierdo identifica otras amenazas específicas de la IA agéntica:
Inyección de prompts: ocurre cuando un tercero introduce instrucciones maliciosas para que un agente de IA ignore sus órdenes originales y ejecute acciones no autorizadas. Puede ocurrir de forma directa, cuando el atacante introduce explícitamente una orden maliciosa en el mensaje, o de forma indirecta, cuando el atacante introduce instrucciones de manera oculta en fuentes de datos que el agente consulta.
Compromisos en la cadena de suministro: cuando la pieza de software externa en la que se basa el agente presenta un fallo de seguridad de origen, el agente de IA hereda esa vulnerabilidad.
Ataques a la plataforma de automatización: el atacante accede al entorno en el que el agente toma decisiones de manera remota y altera procesos o manipula resultados.
La experta concluye que ante este escenario se requiere un marco de control integral más estricto.
adn Noticias. Te hablamos con la verdad. Suscríbete a nuestro canal de WhatsApp y lleva la información en la palma de tu mano.
