Los sistemas de inteligencia artificial con capacidad de actuar de forma autónoma (conocidos como IA agéntica) abren una nueva superficie de ataque que los métodos de seguridad tradicionales no siempre detectan. Una de las amenazas más preocupantes es la inyección de prompts, que una experta describe como “el equivalente digital del engaño o de la ingeniería social, pero dirigido a la máquina”.
Suscríbete a nuestro canal de Telegram y lleva la información en tus manos.
¿Cómo funciona la inyección de prompts a través de un PDF o correo electrónico?
La inyección de prompts consiste en que un tercero introduce instrucciones maliciosas para que un agente de IA ignore sus órdenes originales y ejecute acciones no autorizadas, explica Noemí Brito Izquierdo, socia responsable del área de Propiedad Intelectual y Nuevas Tecnologías de KPMG Abogados.
Se distinguen dos modalidades de inyección de prompts. La primera de ellas es la inyección directa, que sucede cuando el atacante pone una orden maliciosa en el mensaje que se envía al agente de IA. La segunda modalidad es la inyección indirecta en que las instrucciones se ocultan en las fuentes de datos que el agente consulta (por ejemplo: un PDF, un correo electrónico o una página web).
La consecuencia inmediata de la inyección de prompts es la posible exfiltración de datos, además de los saltos de control de decisiones automatizadas o la generación de inferencias incorrectas o sesgadas.
¿Qué otras amenazas introduce la IA agéntica para la seguridad de los datos?
La inyección de prompts no es el único riesgo. Brito Izquierdo identifica otras amenazas relevantes, como la fuga de datos hormiga en la que el sistema extrae información crítica de forma lenta y constante, camuflándola entre el tráfico normal; los ataques a la cadena de suministro (cuando el software externo en el que se basa el agente tiene un fallo de seguridad de origen).
La experta insiste en la importancia de un marco de control integral estricto para hacer frente a estas amenazas de la IA agéntica.
adn Noticias. Te hablamos con la verdad. Suscríbete a nuestro canal de WhatsApp y lleva la información en la palma de tu mano.
