Prompt, hack, control: el lado oscuro de los Agentes de IA
1
/
1
El pasado viernes 17 de abril se celebró en la ETS de Ingeniería Informática la charla denominada "Prompt, hack, control: el lado oscuro de los Agentes de IA", organizada por Yes We Tech. La charla, impartida por Raquel Gálvez y Marta Gómez, mostró como un atacante podría manipular agentes de IA para que ignoraran sus instrucciones, filtraran datos o ejecutaran acciones no autorizadas. Además, se explicaron técnicas como el indirect promt injection o el RAG pull, así como las medidas defensivas para mitigar estos riesgos.
El pasado viernes 17 de abril se celebró en la ETS de Ingeniería Informática la charla denominada "Prompt, hack, control: el lado oscuro de los Agentes de IA", organizada por Yes We Tech. La charla, impartida por Raquel Gálvez y Marta Gómez, mostró como un atacante podría manipular agentes de IA para que ignoraran sus instrucciones, filtraran datos o ejecutaran acciones no autorizadas. Además, se explicaron técnicas como el indirect promt injection o el RAG pull, así como las medidas defensivas para mitigar estos riesgos.



