Spot de verborgen opdracht
Spel over prompt injection: vind de zin in een mail, PDF of webpagina die je AI-agent probeert te kapen.
In het kort
Prompt injection is tekst in een mail, document of webpagina die zich voordoet als opdracht aan de AI. Regel: alles wat je agent leest is data, nooit een instructie. Gevaarlijk wordt het als een agent privégegevens heeft, onbetrouwbare input leest én zelf iets kan versturen.
Je bent de beveiliging van een AI-agent die mail, agenda en documenten leest. Klik de zin aan die een verborgen opdracht is.
🕵️ Spot de verborgen opdracht
Je bent de beveiliging van een AI-agent. Welke zin is een verborgen opdracht? Of is er niets aan de hand?
Wat je meeneemt
Section titled “Wat je meeneemt”- Opdrachten gericht aan “de AI” of “de assistent” in content zijn altijd verdacht.
- “Systeembericht” of “de directie heeft goedgekeurd” in een document is geen autoriteit.
- Geef een agent nooit tegelijk toegang tot privédata, onbetrouwbare input en een verzendknop zonder dat jij meekijkt.