Cyberaanval? Hulp24/7

AI-veiligheid & risico's · Onderzoeksbeschouwing

Promptinjectie bij AI-agenten: een onderschat risico voor bedrijfsprocessen

Gepubliceerd: Laatste inhoudelijke update: 8 min leestijd

De inzet van AI-agenten binnen ondernemingen brengt een beveiligingsvraagstuk met zich mee dat steeds meer aandacht krijgt van internationale onderzoekers en cybersecurityorganisaties. Deze systemen worden ontwikkeld om zelfstandig informatie te verwerken, bedrijfsapplicaties te raadplegen en bepaalde werkzaamheden uit te voeren. Daarbij maken zij gebruik van gegevens uit uiteenlopende bronnen, waaronder klantberichten, documenten, websites en interne systemen. Niet al deze informatie is betrouwbaar. Onderzoekers waarschuwen dat externe informatie onder bepaalde omstandigheden het gedrag van een AI-agent kan beïnvloeden, waardoor het systeem instructies uitvoert die buiten zijn oorspronkelijke opdracht vallen. Dit verschijnsel, bekend als promptinjectie, vormt een beveiligingsrisico dat verder reikt dan de kwaliteit van de antwoorden die een AI-model genereert.

Een AI-agent die bijvoorbeeld verantwoordelijk is voor de verwerking van klantverzoeken, moet informatie uit binnenkomende berichten kunnen interpreteren. Daarin kunnen naast reguliere klantgegevens ook instructies voorkomen die proberen de werkwijze van het systeem te veranderen. Wanneer de AI-agent deze tekst behandelt als een geldige opdracht in plaats van als onderdeel van het klantbericht, kan dit gevolgen hebben voor de verdere afhandeling. Afhankelijk van de beschikbare bevoegdheden kan het systeem verkeerde informatie verstrekken, ongeautoriseerde handelingen voorbereiden of gegevens verwerken op een manier die niet overeenkomt met de bedrijfsregels. Het onderliggende probleem is dat AI-modellen onvoldoende onderscheid kunnen maken tussen informatie die zij moeten analyseren en instructies die zij daadwerkelijk mogen opvolgen.

Internationale onderzoeken wijzen op structurele kwetsbaarheden

Het Britse National Cyber Security Centre (NCSC) publiceerde in december 2025 een analyse waarin promptinjectie wordt vergeleken met traditionele softwarekwetsbaarheden. De organisatie beschrijft dat grote taalmodellen geen betrouwbare beveiligingsgrens afdwingen tussen instructies en gegevens die gezamenlijk worden verwerkt. Bij conventionele software kunnen dergelijke grenzen vaak technisch worden afgedwongen, terwijl taalmodellen informatie verwerken op basis van patronen en context. Hierdoor kunnen instructies uit minder betrouwbare bronnen invloed uitoefenen op de interpretatie van een opdracht. Het NCSC waarschuwt dat promptinjectie waarschijnlijk niet met één algemeen toepasbare beveiligingsmaatregel kan worden verholpen. Volgens de organisatie moeten ontwikkelaars daarom rekening houden met de mogelijkheid dat ongewenste beïnvloeding plaatsvindt en maatregelen treffen die zowel de kans op misbruik als de mogelijke gevolgen beperken.

Deze beoordeling sluit aan bij de bevindingen van OWASP, de internationale organisatie die beveiligingsrichtlijnen voor softwaretoepassingen ontwikkelt. In de OWASP Top 10 voor toepassingen met grote taalmodellen uit 2025 staat promptinjectie bovenaan de lijst van beveiligingsrisico's. De organisatie beschrijft hoe informatie afkomstig uit documenten, websites en andere externe gegevensbronnen invloed kan krijgen op het gedrag van AI-systemen. De mogelijke gevolgen lopen uiteen van onbetrouwbare antwoorden tot ongeautoriseerde toegang tot functies en de ongewenste verwerking van vertrouwelijke informatie. Volgens OWASP wordt de ernst van het risico mede bepaald door de bedrijfsomgeving waarin het systeem functioneert en de mate van zelfstandigheid die aan de AI-agent is toegekend. Een toepassing die uitsluitend openbare informatie verwerkt, kent andere potentiële gevolgen dan een systeem dat toegang heeft tot klantendossiers, financiële administraties of interne bedrijfsprocessen.

Ook Microsoft heeft de afgelopen periode uitgebreid onderzoek verricht naar beveiligingsrisico's bij AI-agenten. In juni 2026 publiceerde het Microsoft AI Red Team een actualisering van zijn classificatie van beveiligingsproblemen, gebaseerd op twaalf maanden ervaring met beveiligingstesten van operationele AI-systemen. De onderzoekers beschreven verschillende manieren waarop agenten door externe informatie kunnen worden beïnvloed, waaronder manipulatie van doelstellingen, misbruik van gekoppelde functies en beïnvloeding van informatie die tijdens opeenvolgende taken wordt onthouden. Daarbij bleek dat beveiligingsproblemen niet altijd ontstaan tijdens één afzonderlijke handeling. Ongewenste informatie kan gedurende een langer proces invloed uitoefenen op de beslissingen van een AI-agent, waardoor afwijkingen pas zichtbaar worden wanneer meerdere handelingen gezamenlijk worden beoordeeld. De bevindingen onderstrepen dat beveiligingstesten zich niet uitsluitend moeten richten op individuele antwoorden, maar ook op het gedrag van het volledige systeem tijdens reguliere bedrijfsprocessen.

Een wetenschappelijke studie van Khan, AlKhanbashi en Mohamed, gepubliceerd op 31 augustus 2026 in het tijdschrift Computers, onderzocht de effectiviteit van verschillende beveiligingsmaatregelen tegen indirecte promptinjectie. De onderzoekers gebruikten een gecontroleerde testomgeving waarin AI-agenten toegang hadden tot externe functies en werden geconfronteerd met pogingen om hun gedrag te beïnvloeden. In het onderzoek werden meerdere AI-modellen en verdedigingsmethoden met elkaar vergeleken. De resultaten lieten verschillen zien tussen modellen en beveiligingsconfiguraties. Bij bepaalde maatregelen werd minder ongewenst gedrag waargenomen, maar daar stond soms tegenover dat de AI-agent minder goed in staat was om reguliere opdrachten uit te voeren. De onderzoekers concludeerden dat de effectiviteit van beveiliging niet uitsluitend kan worden vastgesteld aan de hand van het aantal geslaagde aanvallen. Ook de betrouwbaarheid van normale werkzaamheden, beschikbare bevoegdheden en variatie tussen testresultaten moeten worden meegenomen. De statistische onderbouwing van de gemeten verschillen was bovendien beperkt, waardoor voorzichtigheid nodig is bij het vergelijken van de onderzochte methoden.

De gevolgen hangen samen met de bevoegdheden van AI-agenten

De bevindingen uit deze publicaties laten zien dat promptinjectie niet uitsluitend een kwetsbaarheid van individuele AI-modellen is. De inrichting van de bedrijfsomgeving speelt een bepalende rol bij de mogelijke gevolgen. Wanneer een AI-agent toegang heeft tot verschillende applicaties, gegevensbestanden of externe diensten, kunnen ongewenste instructies invloed krijgen op werkzaamheden die normaal gesproken aan specifieke bedrijfsregels en bevoegdheden zijn gebonden. Een klantenserviceagent die bestellingen mag raadplegen en retourverzoeken kan voorbereiden, heeft bijvoorbeeld andere mogelijkheden dan een systeem dat zelfstandig wijzigingen mag doorvoeren in een financiële administratie. Naarmate meer functies aan een AI-agent worden gekoppeld, neemt de noodzaak toe om nauwkeurig vast te stellen welke handelingen zelfstandig mogen plaatsvinden en welke aanvullende controles vereisen.

Een belangrijke beveiligingsmaatregel is daarom het beperken van toegangsrechten tot functies en gegevens die noodzakelijk zijn voor de betreffende werkzaamheden. Daarnaast moeten gevoelige handelingen worden gecontroleerd door technische beveiligingsmechanismen die onafhankelijk functioneren van het AI-model. Wanneer een systeem bijvoorbeeld een administratieve wijziging wil doorvoeren, moet de achterliggende bedrijfsapplicatie kunnen vaststellen of deze handeling is toegestaan. De interpretatie van de AI-agent mag daarbij niet de enige grondslag vormen voor het verlenen van toestemming. Ook menselijke goedkeuring kan noodzakelijk zijn wanneer handelingen aanzienlijke financiële, operationele of privacygerelateerde gevolgen kunnen hebben. Dergelijke maatregelen nemen het risico op promptinjectie niet volledig weg, maar kunnen voorkomen dat een ongewenste instructie zonder verdere controle leidt tot een ingrijpende systeemhandeling.

Voor ondernemingen die AI-agenten overwegen, heeft dit directe gevolgen voor de beoordeling van technische haalbaarheid en bedrijfsrisico's. Naast de verwachte efficiëntieverbetering moet worden onderzocht welke gegevens het systeem verwerkt, hoe betrouwbaar de gebruikte informatiebronnen zijn en welke afhankelijkheden ontstaan door koppelingen met bestaande bedrijfssoftware. Ook de wijze waarop het systeem reageert op afwijkende of misleidende informatie verdient aandacht. Een AI-agent kan tijdens normale praktijktests goed functioneren, terwijl kwetsbaarheden pas zichtbaar worden wanneer de omstandigheden veranderen of informatie wordt aangeleverd die afwijkt van de verwachte invoer. Een betrouwbare beoordeling vereist daarom tests die rekening houden met verschillende gebruikssituaties en de werkelijke bevoegdheden van het systeem. Daarbij moet zowel worden gekeken naar de mogelijke beveiligingsincidenten als naar de continuïteit en kwaliteit van de reguliere werkzaamheden.

De onderzochte publicaties laten bovendien zien dat beveiliging geen eenmalige beoordeling is. AI-systemen kunnen gedurende hun gebruik veranderen door modelupdates, uitbreiding van functies, nieuwe gegevensbronnen en aanpassingen in bedrijfsprocessen. Hierdoor kunnen eerdere beveiligingsaannames hun geldigheid verliezen. Periodieke evaluatie, controle van toegangsrechten en monitoring van uitgevoerde handelingen zijn daarom relevante onderdelen van het beheer. De noodzakelijke maatregelen verschillen per toepassing en moeten in verhouding staan tot de gegevens, bedrijfsprocessen en mogelijke gevolgen van ongewenst systeemgedrag.

De ontwikkeling van AI-agenten biedt ondernemingen mogelijkheden om werkzaamheden efficiënter te organiseren en bestaande processen verder te automatiseren. De internationale onderzoeksbevindingen maken echter duidelijk dat technische mogelijkheden en operationele betrouwbaarheid afzonderlijk moeten worden beoordeeld. Een AI-agent die een bedrijfsproces zelfstandig kan uitvoeren, is daarmee nog niet aantoonbaar geschikt om die verantwoordelijkheid onder alle omstandigheden te dragen. De betrouwbaarheid wordt mede bepaald door de kwaliteit van de systeeminrichting, de begrenzing van bevoegdheden en de effectiviteit van onafhankelijke beveiligingscontroles. Voor organisaties die dergelijke systemen willen inzetten, vormt een onderbouwde technische en operationele risicobeoordeling daarom een noodzakelijke basis voor investeringsbeslissingen en verantwoorde implementatie.


Bronnen en onderzoeksverantwoording

National Cyber Security Centre (8 december 2025). Prompt injection is not SQL injection (it may be worse).
https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection

OWASP GenAI Security Project (2025). LLM01:2025 Prompt Injection.
https://genai.owasp.org/llmrisk/llm01-prompt-injection/

Microsoft AI Red Team (4 juni 2026). Updating the taxonomy of failure modes in agentic AI systems: What a year of red teaming taught us.
https://www.microsoft.com/en-us/security/blog/2026/06/04/updating-taxonomy-failure-modes-agentic-ai-systems-year-red-teaming-taught-us/

Khan, A., AlKhanbashi, K., & Mohamed, A. (31 augustus 2026). Evaluating Indirect Prompt Injection Defenses in Tool-Using LLM Agents: Security, Utility, and Replication. Computers, 15(9), 570.
https://doi.org/10.3390/computers15090570

Onderzoeksverantwoording: Dit artikel is gebaseerd op een analyse van externe wetenschappelijke en technische publicaties. NEERO heeft de beschreven beveiligingstesten niet zelfstandig uitgevoerd. De onderzoeksresultaten hebben betrekking op specifieke systemen, testomgevingen en beveiligingsmethoden. De bevindingen kunnen daarom niet zonder aanvullende beoordeling worden toegepast op iedere bedrijfsomgeving.