Cyberaanval? Hulp24/7

AI-veiligheid & risico's · Onderzoeksbeschouwing

Toegangsrechten en bevoegdheden bij AI-agenten

Gepubliceerd: Laatste inhoudelijke update: 6 min leestijd

Wanneer een medewerker toegang krijgt tot een bedrijfssysteem, wordt doorgaans bepaald welke informatie deze persoon mag bekijken en welke handelingen hij mag uitvoeren. Bij AI-agenten is die afbakening minstens zo belangrijk. Deze systemen kunnen zelfstandig informatie ophalen, opdrachten verwerken en via koppelingen wijzigingen aanbrengen in bedrijfsapplicaties. Toch worden toegangsrechten bij de inrichting van AI-agenten niet altijd voldoende beperkt tot hun daadwerkelijke taken. Een agent die bedoeld is om klantvragen te beantwoorden, kan daardoor toegang krijgen tot gegevens of functies die voor die werkzaamheden niet noodzakelijk zijn. Het risico ontstaat wanneer een systeem niet alleen over informatie beschikt, maar ook bevoegdheden heeft om handelingen uit te voeren die buiten zijn oorspronkelijke opdracht vallen.

Wanneer toegangsrechten een beveiligingsrisico worden

AI-agenten onderscheiden zich van traditionele chatbots doordat zij via externe hulpmiddelen en systeemkoppelingen acties kunnen ondernemen. Een agent kan bijvoorbeeld worden verbonden met een CRM-systeem, een voorraadadministratie, een e-mailomgeving of financiële software. Welke handelingen mogelijk zijn, wordt mede bepaald door de rechten van de accounts en API-koppelingen waarmee de agent toegang krijgt. Wanneer een koppeling uitsluitend bedoeld is om orderinformatie op te vragen, maar ook het wijzigen of verwijderen van gegevens toestaat, beschikt de agent over meer bevoegdheden dan noodzakelijk.

Binnen cybersecurity wordt dit aangeduid als Excessive Agency: een situatie waarin een AI-systeem te veel functionaliteit, bevoegdheden of zelfstandigheid krijgt. De Open Worldwide Application Security Project (OWASP) beschrijft dit als een afzonderlijke beveiligingsrisicocategorie. Het gevaar beperkt zich niet tot kwaadwillende aanvallen. Ook verkeerd geïnterpreteerde instructies, onjuiste aannames of onverwacht systeemgedrag kunnen ertoe leiden dat een AI-agent handelingen uitvoert die niet waren voorzien. De gevolgen zijn afhankelijk van de systemen waarmee de agent is verbonden en de rechten die daarin beschikbaar zijn.

Neem een groothandel die een AI-agent inzet om vragen over bestellingen, levertijden en retouren af te handelen. Voor het beantwoorden van deze vragen heeft het systeem toegang nodig tot bepaalde klant- en ordergegevens. Wanneer dezelfde agent echter ook zelfstandig factuurgegevens kan aanpassen, terugbetalingen kan verwerken of bestellingen kan annuleren, verandert het risicoprofiel aanzienlijk. Een foutieve interpretatie van een klantverzoek kan dan rechtstreeks doorwerken in de bedrijfsadministratie. Bij onvoldoende gescheiden klantrechten kan bovendien het risico ontstaan dat informatie van de ene opdrachtgever toegankelijk wordt voor een andere gebruiker. De beveiliging moet daarom niet alleen bepalen welke applicaties een agent kan bereiken, maar ook welke specifieke gegevens en functies binnen die applicaties beschikbaar mogen zijn.

Een belangrijk uitgangspunt bij het beperken van deze risico's is het least privilege-principe. Dit houdt in dat een systeem uitsluitend de minimale bevoegdheden krijgt die noodzakelijk zijn voor de uitvoering van een bepaalde taak. Een agent die informatie moet raadplegen, heeft bijvoorbeeld geen rechten nodig om records te verwijderen. Wanneer een handeling tijdelijk uitgebreidere rechten vereist, kunnen die rechten voor een beperkte duur en onder vooraf vastgestelde voorwaarden worden toegekend. Daarmee wordt voorkomen dat een AI-agent permanent beschikt over bevoegdheden die slechts incidenteel nodig zijn.

Technische begrenzing en menselijke controle

Het vastleggen van instructies in een AI-model is op zichzelf onvoldoende om ongewenste handelingen te voorkomen. Een systeeminstructie die bepaalt dat een agent geen gegevens mag verwijderen, biedt niet dezelfde bescherming als een technische toegangsbeperking die verwijdering daadwerkelijk onmogelijk maakt. AI-modellen kunnen instructies verkeerd interpreteren of worden beïnvloed door informatie die zij tijdens hun werkzaamheden verwerken. Daarom moeten toegangscontroles onafhankelijk van het taalmodel functioneren. De gekoppelde applicatie of een afzonderlijke autorisatielaag moet bij iedere relevante handeling controleren of de agent daarvoor bevoegd is.

Ook de identiteit waaronder een agent opereert, verdient aandacht. Wanneer meerdere AI-agenten hetzelfde beheerdersaccount of dezelfde algemene toegangssleutel gebruiken, wordt het moeilijker om verantwoordelijkheden te onderscheiden en bevoegdheden afzonderlijk te beperken. Een eigen digitale identiteit per agent maakt het mogelijk om toegangsrechten specifiek toe te kennen, activiteiten te registreren en toegang in te trekken wanneer dat noodzakelijk is. Het Amerikaanse National Institute of Standards and Technology (NIST) benadrukt in zijn richtlijnen voor identiteitsbeheer van AI-agenten het belang van afzonderlijke identiteiten, tijdelijke autorisaties en controleerbare besluitvorming over toegangsrechten.

Bij handelingen met mogelijke financiële, juridische of operationele gevolgen kan aanvullende menselijke goedkeuring noodzakelijk zijn. Daarbij valt te denken aan het wijzigen van betalingsgegevens, het goedkeuren van financiële transacties of het verwijderen van belangrijke bedrijfsinformatie. De goedkeuringsprocedure moet technisch gekoppeld zijn aan de concrete handeling, zodat een algemene toestemming niet kan worden gebruikt om andere acties uit te voeren. Menselijke controle betekent daarbij niet dat iedere eenvoudige handeling handmatig moet worden beoordeeld. Het gaat om een passende verdeling tussen zelfstandige uitvoering van beperkte taken en expliciete autorisatie bij handelingen met een hoger risicoprofiel.

Naast het vooraf begrenzen van bevoegdheden is controle tijdens het gebruik noodzakelijk. Organisaties moeten kunnen vaststellen welke agent een handeling heeft uitgevoerd, op welk moment dit gebeurde en namens welke gebruiker of welk proces. Logging en monitoring maken afwijkend gedrag inzichtelijk en ondersteunen het onderzoek naar eventuele incidenten. De registraties moeten daarbij onafhankelijk van de agent worden beschermd, zodat het systeem zijn eigen activiteiten niet ongemerkt kan wijzigen of wissen. Ook moet de mogelijkheid bestaan om toegang onmiddellijk te blokkeren wanneer onverwacht gedrag wordt vastgesteld.

Toegangsrechten verdienen bovendien periodieke herbeoordeling. Een AI-agent kan tijdens zijn levensduur nieuwe functies, gegevensbronnen of systeemkoppelingen krijgen. Hierdoor kunnen bevoegdheden geleidelijk worden uitgebreid zonder dat de oorspronkelijke risicoanalyse opnieuw wordt uitgevoerd. Dit verschijnsel, ook wel scope creep genoemd, vergroot de kans dat een agent uiteindelijk toegang heeft tot meer systemen dan waarvoor hij aanvankelijk is ontworpen. Vooral bij AI-agenten die meerdere bedrijfsprocessen ondersteunen of samenwerken met andere agenten kan het overzicht over de gezamenlijke bevoegdheden verloren gaan.

Conclusie

De beveiliging van AI-agenten wordt niet uitsluitend bepaald door de betrouwbaarheid van het gebruikte AI-model. De toegangsrechten, gekoppelde applicaties en toegestane handelingen bepalen in belangrijke mate welke gevolgen onverwacht of ongewenst gedrag kan hebben. Naarmate organisaties AI-agenten meer zelfstandigheid geven, wordt het noodzakelijk om onderscheid te maken tussen wat een systeem technisch kan uitvoeren en wat het daadwerkelijk mag uitvoeren.

Een verantwoorde inrichting vraagt daarom om nauwkeurig afgebakende bevoegdheden, onafhankelijke autorisatiecontroles, passende menselijke goedkeuring en doorlopende controle op systeemactiviteiten. Deze maatregelen beperken niet alleen de gevolgen van mogelijke aanvallen, maar beschermen organisaties ook tegen operationele fouten binnen hun eigen geautomatiseerde processen. De centrale beveiligingsvraag is daarmee niet hoeveel taken een AI-agent zelfstandig kan uitvoeren, maar onder welke voorwaarden die zelfstandigheid verantwoord kan worden toegestaan.


Bronverantwoording

1. OWASP – LLM06:2025 Excessive Agency
Beschrijving van beveiligingsrisico's door overmatige functionaliteit, bevoegdheden en autonomie bij AI-systemen, inclusief preventieve maatregelen.
https://genai.owasp.org/llmrisk/llm062025-excessive-agency/

2. OWASP – AI Agent Security Cheat Sheet
Technische aanbevelingen voor toegangsbeperkingen, autorisatie, menselijke goedkeuring en beveiliging van AI-agenten.
https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html

3. NIST – Design Tenets for Agent Identity Management Systems
Uitgangspunten voor digitale identiteiten, minimale bevoegdheden, tijdelijke autorisaties en controleerbaarheid van AI-agenten.
https://www.nist.gov/blogs/cybersecurity-insights/design-tenets-agent-identity-management-systems

4. Canadian Centre for Cyber Security – Careful Adoption of Agentic AI
Richtlijnen voor het veilig toepassen van AI-agenten, waaronder risicobeoordeling, toegangsbeheer en operationele beveiliging.
https://www.cyber.gc.ca/en/guidance/careful-adoption-agentic-ai