Kunstmatige intelligentie krijgt steeds vaker verregaande toegang tot bedrijfssystemen om zelfstandig taken uit te voeren. Hoewel deze AI-agents de efficiëntie enorm verhogen, ontstaat er een nieuw en onderbelicht beveiligingsrisico. Kwaadwillenden kunnen de agenten namelijk ongemerkt manipuleren via kwaadaardige e-mails, websites of plugins. Hierdoor voeren de assistenten opdrachten uit van aanvallers, met mogelijke datadiefstal of het wissen van bestanden tot gevolg. Beveiligingsbedrijf Gen Digital speelt in op deze dreiging met het nieuwe Agent Trust Hub, dat AI-agenten moet beschermen tegen onbevoegde manipulatie.
Het probleem schuilt in de manier waarop AI-agents informatie verwerken. Via zogeheten indirecte prompt-injectie kunnen aanvallers instructies verbergen in alledaagse bestanden of e-mails. Zodra de AI de tekst leest, voert deze de verborgen commando's uit met de legitieme rechten van de gebruiker. Om dit tegen te gaan, integreert het Agent Trust Hub van Gen Digital vaardigheidsverificatie, veilige verbindingen en actieve controles tijdens de uitvoering. Dit is van groot belang binnen de Europese Unie, waar strengere wetgeving zoals de EU AI Act en NIS2-richtlijnen organisaties verplichten om de controle over hun geautomatiseerde en intelligente processen aantoonbaar te waarborgen.
Voor Nederlandse bedrijven betekent dit een omslag in de digitale beveiligingsstrategie. AI-integratie biedt grote kansen voor automatisering, maar zonder adequate bescherming ontstaat een ernstig datalekrisico. De uitdaging is dat traditionele beveiligingssoftware de subtiele manipulatie van AI-context niet herkent. Organisaties moeten daarom investeren in specifieke AI-runtime-beveiliging om te voorkomen dat vertrouwelijke bedrijfsinformatie via geautoriseerde assistenten op straat belandt.
De snelle opkomst van autonome software vereist een nieuwe benadering van toegangsbeheer en identiteit. Beveiliging verschuift van statische autorisatie vooraf naar continue, dynamische controle tijdens de uitvoering van taken. Oplossingen zoals het Agent Trust Hub tonen aan dat het monitoren van AI-acties noodzakelijk wordt voor een veilige digitale transformatie. De vraag wie de AI aanstuurt moet constant worden gesteld, waarbij de controle over eigen systemen de absolute prioriteit blijft.