IT INSIGHTS Nieuws · · aangepast · 2 min Gemaakt met AI

Hackers zetten autonome AI in voor serverovername

Hackers zetten autonome AI in voor serverovername Beeld: gegenereerd met AI

Cybercriminelen maken voor het eerst op schaal gebruik van autonome AI-hulpmiddelen om kwetsbaarheden in software te misbruiken. Aanvallers hebben de opensource AI-penetratietestingtool Cairn ingezet om een tot dusver onbekend zeroday-lek te ontdekken in een medische applicatie voor beeldvorming. Met deze geavanceerde techniek wisten zij de volledige controle over een server over te nemen. Deze ontwikkeling markeert een zorgwekkende kanteling in het dreigingslandschap: artificiële intelligentie wordt niet langer alleen door beveiligers gebruikt, maar fungeert nu ook als een doeltreffend, autonoom wapen in handen van kwaadwillenden.

Liever luisteren? Dit artikel is ook als audio beschikbaar.

Het framework Cairn werd oorspronkelijk ontwikkeld als een ethisch instrument om beveiligingsrisico's automatisch op te sporen en te rapporteren. De aanval toont echter hoe snel opensource-technologie kan worden misbruikt voor kwaadaardige doeleinden. Binnen de Europese Unie groeit de bezorgdheid over zulke autonome AI-systemen, zeker wanneer cruciale sectoren zoals de gezondheidszorg het doelwit zijn. Nieuwe Europese regelgeving, waaronder de NIS2-richtlijn en de AI Act, verplicht organisaties om strenger toezicht te houden op softwarekwetsbaarheden en de inzet van AI-systemen. De incidenten onderstrepen de noodzaak voor snelle internationale informatie-uitwisseling.

Voor Nederlandse en Europese organisaties verandert het risicoprofiel ingrijpend. Doordat aanvallers nu geautomatiseerd zoeken naar onbekende lekken, neemt de reactietijd voor IT-beveiligers drastisch af. Vaste patch-cycli bieden onvoldoende bescherming tegen autonome cyberaanvallen. Bedrijven moeten investeren in proactieve, door AI ondersteunde verdedigingsmechanismen en continue monitoring. Zo kunnen zij afwijkingen direct opsporen voordat kwaadwillenden de regie over kritieke netwerken overnemen.

De verwachting is dat het gebruik van autonome AI-tools door cybercriminelen snel zal toenemen, wat leidt tot een nieuwe wapenwedloop in cyberspace. Beveiligingsteams zullen noodgedwongen hun strategieën moeten herzien en eveneens geautomatiseerde systemen moeten inzetten om aanvallen op gelijke snelheid te pareren. Het succesvol beveiligen van digitale infrastructuur hangt in de toekomst af van de snelheid waarmee defensieve AI-modellen kunnen reageren. Organisaties die hier niet tijdig op inspelen, lopen het risico de grip op hun eigen beveiliging definitief te verliezen.

Cybersecurity

Dossier: AI Act NIS2