Een Nederlandse verzekeraar startte recent met de voorbereiding op de AI-wetgeving. De eerste stap was het inventariseren van alle bestaande en geplande AI-systemen. Hun tool voor fraudedetectie en de software voor het beoordelen van claims werden direct als hoogrisico geclassificeerd. Het bedrijf stelde een multidisciplinair team samen, met leden uit IT, legal en business, om een intern AI-governance framework op te zetten dat de datakwaliteit en het menselijk toezicht waarborgt, conform de nieuwe regels.
Voor hoogrisico AI-systemen stelt de Europese AI-wet specifieke verplichtingen. Organisaties moeten een robuust risicomanagementsysteem implementeren, zorgen voor representatieve en foutloze datasets om bias te minimaliseren, en uitgebreide technische documentatie bijhouden. Daarnaast is transparantie naar gebruikers over de interactie met een AI-systeem en effectief menselijk toezicht gedurende de gehele levenscyclus van het systeem een harde eis voor compliance.
Om praktisch aan de slag te gaan, kunnen organisaties een helder stappenplan volgen. Begin met het in kaart brengen van al het AI-gebruik en classificeer elk systeem volgens de risiconiveaus van de AI Act. Wijs vervolgens een centrale verantwoordelijke aan, bijvoorbeeld een AI Compliance Officer. Ontwikkel daarna een intern beleid voor verantwoorde AI en start met het documenteren van de databronnen en algoritmes van de meest risicovolle toepassingen.
Wachten op de handhaving van de AI Act is een riskante strategie. Door nu te investeren in AI-governance en compliance, verklein je niet alleen juridische en financiële risico’s, maar bouw je ook aan vertrouwen bij klanten en partners. Gereguleerde innovatie wordt zo een strategisch voordeel dat je onderscheidt in de markt. Een belangrijke vraag resteert: hoe ver is jouw organisatie al met de voorbereiding op de AI Act?