De CEO van Cohere, Aidan Gomez, heeft een duidelijke waarschuwing afgegeven over voorstellen voor gecoördineerde AI-veiligheidsstandaarden door de grootste 'frontier AI labs'. Hij stelt dat een dergelijke aanpak kan leiden tot de consolidatie van macht bij dominante spelers zoals OpenAI en Anthropic, wat neerkomt op een 'kartel'. Gomez benadrukt de noodzaak van robuustere waarborgen, onafhankelijke tests en grotere transparantie, maar beargumenteert dat de regels door een bredere groep belanghebbenden moeten worden gevormd. Dit standpunt werpt een cruciale vraag op over de governance van toekomstige AI-ontwikkeling en de balans tussen veiligheid, innovatie en eerlijke concurrentie, met verstrekkende gevolgen voor de mondiale technologische landschap.
De discussie over AI-veiligheid wint internationaal aan momentum, met voorstellen om risico's van geavanceerde AI-systemen te mitigeren. Gomez' kritiek richt zich specifiek op de besloten aard van de coördinatie tussen enkele toonaangevende ontwikkelaars. Terwijl bedrijven als Anthropic en OpenAI een proactieve rol claimen in het vaststellen van veiligheidsprotocollen, bepleit Cohere – een belangrijke speler in de ontwikkeling van concurrerende grote taalmodellen – een inclusievere benadering. Dit omvat de input van academici, maatschappelijke organisaties, kleinere AI-bedrijven en overheden, wat resulteert in een robuuster en democratischer kader. De EU AI Act, die een breed scala aan stakeholders betrekt, dient als voorbeeld van een meer holistische regulatoire visie.
Voor Nederland en Europa is deze discussie van strategisch belang. Een 'AI-kartel' kan innovatie belemmeren en de afhankelijkheid van enkele grote Amerikaanse spelers vergroten, wat strijdig is met de Europese ambities voor digitale soevereiniteit. Gomez' pleidooi biedt kansen voor Europese AI-bedrijven en onderzoekers om een actievere rol te spelen in de vorming van mondiale standaarden, buiten de invloedssfeer van gevestigde techgiganten. Dit kan leiden tot een meer gediversifieerd en competitief AI-ecosysteem in Europa.
De uitspraken van Gomez zullen de komende maanden ongetwijfeld leiden tot een intensivering van het debat over de governance van AI. Beleidsmakers wereldwijd, waaronder in de EU, zullen onder druk komen te staan om te kiezen tussen een reguleringsmodel dat uitgaat van zelfregulatie door een kleine groep machtige bedrijven of een model dat transparantie, onafhankelijkheid en brede stakeholderparticipatie omarmt. De uitdaging ligt in het creëren van een mondiaal raamwerk dat veiligheid waarborgt zonder innovatie te verstikken of concurrentie te ondermijnen. Een inclusieve aanpak is essentieel om te voorkomen dat de toekomst van AI wordt gedicteerd door een selecte groep, met potentieel nadelige gevolgen voor de gehele samenleving.