AI-godfather bouwt veilige AI (met €30 miljoen!)
IT Insights
De urgentie van LawZero’s missie wordt onderstreept door de recente snelle ontwikkelingen in de AI-wereld. Grote taalmodellen zoals ChatGPT en Bard tonen de enorme mogelijkheden van AI, maar brengen tegelijkertijd ook serieuze risico’s met zich mee, zoals de verspreiding van desinformatie, het mogelijk maken van grootschalige manipulatie en de verergering van bestaande maatschappelijke ongelijkheden. Bengio en zijn team bij LawZero zijn van mening dat de huidige focus op schaalvergroting en prestatieverbetering zonder voldoende aandacht voor veiligheid een gevaarlijke koers is. Daarom wil LawZero de focus verleggen naar het ontwikkelen van robuuste en betrouwbare AI-systemen die bestand zijn tegen misbruik en onbedoelde gevolgen. Dit vereist diepgaand onderzoek naar de fundamentele principes van AI-veiligheid, inclusief het ontwikkelen van nieuwe methoden voor het testen en valideren van AI-systemen en het creëren van mechanismen om de impact van AI op de samenleving te monitoren en te reguleren. Door samenwerking met andere onderzoekers en organisaties hoopt LawZero een wereldwijde inspanning te stimuleren om de risico’s van AI te beheersen en de voordelen ervan te maximaliseren.
De financiering van 30 miljoen dollar stelt LawZero in staat om een team van toponderzoekers samen te stellen en te investeren in de benodigde infrastructuur voor hun onderzoek. De steun van prominente figuren zoals Eric Schmidt en Jaan Tallinn onderstreept het groeiende bewustzijn van het belang van AI-veiligheid. LawZero wil een open en collaboratieve aanpak hanteren, waarbij de resultaten van hun onderzoek breed beschikbaar worden gesteld aan de AI-gemeenschap. De organisatie hoopt hiermee een katalysator te zijn voor verandering binnen de AI-sector en een verschuiving teweeg te brengen naar een meer verantwoordelijke en ethische ontwikkeling van AI-technologieën. Uiteindelijk is het doel van LawZero om ervoor te zorgen dat AI een kracht ten goede blijft en bijdraagt aan een betere toekomst voor iedereen. Door te investeren in fundamenteel onderzoek en open samenwerking wil LawZero de basis leggen voor een veilige en duurzame ontwikkeling van kunstmatige intelligentie.
