Altman en Amodei pleiten bij VN-Veiligheidsraad voor internationale AI-standaarden

OpenAI-topman Sam Altman en Anthropic-CEO Dario Amodei riepen de VN-Veiligheidsraad op om wereldwijde standaarden voor kunstmatige intelligentie vast te leggen, om de risico's van ongereguleerde AI-ontwikkeling te beperken.

Kunstmatige intelligentie staat opnieuw hoog op de internationale veiligheidsagenda nu Sam Altman van OpenAI en Dario Amodei van Anthropic de VN-Veiligheidsraad hebben opgeroepen om internationale AI-standaarden vast te stellen. De twee topmannen van de meest invloedrijke AI-bedrijven ter wereld waarschuwen dat de snelle ontwikkeling van AI-systemen zonder duidelijke wereldwijde afspraken grote risico's met zich meebrengt voor de veiligheid en stabiliteit tussen landen.

Waarom Altman en Amodei naar de VN stappen

Altman en Amodei behoren tot de meest prominente stemmen in de AI-industrie en hebben eerder al gewaarschuwd voor de gevaren van ongecontroleerde AI-ontwikkeling. Door zich nu rechtstreeks tot de VN-Veiligheidsraad te richten, benadrukken ze dat AI niet langer alleen een technologisch vraagstuk is, maar ook een kwestie van internationale veiligheid. Beide bedrijven, verantwoordelijk voor toonaangevende modellen als GPT en Claude, pleiten voor gedeelde regels die voorkomen dat AI-systemen worden ingezet voor doeleinden die de wereldwijde stabiliteit ondermijnen. De oproep komt op een moment dat de discussie over AI-veiligheid wereldwijd escaleert. Overheden, veiligheidsdiensten en techbedrijven worstelen met de vraag hoe snel vorderende AI-modellen op een verantwoorde manier kunnen worden ingezet, zonder dat kwaadwillenden er misbruik van maken.

Internationale standaarden als oplossing

Het voorstel van Altman en Amodei richt zich op het opzetten van gemeenschappelijke internationale AI-standaarden, vergelijkbaar met bestaande verdragen op het gebied van nucleaire wapens of cyberveiligheid. Zonder zulke afspraken, zo stellen de CEO's, ontstaat het risico dat landen en bedrijven een ongelijke en ongecontroleerde race aangaan om steeds krachtigere AI-systemen te ontwikkelen. Belangrijke punten die worden genoemd:

Gedeelde veiligheidsnormen

Beide bedrijven pleiten voor uniforme veiligheidsnormen waaraan AI-ontwikkelaars wereldwijd zich moeten houden, zodat er geen zwakke plekken ontstaan bij bedrijven of landen die minder strenge regels hanteren.

Transparantie en toezicht

Een tweede pijler is meer transparantie over hoe krachtige AI-modellen worden getraind en ingezet, zodat internationale toezichthouders zicht houden op ontwikkelingen die een risico kunnen vormen voor de veiligheid.

Groeiende zorgen over AI-risico's

De oproep van Altman en Amodei sluit aan bij een breder patroon van zorgen die de afgelopen tijd naar voren zijn gekomen. Ook in Nederland uiten veiligheidsdiensten hun bezorgdheid over mogelijke AI-aanvallen, en experts wijzen op de risico's van desinformatie en manipulatie door steeds geavanceerdere AI-systemen. Dat juist de makers van de meest gebruikte AI-modellen ter wereld nu zelf om strengere internationale regels vragen, onderstreept hoe serieus deze risico's inmiddels worden genomen binnen de sector zelf. Voor een goed begrip van hoe AI zich tot dit punt heeft ontwikkeld, is het interessant om de geschiedenis van kunstmatige intelligentie erbij te pakken. Wat begon als academisch onderzoek, is inmiddels uitgegroeid tot een technologie die overheden en bedrijven wereldwijd raakt.

Wat betekent dit voor de AI-sector?

Als de VN-Veiligheidsraad daadwerkelijk gehoor geeft aan de oproep van Altman en Amodei, kan dit grote gevolgen hebben voor hoe bedrijven wereldwijd AI-modellen ontwikkelen en uitrollen. Internationale standaarden zouden kunnen betekenen dat bedrijven zich moeten houden aan strengere testprocedures, meldplichten en veiligheidsprotocollen voordat nieuwe AI-modellen worden vrijgegeven. Dit raakt niet alleen grote spelers zoals OpenAI en Anthropic, maar ook andere partijen die actief zijn met AI-toepassingen in uiteenlopende sectoren, van zorg tot financiën. Een gedeeld internationaal kader zou bedrijven meer duidelijkheid geven over waar de grenzen liggen, terwijl het tegelijk innovatie niet onnodig hoeft te vertragen als de regels wereldwijd gelijk worden toegepast.

Conclusie

De oproep van Sam Altman en Dario Amodei aan de VN-Veiligheidsraad markeert een belangrijk moment in het internationale debat over AI-veiligheid. Doordat juist de makers van toonaangevende AI-modellen zelf aandringen op wereldwijde standaarden, krijgt de discussie over regulering een nieuwe impuls. Of de Veiligheidsraad daadwerkelijk stappen zal zetten, is nog onduidelijk, maar de oproep laat zien dat de urgentie rond veilige en verantwoorde AI-ontwikkeling wereldwijd wordt gevoeld. Blijf op de hoogte via meer AI-nieuws en verdiep je verder via onze kennisbank.

CNN

---

Bron: CNN