Anthropic-CEO Amodei slaat alarm: "AI-ontwikkeling gaat te snel"

Anthropic-topman Dario Amodei waarschuwt samen met andere AI-CEO's voor de razendsnelle ontwikkeling van kunstmatige intelligentie. Volgens critici komt de oproep tot vertraging te laat, terwijl president Trump de zorgen wegwuift.

De discussie over AI-ontwikkeling heeft een nieuwe wending genomen nu Anthropic-CEO Dario Amodei publiekelijk aan de bel trekt. Hij stelt dat de ontwikkeling van kunstmatige intelligentie momenteel zo snel gaat dat de veiligheid van de mensheid in het geding kan komen. Opvallend genoeg staat Amodei niet alleen: ook andere invloedrijke ceo's van AI-bedrijven scharen zich achter de oproep om meer toezicht en een langzamer tempo. Dat concurrerende bedrijven, die normaal juist wedijveren om de snelste en krachtigste modellen, nu gezamenlijk om een pas op de plaats vragen, is opmerkelijk en roept veel vragen op.

Waarom Anthropic nu aan de alarmbel trekt

Anthropic, opgericht door voormalige OpenAI-medewerkers, profileert zich al langer als het "veilige" alternatief binnen de AI-industrie. Toch is het zeldzaam dat een CEO van een groot AI-bedrijf zo expliciet waarschuwt voor de eigen sector. Amodei benadrukt dat de snelheid van AI-ontwikkeling de samenleving, wetgevers en zelfs de bedrijven zelf dreigt te overrompelen. Hij pleit voor onafhankelijk toezicht, strengere veiligheidstesten voordat nieuwe modellen worden uitgebracht, en internationale afspraken over de grenzen van AI-toepassingen. Critici, waaronder onderzoekers die door de Guardian zijn geciteerd, noemen de oproep echter "too little, too late". Zij wijzen erop dat dezelfde bedrijven die nu om regulering vragen, jarenlang hebben ingezet op steeds snellere modelreleases en fellere concurrentie. De vraag die veel waarnemers stellen: is dit oprechte bezorgdheid, of een strategische zet om regelgeving naar hun eigen hand te zetten voordat overheden dat zelf doen?

Trump wuift zorgen weg

De timing van de waarschuwing valt samen met uitspraken van de Amerikaanse president Donald Trump, die de zorgen over AI grotendeels van tafel veegt. Volgens Trump zijn de risico's overdreven en moet de Verenigde Staten koste wat het kost "het meest geavanceerde land" op het gebied van kunstmatige intelligentie blijven. Deze houding staat haaks op de oproep van Amodei en collega-ceo's, en onderstreept het spanningsveld tussen geopolitieke concurrentie enerzijds en veiligheidszorgen anderzijds. Dit contrast maakt duidelijk hoe complex het vraagstuk is: terwijl techbedrijven zelf om vertraging vragen, zet de Amerikaanse overheid juist in op versnelling om koploper te blijven ten opzichte van landen als China. Wie bepaalt uiteindelijk het tempo van AI-innovatie — de bedrijven, de overheid, of internationale samenwerkingsverbanden?

Wat betekent dit voor de toekomst van AI

De oproep van Amodei komt niet uit de lucht vallen. Al langer waarschuwen experts, waaronder AI-onderzoeker Steven Latré, voor de beperkingen van huidige AI-modellen. Latré vergeleek het morele kompas van een AI-model onlangs met dat van "een nuljarige": de technologie mist fundamenteel begrip van goed en kwaad, ook al lijkt ze steeds intelligenter. Deze combinatie van factoren — snelle technologische vooruitgang, gebrekkig moreel besef van AI-systemen, en verdeeldheid tussen bedrijfsleven en overheid — zorgt voor een precaire situatie. Nederlandse media als Nieuwsuur besteden er inmiddels ook aandacht aan, met de terugkerende vraag: neemt AI de wereld over, of is dit vooral een storm in een glas water?

Roep om internationaal toezicht

Amodei en zijn medestanders pleiten expliciet voor internationale samenwerking, vergelijkbaar met verdragen rond kernwapens of klimaatakkoorden. Zonder wereldwijde afspraken, zo luidt de redenering, zal geen enkel land of bedrijf zich vrijwillig laten afremmen, uit angst concurrentievoordeel te verliezen. Dit vraagt om een gecoördineerde aanpak tussen de Verenigde Staten, Europa en Azië — iets wat gezien de huidige geopolitieke spanningen allesbehalve vanzelfsprekend is.

Conclusie: een kantelpunt in het AI-debat?

De waarschuwing van Dario Amodei markeert mogelijk een kantelpunt in het publieke debat over kunstmatige intelligentie. Of het nu gaat om oprechte bezorgdheid of strategisch positioneren, feit is dat de discussie over verantwoorde AI-ontwikkeling in een stroomversnelling is geraakt. Terwijl Trump vasthoudt aan Amerikaans technologisch leiderschap, groeit elders de roep om rem en regelgeving. Wil je meer weten over hoe we hier terecht zijn gekomen, lees dan de geschiedenis van kunstmatige intelligentie. Benieuwd wat AI vandaag de dag al mogelijk maakt? Bekijk dan onze pagina over AI-toepassingen. Voor duiding en achtergrond verwijzen we je graag naar onze kennisbank, en blijf op de hoogte via meer AI-nieuws.

Volkskrant

---

Bron: Volkskrant