Anthropic-CEO Dario Amodei roept op tot vertraging van AI-ontwikkeling

Dario Amodei, topman van Anthropic, pleit ervoor dat AI-bedrijven het tempo van hun ontwikkeling bewust vertragen. Zijn oproep valt samen met vergelijkbare geluiden van OpenAI en groeiende zorgen in de Amerikaanse Senaat over de risico's van razendsnelle AI-vooruitgang.

AI-ontwikkeling vertragen staat plotseling weer bovenaan de agenda in Silicon Valley, nu Anthropic-CEO Dario Amodei openlijk heeft opgeroepen tot een bewuste vertraging van het tempo waarin nieuwe AI-modellen worden ontwikkeld. In een interview met The New York Times waarschuwt Amodei dat de razendsnelle vooruitgang in kunstmatige intelligentie risico's met zich meebrengt die de sector momenteel onvoldoende onder controle heeft. Zijn uitspraken komen op een moment dat ook andere grote spelers, waaronder OpenAI, aangeven dat een gematigder tempo verstandiger zou zijn.

Wat zei Amodei precies?

Volgens berichtgeving van onder meer Axios en BNR Nieuwsradio benadrukte Amodei dat AI-bedrijven, waaronder zijn eigen Anthropic, bewust een stapje terug moeten doen in de wedloop om steeds krachtigere modellen. Hij stelt dat de huidige ontwikkelsnelheid ertoe leidt dat veiligheidswaarborgen niet altijd de kans krijgen om gelijke tred te houden met de technologische vooruitgang. Amodei is opvallend genoeg zelf verantwoordelijk voor een bedrijf dat wordt gezien als een van de koplopers op het gebied van geavanceerde taalmodellen, wat zijn oproep extra gewicht geeft. Zijn boodschap sluit aan bij eerdere waarschuwingen die hij al langer uit over de maatschappelijke impact van AI-toepassingen op de arbeidsmarkt en de samenleving als geheel.

Niet de enige stem: ook OpenAI twijfelt over het tempo

Wat deze oproep extra opmerkelijk maakt, is dat Amodei niet alleen staat. Volgens Axios hebben ook topmensen bij OpenAI zich uitgesproken over de wenselijkheid van een lager ontwikkeltempo. Dat twee directe concurrenten, die normaal gesproken juist wedijveren om als eerste met de volgende doorbraak te komen, gezamenlijk pleiten voor terughoudendheid, wordt door analisten gezien als een signaal dat de zorgen binnen de sector zelf toenemen. Dit past in een breder patroon dat teruggaat tot de vroege discussies rond de geschiedenis van kunstmatige intelligentie, waarin telkens periodes van euforie werden gevolgd door oproepen tot voorzichtigheid.

Silicon Valley reageert verdeeld

Niet iedereen in de techsector neemt de waarschuwingen even serieus. De BBC meldde dat dramatische waarschuwingen van insiders binnen delen van Silicon Valley juist met scepsis worden ontvangen. Sommige investeerders en oprichters vinden dat oproepen tot vertraging vooral strategisch zijn: door zelf te pleiten voor regels en een lager tempo, kunnen gevestigde spelers als Anthropic en OpenAI hun voorsprong beschermen tegen nieuwe, snel opkomende concurrenten. Anderen zien de oproep juist als een oprechte erkenning dat de technologie sneller gaat dan de maatschappij, wetgeving en zelfs de bedrijven zelf kunnen bijbenen.

Politieke druk vanuit de Amerikaanse Senaat

De timing van Amodei's uitspraken valt samen met berichtgeving van Reuters dat onderhandelaars in de Amerikaanse Senaat overwegen om AI-bedrijven wettelijk te verplichten bekende grote risico's actief te beperken. Waar de sector tot nu toe grotendeels zelfregulerend opereerde, lijkt er nu een verschuiving gaande naar concretere wetgeving. Dit zou betekenen dat bedrijven niet langer vrijblijvend kunnen kiezen of en hoe zij risico's beperken, maar hiertoe verplicht worden. Voor bedrijven als Anthropic, OpenAI en andere grote AI-spelers zou dit een fundamentele verandering in de manier van werken betekenen.

Waarom dit ertoe doet

De discussie rond het tempo van AI-ontwikkeling raakt aan een kernvraag: wie bepaalt hoe snel deze technologie de samenleving binnendringt? Nu grote techbedrijven zoals Anthropic, OpenAI, maar ook Microsoft, Google en Meta enorme sommen investeren in steeds krachtigere modellen, groeit de roep om een pas op de plaats. Tegelijkertijd blijft de commerciële druk om te innoveren enorm, zeker nu bedrijven als Oracle honderden miljoenen dollars extra investeren in AI-gerelateerde reorganisaties. Dit spanningsveld tussen commercieel belang en verantwoord innoveren zal de komende maanden waarschijnlijk een van de belangrijkste thema's in de sector blijven.

Vooruitblik

De oproep van Dario Amodei markeert mogelijk een kantelpunt in het publieke debat over kunstmatige intelligentie. Of bedrijven daadwerkelijk hun ontwikkeltempo zullen aanpassen, valt nog te bezien, zeker gezien de enorme concurrentiedruk en investeringen die al gedaan zijn. Wel is duidelijk dat de roep om regulering, zowel vanuit de sector zelf als vanuit de politiek, luider wordt. Wie de ontwikkelingen op de voet wil volgen, kan terecht bij meer AI-nieuws of verdieping vinden in onze kennisbank.

The New York Times

---

Bron: The New York Times