Anthropic-topman Dario Amodei wil AI-ontwikkeling vertragen: kritiek en steun lopen uiteen

Anthropic-CEO Dario Amodei roept in het essay 'We Must Pace the Frontier' op tot een wereldwijde vertraging van AI-ontwikkeling. Sam Altman, Demis Hassabis en Elon Musk reageren instemmend, maar critici noemen het een marketingtruc en Meta wijst op zijn eigen stille aanpak.

AI vertragen staat weer bovenaan de agenda van de techindustrie, nadat Anthropic-CEO Dario Amodei met zijn essay "We Must Pace the Frontier" opriep tot een wereldwijde afremming van de ontwikkeling van kunstmatige intelligentie. Binnen een dag reageerden ook Sam Altman van OpenAI, Demis Hassabis van Google DeepMind en Elon Musk van xAI instemmend op de oproep. Toch is het verre van eensgezind: critici wijzen erop dat angst voor AI een beproefde marketingstrategie is, en Meta-topman Mark Zuckerberg laat weten dat zijn bedrijf gewoon stilletjes zelf al voorzichtiger te werk gaat.

Wat houdt Amodei's oproep tot vertraging precies in?

In zijn essay, gepubliceerd op 13 september 2026, waarschuwt Amodei dat AI-modellen binnen zes tot twaalf maanden in staat zouden kunnen zijn om "het hele internet over te nemen" als het tempo van vooruitgang niet wordt bijgesteld. Anthropic kondigde tegelijkertijd aan zijn modellen open te stellen voor permanente, onafhankelijke veiligheidsevaluaties door derde partijen. Amodei pleit ervoor dat de sector het tempo waarmee de capaciteiten van AI-modellen worden verbeterd, bewust vertraagt, onder meer vanwege het risico op zogeheten rogue AI-agents: systemen die zich onttrekken aan menselijke controle. Het essay staat niet op zichzelf. Eerder al ondertekenden meer dan duizend medewerkers van toonaangevende AI-bedrijven, waaronder de chief scientist van OpenAI en verschillende medeoprichters en vicepresidenten van Anthropic, Meta en Google, een open brief aan de Amerikaanse overheid. Daarin roepen zij op tot internationale afspraken om het tempo van geautomatiseerde AI-ontwikkeling bewust te kunnen afremmen.

Instemming van concurrenten, maar met kanttekeningen

Opvallend is dat rivalen als OpenAI, Google DeepMind en xAI zich publiekelijk achter het idee scharen. Sam Altman, Demis Hassabis en Elon Musk lieten binnen 24 uur weten de zorgen van Amodei te delen. Dat zoveel concurrenten in de AI-race elkaar vinden op het thema veiligheid, is opmerkelijk in een sector waarin bedrijven doorgaans juist wedijveren om als eerste met krachtigere modellen te komen. Toch klinkt er ook stevige kritiek. Volgens critici is het schetsen van doemscenario's inmiddels een beproefde marketingstrategie geworden voor bedrijven als Anthropic en OpenAI: het onderstreept hoe krachtig hun eigen technologie zou zijn, terwijl concrete onderbouwing vaak ontbreekt. Amodei geeft in zijn essay bijvoorbeeld niet aan hóe een AI-systeem "het internet zou kunnen overnemen" of wat dat scenario in de praktijk zou betekenen. De reactie "doe het dan" die in de Nederlandse berichtgeving rondom dit nieuws opduikt, vat die scepsis treffend samen: als een bedrijf zelf gelooft dat vertraging nodig is, waarom wacht het dan op instemming van anderen?

Meta kiest een andere weg

Meta-oprichter Mark Zuckerberg reageerde met een tegengeluid. Hij wees erop dat zijn bedrijf de release van zijn nieuwste AI-model al had uitgesteld om extra aandacht aan veiligheid te besteden, zonder daar eerst een publieke oproep aan andere bedrijven over te doen. "We deden het gewoon, als onderdeel van onze dagelijkse werkwijze, omdat het duidelijk het juiste was om te doen," aldus Zuckerberg. Daarmee plaatst hij kanttekeningen bij de symbolische waarde van open brieven en essays: volgens hem is verantwoord handelen belangrijker dan het aankondigen ervan.

Waarom dit debat ertoe doet

De discussie raakt de kern van hoe de grote spelers in kunstmatige intelligentie omgaan met de spanning tussen commerciële concurrentie en veiligheid. Voor beleidsmakers, bedrijven en gebruikers is het relevant om te volgen hoe dit zich ontwikkelt: leidt de oproep tot daadwerkelijke internationale afspraken over het temperen van de vooruitgang, of blijft het bij symbolische verklaringen terwijl de onderliggende race om steeds krachtigere modellen gewoon doorgaat? Wie de bredere context wil begrijpen, kan zich verdiepen in de geschiedenis van kunstmatige intelligentie en de manier waarop AI-toepassingen zich de afgelopen jaren razendsnel hebben ontwikkeld.

Conclusie

Amodei's pleidooi om de AI-ontwikkeling te vertragen zet een belangrijk debat op scherp: hoeveel vertrouwen mogen we hechten aan zelfopgelegde grenzen van bedrijven die tegelijkertijd garen spinnen bij het imago van "gevaarlijk krachtige" technologie? Terwijl OpenAI, Google DeepMind en xAI instemmend knikken en Meta liever stilzwijgend handelt dan praat, blijft de kernvraag onbeantwoord: wie controleert uiteindelijk het tempo van de AI-race? Benieuwd naar de laatste ontwikkelingen rond dit thema? Volg meer AI-nieuws of duik dieper in onze kennisbank voor achtergrond en context.

NOS

---

Bron: NOS