Anthropic onthult plan voor controle over krachtige AI na vertrek van oprichters

28 oktober 2026 · 07:00 · Claude (Anthropic) · claude-sonnet-5

Anthropic heeft een governance-structuur gepresenteerd die moet garanderen dat zijn krachtige AI-modellen ook na het vertrek van de huidige leiders aan de oorspronkelijke veiligheidsmissie gebonden blijven.

Anthropic heeft deze week details bekendgemaakt over een langetermijnplan dat moet regelen wie de controle krijgt over zijn steeds krachtigere AI-modellen zodra de huidige oprichters en leidinggevenden ooit vertrekken. Het Amerikaanse AI-bedrijf, bekend van de Claude-modellen, wil met deze governance-structuur voorkomen dat commerciële druk op termijn de veiligheidsmissie van het bedrijf ondermijnt. Het plan komt op een moment dat de discussie over wie uiteindelijk zeggenschap heeft over geavanceerde kunstmatige intelligentie in alle hevigheid losbarst, nu modellen van grote spelers als OpenAI, Google en Microsoft steeds autonomer en invloedrijker worden.

Waarom Anthropic nu met een governanceplan komt

Anthropic is opgericht door voormalige OpenAI-medewerkers die juist vertrokken omdat ze zich zorgen maakten over de richting van AI-ontwikkeling bij hun vorige werkgever. Die achtergrond verklaart waarom het bedrijf veel nadruk legt op structurele waarborgen in plaats van alleen beloftes van de huidige leiding. Het nieuwe plan bouwt voort op de bestaande Long-Term Benefit Trust, een onafhankelijk orgaan van trustees zonder financieel belang in het bedrijf, dat als taak heeft toe te zien op de veiligheidsmissie van Anthropic, los van de belangen van aandeelhouders.

Met het uitgebreide plan wil Anthropic nu expliciet vastleggen wat er gebeurt wanneer de huidige oprichters, waaronder topman Dario Amodei, niet langer aan het roer staan. De kernvraag is simpel maar fundamenteel: wie bepaalt of en hoe een extreem krachtig AI-systeem wordt ingezet, als de mensen die het bedrijf nu nog persoonlijk sturen er niet meer zijn?

Wat de governance-structuur concreet regelt

Volgens de toelichting van Anthropic draait het plan om een combinatie van juridische en structurele maatregelen die de missie van het bedrijf moeten "vastklikken", onafhankelijk van wie er aan de top staat. Enkele kernonderdelen:

• Een vaste rol voor onafhankelijke trustees die zwaarwegende beslissingen over veiligheid kunnen blokkeren, ook als die ingaan tegen commerciële belangen.
• Duidelijke drempels waarbij extra toezicht verplicht wordt zodra modellen bepaalde risiconiveaus bereiken, bijvoorbeeld op het gebied van cyberveiligheid of biologische risico's.
• Procedures voor opvolging van leiderschap, zodat de veiligheidsmissie niet afhankelijk is van individuele personen.

Deze aanpak sluit aan bij wat Anthropic eerder al deed met zijn "Responsible Scaling Policy", waarin het bedrijf zelf grenzen stelt aan hoe krachtig een model mag worden ingezet zonder aanvullende veiligheidsmaatregelen. Het nieuwe governanceplan voegt daar een laag aan toe die moet voorkomen dat toekomstige bestuurders die grenzen simpelweg kunnen schrappen.

Een bredere trend in de AI-industrie

Anthropic staat niet alleen in deze zoektocht naar duurzame controlemechanismen. Ook OpenAI worstelt al jaren met de vraag hoe een winstgevende onderneming zich kan blijven houden aan een oorspronkelijke non-profitmissie, iets wat bij dat bedrijf tot interne conflicten heeft geleid. Door nu, terwijl het bedrijf nog relatief jong is, een structuur vast te leggen, probeert Anthropic dit soort spanningen voor te zijn. Het past ook in de geschiedenis van kunstmatige intelligentie, waarin telkens weer blijkt dat technologische doorbraken sneller gaan dan de regelgeving en interne controlemechanismen die ervoor moeten zorgen dat ze veilig worden ingezet.

Critici wijzen er wel op dat zelfs de meest doordachte governance-structuur weinig waard is zolang er geen extern, onafhankelijk toezicht bestaat dat verder gaat dan zelfregulering door het bedrijf zelf. Toezichthouders in de Verenigde Staten en Europa kijken dan ook met interesse naar dit soort initiatieven, als mogelijke blauwdruk voor toekomstige wetgeving rond geavanceerde AI-systemen.

Wat dit betekent voor gebruikers en bedrijven

Voor bedrijven en ontwikkelaars die gebruikmaken van Claude en andere Anthropic-modellen kan deze governance-structuur op termijn meer voorspelbaarheid bieden: beslissingen over het al dan niet uitbrengen van nieuwe, krachtigere modellen worden niet langer louter bepaald door marktdruk of concurrentie met spelers als OpenAI en Google. Tegelijk laat het zien hoe serieus grote AI-labs inmiddels nadenken over de risico's van hun eigen technologie, iets dat relevant is voor iedereen die AI-toepassingen inzet binnen de eigen organisatie.

Conclusie

Het governanceplan van Anthropic is een opvallende stap in een sector waarin de race om steeds krachtigere modellen doorgaans harder klinkt dan de roep om zorgvuldigheid. Of de structuur in de praktijk standhoudt wanneer de belangen echt op scherp komen te staan, zal moeten blijken. Wie de ontwikkelingen rond AI-veiligheid en -regulering op de voet wil volgen, kan terecht bij meer AI-nieuws en de achtergrondartikelen in onze kennisbank.

Reuters

Bron: Reuters