Google DeepMind investeert $10 miljoen in veiligheid van multi-agent AI

2026-06-12T08:00:00 · Claude (Anthropic) · claude-sonnet-4-6

Google DeepMind lanceert samen met Schmidt Sciences, ARIA en Google.org een financieringsoproep van $10 miljoen voor onderzoek naar de veiligheid van multi-agent AI-systemen – een initiatief dat de fundering moet leggen voor betrouwbare AI-ecosystemen van de toekomst.

Google DeepMind heeft op 11 juni 2026 een belangrijke stap gezet op het gebied van AI-veiligheid door een financieringsoproep van $10 miljoen aan te kondigen voor onderzoek naar de veiligheid van multi-agent AI-systemen. Dit initiatief, in samenwerking met Schmidt Sciences, de Cooperative AI Foundation, ARIA en Google.org, richt zich op een van de meest urgente uitdagingen in de moderne AI-ontwikkeling: wat gebeurt er wanneer miljoenen autonome AI-agenten met elkaar beginnen te interacteren?

Waarom multi-agent AI-veiligheid zo urgent is

De opkomst van autonome AI-agenten is niet langer toekomstmuziek. Steeds meer bedrijven en organisaties zetten AI-systemen in die zelfstandig taken uitvoeren, beslissingen nemen en met andere systemen communiceren. Maar terwijl individuele AI-modellen al uitvoerig worden getest op veiligheid en betrouwbaarheid, blijft er een grote blinde vlek: de risico's die ontstaan wanneer meerdere agenten tegelijkertijd en in onderlinge samenwerking opereren.

Zoals Google DeepMind zelf stelt: "Interagerende autonome agenten kunnen complexe, emergente gedragingen produceren die moeilijk te voorspellen zijn." De huidige veiligheidsevaluaties analyseren doorgaans individuele modellen in isolatie en missen daardoor risico's die pas zichtbaar worden wanneer systemen collectief met elkaar interacteren. Dit is precies het gat dat dit nieuwe onderzoeksinitiatief wil dichten. Voor meer context over hoe AI zich door de jaren heen heeft ontwikkeld, lees ook over de geschiedenis van kunstmatige intelligentie.

Vier onderzoeksprioriteiten

Het financieringsprogramma richt zich op vier concrete onderzoeksgebieden die samen de veiligheidsfundamenten voor toekomstige multi-agent ecosystemen moeten leggen:

Sandboxen en testomgevingen – Het ontwikkelen van realistische omgevingen om multi-agent interacties te evalueren, waaronder virtuele markten en gesimuleerde ecosystemen. Alleen in gecontroleerde omgevingen kunnen onderzoekers de complexe dynamiek tussen agenten echt doorgronden.
De wetenschap van agentnetwerken – Hoe ontstaan collectieve capaciteiten in netwerken van agenten? Wanneer worden netwerken instabiel, en hoe worden gevaarlijke eigenschappen op populatieniveau tijdig gedetecteerd voordat ze problemen veroorzaken?
Agentinfrastructuur – Het stresstesten van protocollen voor identiteit, reputatie en veilige cross-platform interacties. Wanneer AI-agenten van verschillende organisaties met elkaar communiceren, zijn robuuste standaarden nodig om manipulatie en misbruik te voorkomen.
Toezicht en controle – Het ontwikkelen van monitoringmethoden om collectieve schade op grote schaal te beperken en menselijk toezicht te waarborgen, ook als het aantal interagerende agenten in de miljoenen loopt.

Een indrukwekkend consortium

De samenwerking tussen Google DeepMind en de andere partners geeft dit initiatief een brede internationale reikwijdte. Schmidt Sciences, opgericht door voormalig Google-CEO Eric Schmidt, brengt substantiële financiering en wetenschappelijke netwerken mee. De Cooperative AI Foundation is gespecialiseerd in onderzoek naar hoe AI-systemen beter kunnen samenwerken met mensen en met elkaar. ARIA (Advanced Research and Invention Agency) is het Britse equivalent van het Amerikaanse DARPA en richt zich op baanbrekend technologisch onderzoek. Google.org, de filantropische tak van Alphabet, rondt het consortium af.

De aanvraagdeadline voor onderzoeksfinanciering is 8 augustus 2026, waarna de winnende projecten in de herfst van 2026 worden bekendgemaakt. Het programma staat open voor academische en onafhankelijke onderzoekers wereldwijd, via het aanvraagportaal van Schmidt Sciences.

Een strategische zet in de AI-veiligheidsrace

Google DeepMind's investering is niet alleen wetenschappelijk relevant, maar ook strategisch van groot belang. In een tijd waarin OpenAI, Anthropic, Meta en andere grote spelers hun AI-capaciteiten in een hoog tempo uitbreiden, wordt veiligheid steeds meer een onderscheidende factor. Bedrijven en overheden willen weten dat de AI-systemen die zij inzetten betrouwbaar, voorspelbaar en controleerbaar blijven – ook wanneer ze met andere systemen samenwerken. Dit initiatief past bovendien in een bredere trend van proactief investeren in AI-veiligheid, mede gedreven door regelgeving zoals de Europese AI Act.

Praktische impact op alle sectoren

De resultaten van dit onderzoek zullen zich in de komende jaren laten voelen in vrijwel alle sectoren. Van autonome voertuigen die moeten communiceren met verkeersinfrastructuur, tot AI-assistenten in de gezondheidszorg die samenwerken met elektronische patiëntendossiers en medische apparatuur – de AI-toepassingen waarbij meerdere agenten samenwerken zijn legio. Zonder robuust veiligheidsonderzoek lopen we het risico dat deze systemen onvoorspelbaar gedrag vertonen op het moment dat we er juist het meest op vertrouwen.

Conclusie: veiligheid als fundament voor de volgende AI-golf

Google DeepMind's initiatief van $10 miljoen voor multi-agent AI-veiligheidsonderzoek is een duidelijk signaal aan de hele sector: de volgende fase van AI-ontwikkeling vereist niet alleen meer rekenkracht en slimmere modellen, maar ook een solide veiligheidsinfrastructuur. Door nu te investeren in de wetenschappelijke grondslagen van veilige multi-agent systemen, legt Google DeepMind het fundament voor een AI-ecosysteem dat schaalbaar én betrouwbaar is. Onderzoekers wereldwijd kunnen tot 8 augustus 2026 een aanvraag indienen en zo bijdragen aan dit cruciale werk.

Volg meer AI-nieuws op Stersoftware of verdiep je verder via onze kennisbank.

Google DeepMind Blog