AI-bedrijven waarschuwen voor risico's van kunstmatige intelligentie en bio-wapens

Toonaangevende AI-bedrijven als OpenAI en Anthropic uiten groeiende zorgen dat krachtige taalmodellen kunnen worden misbruikt voor het ontwikkelen van biologische wapens, en scherpen hun veiligheidsmaatregelen aan.

AI en bio-wapens vormen een combinatie waar grote technologiebedrijven zich steeds openlijker zorgen over maken. Uit recente berichtgeving blijkt dat toonaangevende AI-ontwikkelaars, waaronder OpenAI en Anthropic, waarschuwen dat geavanceerde AI-modellen mogelijk kunnen worden ingezet om biologische wapens te ontwerpen of te verbeteren. Deze zorgen zijn niet nieuw, maar krijgen door de snelle vooruitgang van generatieve AI een steeds urgenter karakter. Waar AI-systemen enkele jaren geleden nog moeite hadden met complexe wetenschappelijke redeneringen, kunnen de nieuwste modellen inmiddels gedetailleerde technische kennis produceren die relevant kan zijn voor biologische en chemische dreigingen.

Waarom AI-bedrijven zich zorgen maken

De angst van AI-bedrijven draait vooral om de zogeheten "dual-use"-aard van geavanceerde taalmodellen. Dezelfde kennis en redeneervaardigheden die AI nuttig maken voor medisch onderzoek, geneesmiddelenontwikkeling en wetenschappelijke doorbraken, kunnen in theorie ook worden misbruikt door kwaadwillenden. Naarmate AI-modellen beter worden in het combineren van complexe wetenschappelijke literatuur, groeit het risico dat ze onbedoeld een routekaart bieden voor het maken van gevaarlijke biologische agentia. Dit is een van de belangrijkste redenen waarom bedrijven als OpenAI en Anthropic biosecurity tot een kernonderdeel van hun veiligheidsbeleid hebben gemaakt.

Welke maatregelen worden genomen

Om deze risico's te beperken, hebben grote AI-spelers de afgelopen tijd verschillende beschermingsmechanismen ingevoerd. Zo testen bedrijven hun modellen vooraf uitgebreid op zogeheten "biologische uplift": de mate waarin een AI-systeem een gebruiker met kwade bedoelingen daadwerkelijk zou kunnen helpen bij het creëren van een biologisch wapen. Modellen die als risicovol worden beoordeeld, krijgen extra beveiligingslagen, waaronder:

• Geautomatiseerde filters die verdachte vragen over pathogenen en toxines blokkeren
• Samenwerking met externe biosecurity-experts en overheidsinstanties voor onafhankelijke risicobeoordelingen
• Interne "responsible scaling"-beleidskaders die bepalen wanneer een model niet mag worden vrijgegeven
• Monitoring van misbruikpatronen na lancering van een model

Deze aanpak past in een bredere trend waarbij AI-bedrijven zelf het initiatief nemen om risico's te beperken, mede omdat wetgeving vaak achterloopt op de technologische ontwikkeling. Dat is een terugkerend thema in de geschiedenis van kunstmatige intelligentie, waarin telkens blijkt dat regelgeving pas laat volgt op technologische doorbraken.

Rol van toezichthouders en overheden

De zorgen over AI en bio-wapens beperken zich niet tot de bedrijven zelf. Ook overheden en internationale organisaties volgen de ontwikkelingen nauwlettend. In de Verenigde Staten en Europa wordt gesproken over strengere eisen voor de meest krachtige AI-modellen, specifiek gericht op chemische, biologische, radiologische en nucleaire risico's (CBRN). Sommige AI-bedrijven pleiten zelf voor gerichte regelgeving op dit vlak, omdat zij vrezen dat een enkel bedrijf de risico's niet volledig kan beheersen zonder collectieve afspraken binnen de sector. Tegelijkertijd blijft het lastig om een balans te vinden tussen het beperken van misbruikrisico's en het openhouden van AI voor legitiem wetenschappelijk onderzoek, bijvoorbeeld naar nieuwe medicijnen en vaccins.

Bredere impact op AI-toepassingen

De discussie over bio-wapens laat zien hoe AI-veiligheid steeds meer verweven raakt met vraagstukken van nationale veiligheid. Dit is een significante verschuiving ten opzichte van eerdere zorgen, die vaak gingen over desinformatie of banenverlies. De gevoeligheid van dit onderwerp heeft ook gevolgen voor hoe bedrijven hun modellen positioneren binnen bredere AI-toepassingen, met name in de gezondheidszorg en life sciences, waar de grens tussen nuttig onderzoek en potentieel gevaarlijke kennis soms dun is.

Vooruitblik

De waarschuwingen van AI-bedrijven over bio-wapens onderstrepen dat de sector zich bewust is van de dubbele aard van haar eigen technologie. Nu AI-modellen steeds capabeler worden, zal de druk om robuuste veiligheidsmaatregelen te ontwikkelen alleen maar toenemen. Verwacht wordt dat bedrijven zoals OpenAI, Anthropic en andere grote spelers de komende maanden meer transparantie zullen bieden over hun testprocedures, terwijl overheden werken aan gerichte wetgeving voor de meest risicovolle AI-toepassingen. Voor wie de ontwikkelingen op de voet wil volgen, biedt meer AI-nieuws op StersSoftware regelmatig updates, en is onze kennisbank een goede plek om meer te leren over de achtergronden van AI-veiligheid.

NRC

---

Bron: NRC