ChatGPT krijgt onzichtbaar watermerk in AI-teksten: zo wil OpenAI AI-content herkenbaar maken

OpenAI test een onzichtbaar watermerk voor tekst die ChatGPT genereert, zodat AI-content beter te onderscheiden is van door mensen geschreven teksten. De maatregel moet misbruik tegengaan, maar roept ook vragen op over privacy en omzeilbaarheid.

ChatGPT gaat binnenkort een onzichtbaar watermerk toevoegen aan teksten die de chatbot genereert. Dat betekent dat AI-gegenereerde content voortaan via een verborgen patroon in de tekst te herkennen is, zonder dat lezers daar iets van merken. Het nieuws, dat deze week naar buiten kwam, markeert een belangrijke stap in de aanhoudende discussie over de herkenbaarheid van door kunstmatige intelligentie geschreven content en sluit aan bij de geschiedenis van kunstmatige intelligentie, waarin transparantie en vertrouwen steeds grotere thema's worden.

Hoe werkt het onzichtbare watermerk van ChatGPT?

Het watermerk dat OpenAI ontwikkelt, werkt op een subtiele manier: in plaats van een zichtbaar label of logo, wordt er een statistisch patroon verwerkt in de woordkeuze en zinsopbouw van de gegenereerde tekst. Dit patroon is voor het menselijk oog niet waarneembaar, maar kan met speciale detectiesoftware worden uitgelezen. Hiermee onderscheidt deze methode zich van eerdere pogingen om AI-tekst te labelen, die vaak draaiden om metadata of zichtbare vermeldingen die eenvoudig te verwijderen waren. De techniek bouwt voort op onderzoek naar zogeheten tekstwatermerken, waarbij de kans op bepaalde woordcombinaties net iets wordt bijgestuurd tijdens het genereren van tekst. Voor de gebruiker verandert er niets aan de leeservaring, maar instellingen, onderwijsinstellingen en platformen kunnen in theorie straks controleren of een tekst door ChatGPT is geschreven.

Waarom voert OpenAI dit nu in?

De druk op techbedrijven om AI-content herkenbaar te maken neemt toe. Overheden in de Europese Unie en de Verenigde Staten dringen al langer aan op meer transparantie rond gegenereerde content, onder meer vanwege de risico's van desinformatie en examenfraude. Onderwijsinstellingen worstelen zichtbaar met deze problematiek: zo meldde de Universiteit van Amsterdam recent dat er minder essayopdrachten worden gegeven, juist omdat AI-tools als ChatGPT het steeds moeilijker maken om de authenticiteit van studentenwerk te beoordelen. Door een onzichtbaar watermerk te introduceren, probeert OpenAI tegemoet te komen aan deze zorgen zonder de gebruikerservaring aan te tasten. Het bedrijf hoopt zo een balans te vinden tussen innovatie en verantwoord gebruik van generatieve AI, een thema dat ook terugkomt bij AI-toepassingen in sectoren als onderwijs, journalistiek en overheid.

Kritiek en praktische bezwaren

Niet iedereen is overtuigd van de effectiviteit van deze aanpak. Critici wijzen erop dat watermerken in tekst relatief kwetsbaar zijn: het herschrijven, vertalen of licht aanpassen van een tekst kan het verborgen patroon al verstoren of volledig laten verdwijnen. Dit maakt de methode minder robuust dan watermerken in afbeeldingen of video, waar de technologie al verder is ontwikkeld. Daarnaast spelen er vragen rond privacy en controle. Wie krijgt toegang tot de detectietools die het watermerk kunnen uitlezen? Als alleen OpenAI zelf of geselecteerde partners dit kunnen verifiëren, ontstaat een afhankelijkheid die niet iedereen wenselijk vindt. Ook bestaat de vrees dat kwaadwillenden simpelweg overstappen op andere AI-modellen zonder watermerk, waardoor het probleem van niet-herkenbare AI-content niet wordt opgelost maar verschuift.

Een stap in een bredere trend

De aankondiging van OpenAI staat niet op zichzelf. Grote spelers als Google experimenteren al langer met vergelijkbare technieken, bijvoorbeeld met het SynthID-watermerk voor afbeeldingen en tekst. Ook binnen de industrie groeit de consensus dat herkenbaarheid van AI-content essentieel is voor het behoud van vertrouwen in digitale informatie, zeker nu AI-gegenereerde content exponentieel toeneemt in sociale media, nieuwsartikelen en zelfs films. Deze ontwikkeling raakt bovendien aan een bredere maatschappelijke discussie over de impact van AI op werk, onderwijs en creativiteit. Terwijl sommige experts waarschuwen voor een mogelijke "AI-zeepbel" in de techsector, blijven bedrijven als OpenAI fors investeren in verantwoorde doorontwikkeling van hun modellen.

Conclusie: belangrijke stap, maar niet het eindstation

Het onzichtbare watermerk van ChatGPT is een veelbelovende stap richting meer transparantie over AI-gegenereerde tekst, maar geen waterdichte oplossing. De techniek kan helpen bij het signaleren van AI-content in onderwijs en journalistiek, maar blijft kwetsbaar voor manipulatie en roept nieuwe vragen op over toegang en controle. Voor wie meer wil weten over hoe AI-bedrijven omgaan met dit soort uitdagingen, biedt onze kennisbank verdere achtergrondinformatie, en wie op de hoogte wil blijven van de laatste ontwikkelingen kan terecht bij meer AI-nieuws. Eén ding is zeker: de zoektocht naar betrouwbare manieren om mens en machine in tekst te onderscheiden, staat nog maar aan het begin.

RTL Nieuws

---

Bron: RTL Nieuws