ELIZA — de eerste chatbot

De machine die leek te begrijpen

Tussen 1964 en 1966 ontwikkelde informaticus Joseph Weizenbaum aan MIT ELIZA — een programma dat een tekstgesprek met een mens kon voeren door de invoer van de mens om te zetten in vragen en reflecties. Het bekendste script, DOCTOR, simuleerde een Rogeriaanse psychotherapeut. ELIZA begreep geen taal; het gebruikte patroonherkenning en eenvoudige transformatieregels om de illusie van begrip te wekken.

Hoe ELIZA werkte

ELIZA scande de invoer van de gebruiker op sleutelwoorden uit een vooraf gedefinieerde lijst. Als iemand "Ik voel me depressief" intypte, kon ELIZA reageren: "Waarom zeg je dat je je depressief voelt?" of "Hoe lang voel je je al depressief?" Het script bevatte tientallen van dergelijke transformatiepatronen. Als er geen sleutelwoord werd gevonden, gebruikte ELIZA neutrale reacties zoals "Gaat u verder" of "Dat is erg interessant." De illusie van empathie ontstond niet door begrip, maar door de reflectie van de eigen woorden van de gebruiker.

Het ELIZA-effect

Wat Weizenbaum het meest schokte, was niet hoe het programma werkte, maar hoe mensen erop reageerden. Secretaresses vroegen om alleen gelaten te worden met ELIZA en zeiden dat het privé was. Weizenbaums eigen secretaresse, die wist dat het slechts een programma was, vroeg hem de kamer te verlaten tijdens haar gesprek met ELIZA. Psychiaters stelden serieus voor dat ELIZA therapeuten kon vervangen. Dit fenomeen — menselijke eigenschappen toeschrijven aan een computerprogramma op basis van oppervlakkige signalen — werd bekend als het ELIZA-effect. Het is nog steeds een van de meest besproken fenomenen in mens-computerinteractie.

Weizenbaums ontnuchtering

De reactie op ELIZA verontrustte Weizenbaum diepgaand. In zijn boek Computer Power and Human Reason uit 1976 betoogde hij dat computers, hoe capabel ook, nooit menselijk oordeel mogen vervangen in zaken die empathie, waarden en morele verantwoordelijkheid vereisen — zoals therapie, recht of onderwijs. Hij werd een van de meest prominente critici van kritiekloos AI-optimisme. Zijn waarschuwingen over hoe gemakkelijk mensen machines vermenselijken zijn relevant nu miljoenen dagelijks converseren met AI-systemen.

Erfenis

ELIZA is de directe voorouder van elke chatbot en virtuele assistent die volgde. Het liet zien dat een machine een gesprek kon voeren dat zijn gesprekspartners zinvol vonden, zonder enig werkelijk begrip. Dit legde de basis voor chatbotonderzoek, spraakassistenten en uiteindelijk grote taalmodellen. Sociaal gezien waarschuwde het voor de gevaren van het vermenselijken van AI — een gevaar dat urgenter dan ooit werd met de opkomst van ChatGPT en Claude in de jaren 2020. De vragen die ELIZA stelde over het onderscheid tussen simuleren en begrijpen blijven onbeantwoord.

Bronnen

• Weizenbaum, J. (1966). ELIZA — a Computer Program for the Study of Natural Language Communication Between Man and Machine. Communications of the ACM, 9(1), 36–45.
• Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. W.H. Freeman.
• Turkle, S. (1984). The Second Self: Computers and the Human Spirit. Simon & Schuster.
• Wikipedia — ELIZA
• Originele paper (PDF)