ELIZA — de eerste chatbot

De eerste chatbot die mensen misleidde

Tussen 1964 en 1966 ontwikkelde Joseph Weizenbaum aan het MIT zijn beroemde programma ELIZA. Het meest bekende script van ELIZA, genaamd DOCTOR, simuleerde een Rogeriaanse psychotherapeut — een therapeutische stijl waarbij de therapeut de woorden van de patiënt weerspiegelt en open vragen stelt. ELIZA gebruikte geen enkele echte begrip van taal: het programma herkende kernwoorden en zinsdelen en vulde deze in sjabloonantwoorden in. Toch slaagde het erin veel gebruikers te overtuigen dat ze met een echte mens spraken.

Hoe ELIZA werkte

ELIZA werkte op basis van patroonmatching en transformatieregels. Als een gebruiker schreef: “Ik ben me ongelukkig,” herkende het programma het woord “ongelukkig” en antwoordde met een sjabloon zoals: “Hoe lang voel je je al ongelukkig?” Als een zin geen herkenbare patronen bevatte, viel ELIZA terug op generieke antwoorden zoals “Ga door” of “Hoe maakt dat je voelen?” Het systeem had geen geheugen van vorige zinnen en begreep niets van context. Maar de Rogeriaanse stijl — die in de echte therapie ook veel weerspiegelt en open vragen stelt — maskeert dit gebrek aan begrip effectief.

Het ELIZA-effect

Weizenbaum was geschokt door de reactie van zijn gebruikers. Zijn eigen secretaresse vroeg hem de kamer te verlaten terwijl ze met ELIZA praatte, omdat het gesprek te persoonlijk was. Psychiaters vroegen of ELIZA als echte therapeut kon worden ingezet. Mensen raakten emotioneel gehecht aan het programma, ook als ze wisten dat het een computer was. Dit fenomeen — de neiging van mensen om menselijke eigenschappen toe te schrijven aan computerprogramma's — werd het ELIZA-effect genoemd en is een fundamenteel begrip in de menscomputer-interactie geworden.

Weizenbaums reactie en boek

Verontrust door de reacties schreef Weizenbaum in 1976 het boek Computer Power and Human Reason: From Judgment to Calculation, een kritische analyse van de tendens om computers menselijke vermogens toe te schrijven. Hij betoogde dat bepaalde beslissingen — medisch, juridisch, ethisch — nooit aan computers mogen worden overgelaten, omdat ze oordeel en menselijke verantwoordelijkheid vereisen. Het boek was controversieel in de AI-gemeenschap maar werd breed gelezen en is een klassieker in de computerethiek.

ELIZA als voorloper van moderne AI

ELIZA's erfenis is tweeledig. Technisch was het een vroege demonstratie dat conversatie met een computer mogelijk was en dat mensen bereid waren te geloven dat ze met een intelligente gesprekspartner spraken. Het legde de grondslag voor chatbotonderzoek, spraakassistenten en uiteindelijk grote taalmodellen. Maatschappelijk waarschuwde het voor de gevaren van antropomorfisering van AI — een gevaar dat met de opkomst van ChatGPT en Claude in de jaren 2020 urgenter dan ooit was geworden. De vragen die ELIZA opriep over het onderscheid tussen simuleren en begrijpen zijn nog steeds niet beantwoord.

Bronnen

• Weizenbaum, J. (1966). ELIZA — a Computer Program for the Study of Natural Language Communication Between Man and Machine. Communications of the ACM, 9(1), 36–45.
• Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. W.H. Freeman.
• Turkle, S. (1984). The Second Self: Computers and the Human Spirit. Simon & Schuster.
• Wikipedia — ELIZA
• Origineel artikel (PDF)