Het eerste kunstmatige neuron

Het wiskundige neuronmodel van McCulloch en Pitts

In 1943 publiceerden de neurowetenschapper Warren McCulloch en de wiskundige Walter Pitts hun baanbrekende artikel A Logical Calculus of the Ideas Immanent in Nervous Activity in het tijdschrift Bulletin of Mathematical Biophysics. Dit artikel geldt als het startschot van wat later de computationele neurowetenschap en kunstmatige intelligentie zou worden. Het was de eerste formele poging om de werking van het menselijk brein in wiskundige termen te beschrijven.

De onwaarschijnlijke samenwerking

McCulloch was een arts en neurowetenschapper die al jaren probeerde te begrijpen hoe de hersenen werken als informatieverwerker. Walter Pitts was een uitzonderlijk begaafde maar sociaal kwetsbare jongeman die als tiener de bibliotheken van Chicago doorploegde en op zijn twaalfde Bertrand Russells driedelige Principia Mathematica bestudeerde. Toen Pitts dakloos rondzwierf in Chicago, bood McCulloch hem onderdak en een intellectuele thuis. Hun samenwerking was een zeldzame kruisbestuiving van biologie en wiskundige logica die destijds vrijwel onmogelijk leek.

Het model: logica als biologie

Een McCulloch-Pitts-neuron ontvangt een of meer invoersignalen, telt deze op en produceert een uitvoersignaal als de som een bepaalde drempelwaarde overschrijdt. Dit binaire principe — vuur of vuur niet — maakte het mogelijk om logische operaties zoals AND, OR en NOT te modelleren als netwerken van neuronen. De centrale stelling van hun artikel was provocerend: elke logische berekening die met een digitale computer kan worden uitgevoerd, kan in principe ook worden uitgevoerd door een netwerk van dergelijke neuronen. Omgekeerd leek dit te impliceren dat de menselijke hersenen, die ook uit neuronen bestaan, in wezen berekeningen uitvoeren zoals een rekenmachine.

Filosofische betekenis

Deze redenering had verstrekkende gevolgen voor de manier waarop wetenschappers de hersenen zagen. Het doorbrak het idee dat bewustzijn en intelligentie mysterieus en onverklaarbaar waren. Als neuronen logische poorten zijn en netwerken berekeningen uitvoeren, zijn de hersenen — minstens theoretisch — een berekeningsmachine. Dit was een radicaal materialistisch standpunt op een moment dat de hersenwetenschappen nog grotendeels beschrijvend en anatomisch waren. Het legde de filosofische grondslag voor de computationele theorie van de geest, die tot op de dag van vandaag central staat in cognitiewetenschap en AI-onderzoek.

Directe invloed op pioniers

John von Neumann, de grondlegger van de moderne computerarchitectuur, verwees expliciet naar het werk van McCulloch en Pitts in zijn First Draft of a Report on the EDVAC (1945). Norbert Wiener, de vader van de cybernetica, werd door McCulloch geïnspireerd om de overeenkomsten tussen hersenen en machines te onderzoeken. Donald Hebb formuleerde in 1949 zijn Hebbiaanse leerregel mede geïnspireerd door dit werk. Frank Rosenblatt ontwikkelde in 1957 de Perceptron als directe opvolger. Marvin Minsky bouwde in 1951 SNARC, het eerste hardwarematige neurale netwerk, op vergelijkbare principes.

Erfenis in modern deep learning

Decennia later, toen deep learning de technologiewereld domineerde, waren de fundamentele bouwstenen nog steeds directe afstammelingen van het McCulloch-Pitts-neuron. Nodes met invoergewichten, een sommatie en een activatiefunctie zijn de basisatomen van elk modern neuraal netwerk. De drempelwaarde was vervangen door de sigmoid- of ReLU-activatiefunctie, maar het basisidee van 1943 was herkenbaar aanwezig in AlexNet, GPT-4 en elk ander model. Zonder McCulloch en Pitts geen Transformer, geen ChatGPT, geen Claude.

Warren McCulloch overleed in 1969. Walter Pitts stierf in hetzelfde jaar op slechts 46-jarige leeftijd, na een periode van teruggetrokkenheid en psychische problemen. Hun samenwerking duurde amper enkele jaren, maar de intellectuele erfenis ervan draagt de digitale wereld tot op heden.

Bronnen

• McCulloch, W.S. & Pitts, W. (1943). A Logical Calculus of the Ideas Immanent in Nervous Activity. Bulletin of Mathematical Biophysics, 5(4), 115–133.
• Piccinini, G. (2004). The First Computational Theory of Mind and Brain. Synthese, 141(2), 175–215.
• Churchland, P.S. & Sejnowski, T.J. (1992). The Computational Brain. MIT Press.
• Wikipedia — Walter Pitts
• Wikipedia — Warren McCulloch