2. Wiskunde
Onlangs zei Frederick Brooks, ter gelegenheid van de ontvangst van de ACM Allen Newell Award voor zijn toepassingen van computer science: ‘It is time to recognize that the original goals of artificial intelligence were not merely extremely difficult, they were goals that, although glamorous and motivating, sent the discipline offin the wrong direction’. Er is dus iets mis met de oorspronkelijk idee van artificial intelligence, volgens welke een computer in principe in staat is om het menselijk denken over te nemen. Wat is er dan precies mis mee? Roger Penrose heeft het allerduidelijkst uitgelegd in zijn boek The Emperor’s New Mind. Penrose heeft gebruik gemaakt van de stelling van Kurt Gödel, een Oostenrijks wiskundige, volgens wie er in elk voldoende krachtig, wiskundig systeem een stelling bestaat die waar is maar niet uit axioma’ s kan worden afgeleid. Dat is een hele mondvol die ik zal proberen begrijpelijk te maken. Eerst nog een heel klein beetje geschiedenis.
In 1900 formuleerde David Hilbert voor het eerst zijn zogenaamde Emscheidungsproblem (entscheiden betekent beslissen), waarin hij zich afvroeg of er een algoritme bestaat dat alle wiskundige vragen kan oplossen. Het wetenschappelijk onderzoek in die tijd leek gunstige voortekens te bieden in die richting, en Hilbert was hard op zoek naar de weg die tot zo’n algoritme leidt. Eénendertigjaar later publiceerde Gödel zijn dramatische bevindingen. Hilbert was afwezig toen Gödel zijn resultaten voor het eerst op een congres presenteerde, en werd ontzettend kwaad toen hij later de inhoud ervan vernam. Zeer begrijpelijk! Gödels werk was namelijk een lelijke streep door Hilberts rekening.
Om dat in te zien moeten we terug naar de stelling van Gödel: in elk voldoende krachtig, wiskundig systeem bestaat een stelling die waar is maar niet uit de axioma ’s kan worden afgeleid. Een wiskundig systeem bestaat uit axioma’s, uitgeschreven in basissymbolcn, en rekenregels. Als je de rekenregels goed toepast kun je bijvoorbeeld in de getal theorie afleiden dat 3+5 gelijk is aan 8. Een axioma is een uitgangspunt waarvoor geen bewijs kan worden gegeven. Als voorbeeld van een wiskundig axioma noem ik het derde axioma van Peano: verschillende natuurlijke getallen kunnen niet dezelfde opvolger hebben. Het ‘voldoende krachtig’ van Gödels stelling zorgt ervoor dat het wiskundig systeem een minimum aan uitdrukkingskracht heeft. In Gödels werk, dat over getaltheorie ging, bereikte hij die kracht door de zogenaamde µ-operatie te definiëren. Deze operatie geeft het kleinste getal dat aan een bepaalde voorwaarde voldoet. Ik zeg het erbij opdat de lezer zich niet tekort gedaan voelt, want de hele µ is voor mijn betoog van luttel belang. Om zijn stelling te bewijzen heeft Gödel zijn uitgebreide getal theorie gecodificeerd, dat wil zeggen, alle symbolen en operaties door getallen en bewerkingen op die getallen vervangen. Op een heel slimme manier, uiteraard. Zodanig namelijk, dat elke ‘zin’ (bijvoorbeeld: “het kleinste oneven getal is 1”) overeenkomt met een getal (het zogenaamde Gödelgetal van die zin), en andersom, dat uit elk Gödelgetal op eenduidige wijze de overeenkomende zin kan worden afgeleid. Op deze manier correspondeert elk axioma met zijn Gödelgetal, en zo ook elke stelling of bewijs. Het is alsof je alle mogelijke moppen op een rijtje zet (bijvoorbeeld op alfabetische volgorde), en vervolgens een getal roept. Als de toegesprokene zijn huiswerk goed heeft gedaan en de hele lijst moppen inclusief ordening uit zijn hoofd kent, zou hij in een schaterlach kunnen uitbarsten. Het slimme van Gödel is dat je niets uitje hoofd hoeft te leren. Hij heeft gewoon een wiskundig recept meegegeven dat je in staat stelt bij elk getal de overeenkomstige zin te construeren.
Gebruik makend van zijn codificatie heeft Gödel niet alleen maar aangetoond dat er een stelling bestaat die zijn eigen onbewijsbaarheid stelt, maar bovendien dat deze stelling waar is. Hiermee heeft Gödel op algemene wijze aangetoond dat wiskundige waarheid meeromvattender is dan formele bewijsbaarheid. Er hoeft maar één tegenvoorbeeld te bestaan voor de stelling dat wiskundige waarheid identiek is aan formele bewijsbaarheid, om die stelling op te blazen. Welnu, dat tegenvoorbeeld is de Gödelstelling.
U kunt zich nu misschien de wanhopige reactie van Hilbert op Gödels werk voorstellen: als er een ware maar formeel onbewijsbare stelling bestaat, bestaat er ook een ware oplossing van een probleem zonder dat er een algoritme bestaat dat die oplossing, uitgaande van de axioma’s en gebruik makend van de rekenregels, kan becijferen. Das Entscheidungsproblem ist entschieden, maar helaas niet zoals de reductionisten dat graag hadden gezien.
Voor zijn bewijsvoering tegen artificial intelligence gebruikt Penrose behalve de stelling van Gödel ook de stelling van Turing. De stelling van Turing geeft aan dat er geen enkele procedure bestaat die kan beslissen of een gegeven stelling al dan niet bewijsbaar is. Deze stelling brengt bovendien in kaart welke de reikwijdte is van ideale computers (met oneindig veel geheugencapaciteit). Op onderstaande wijze toont Penrose aan dat het menselijk denken wezenlijk superieur is aan dat van een ideale computer:
Het is een ervaringsfeit, en tegelijkertijd het fundament van wetenschappelijk onderzoek, dat onderzoekers door een abstracte redenering een wiskundige juistheid van een onjuistheid kunnen onderscheiden, en daarmee tot consensus komen.
Als de mens puur machinaal (algoritmisch) denkt, dan moet zijn algoritme om tot het wiskundig waarheidsoordeel te komen derhalve universeel zijn; immers, als de algoritmes van persoon tot persoon verschillen zou het echt niet lang duren totdat er onenigheid ontstaat over hoeveel 3+4 nu is: 8 volgens mijn algoritme, en 7 volgens dat van jou.
Dit algoritme is ingebed in een systeem met eigen Gödelstelling; indien de mens zijn eigen algoritme kent, kan hij volgens de procedure van Gödel ook de Gödelstelling van het bijbehorend systeem construeren.
Gödel heeft net aangetoond dat algoritmisch, deductief redeneren niet toestaat de Gödelstelling te ‘beslissen’ (dat wil zeggen, de waarheid of onwaarheid ervan aan te tonen).
Het algoritme uit punt (2) moet derhalve fundamenteel ontoegankelijk zijn voor de mens.
De basis van artificial intelligence is echter juist dat het menselijk denken machinaal werkt, en dus volledig teruggebracht kan worden tot de computerwerking van het menselijk brein.
Huidig biologisch onderzoek biedt geen enkele indicatie dat bepaalde biologische onderdelen van de mens (of zijn brein) fundamenteel niet toegankelijk zouden zijn; als alle materie in de mens in principe toegankelijk is, dan moet ook de programmering in het DNA toegankelijk zijn, en daarmee het algoritme uit punt (2) dat de mens gebruikt om tot een wiskundig waarheidsoordeel te komen.
Penrose roept vervolgens uit: ‘To my thinking, this is as blatant a reductio ad absurdum as we can hope to achieve, short of an actual mathematical proof!’ De latijnse termen reductio ad absurdum betekenen een bewijs uit het ongerijmde. De aanname van het ongerijmde in bovenstaande redenering is het tweede punt: als de mens machinaal denkt. Die aanname blijkt tot een absurde conclusie te leiden, namelijk dat het menselijk algoritme tegelijkertijd wel (punt 7) en niet (punt 5) kenbaar moet zijn.
Mijns inziens volgt uit de redenering van Penrose niet alleen dat het menselijk denken wezenlijk superieur is aan dat van de computer. Indien we materie definiëren als dat aspect van de realiteit dat gehoorzaamt aan wiskundig-kwantitatieve wetten, kan dat menselijk denken principieel niet tot de materie worden teruggevoerd. Computerwerking steunt immers op wetmatigheid in de natuur, dat wil zeggen, op natuurwetten. Welke natuurwetten er in de toekomst ook mogen worden ontdekt, ze zullen hooguit leiden tot nieuwe soorten computers, maar deze zullen nooit het rekenvermogen van een ideale computer overtreffen. De computer gebruikt de wetmatigheid in de natuur in feite ten behoeve van informatieverwerking. Het menselijk denken onderscheidt zich blijkbaar van computer-denken doordat het niet slechts informatieverwerking inhoudt. Er is een wezenlijk verschil tussen begrijpen en informatie verwerken.
