Tot de deelnemers aan de 25ste Algemene vergadering van de Pauselijke Academie voor het Leven: Robotethiek – Mensen, machines en gezondheid
Paus Franciscus
25 februari 2019
Beste broeders en zusters,
Ik groet u van harte bij gelegenheid van uw algemene vergadering en ik dank Mgr. Paglia voor zijn vriendelijke woorden. Deze ontmoeting vindt plaats ter gelegenheid van het eerste jubileum van de Academie voor het leven: op 25 jaar na haar ontstaan. Bij deze belangrijke gebeurtenis heb ik de vorige maand een brie aan de president geschreven met de titel: Humana communitas. Het was vooral de wens om alle presidenten die elkaar hebben opgevolgd aan het hoofd van de Academie en alle leden te bedanken voor hun competente dienstwerk en hun edelmoedige inzet voor de bescherming en de bevordering van het menselijke leven gedurende deze werkzame 25 jaar.
We kennen de moeilijkheden waarmee onze wereld de strijd aanbindt. Het weefsel van de betrekkingen in gezin en maatschappij lijkt steeds meer te verslijten en er verspreidt zich een neiging om in zichzelf en zijn persoonlijke belangen opgesloten te raken, met ernstige gevolgen voor de “grote en beslissende kwestie van de eenheid in de mensenfamilie en haar toekomst” (brief Humana communitas, nr. 2). Er tekent zich een dramatische paradox af. Juist nu de mensheid de wetenschappelijke mogelijkheden bezit om te komen tot een eerlijk verdeeld welzijn volgens het gebod van God, zien we daarentegen een versterking van de conflicten en een toename van de ongelijkheid. De mythe van de vooruitgang volgens de filosofie van de Verlichting neemt in betekenis af en de opeenstapeling van de mogelijkheden die wetenschap en techniek ons hebben verschaft leidt niet altijd tot de resultaten waarop gehoopt werd. Inderdaad, aan de ene kant hebben de technische ontwikkelingen het ons mogelijk gemaakt problemen op te lossen die enkele jaren geleden nog onoverkomelijk waren en we zijn de onderzoekers die dergelijke resultaten mogelijk gemaakt hebben dankbaar; aan de andere kan zijn er moeilijkheden en dreigingen die soms sluipender zijn dan die van voorheen aan het licht gekomen. Het “kunnen doen” brengt het gevaar mee dat niet meer gezien wordt wie het doet en voor wie men het doet. Het technocratische systeem dat gebaseerd is op het criterium van de doeltreffendheid beantwoordt niet aan de diepste vragen die de mens zichzelf stelt. En al is het dan aan de ene kant onmogelijk om het zonder de hulpbronnen te stellen, aan de andere kant legt dit systeem zijn logica op aan hen die ze gebruiken. Toch is de techniek een kenmerk van het menselijke wezen. Men moet haar niet zien als een kracht die de mens vreemd en vijandig is, maar als een voortbrengsel van zijn vindingrijkheid, waardoor hij kan voorzien in de eisen die het leven stelt, voor zichzelf en voor de anderen. Het is dus een typisch menselijke manier om de wereld te bewonen. Maar de huidige ontwikkeling van de technische mogelijkheden brengt een gevaarlijke betovering met zich mee: in plaats van voor het menselijke leven de hulpmiddelen te leveren die de zorg ervoor verbeteren, lopen we het gevaar dat we het leven overlaten aan de logica van de voorzieningen die beslissen over de waarde ervan. Die omkering mondt uit in kwalijke resultaten: de machine blijft er niet bij om geheel alleen zichzelf te besturen, maar gaat uiteindelijk de mens besturen. Zo wordt de menselijke rede teruggebracht tot een redelijkheid die is losgemaakt van haar effecten en die niet meer als menswaardig gezien mag worden.
We zien helaas de ernstige schade die aan de planeet, ons gemeenschappelijke huis, wordt toegebracht door het zonder onderscheid toepassen van technische middelen. Daarom is de wereld-bio-ethiek een belangrijke zaak om zich voor in te zetten. Zij laat zien dat men zich bewust is van de diepgaande invloed die de milieufactoren en maatschappelijke factoren op de gezondheid en het leven hebben. Dat is een aanpak die geheel in overeenstemming is met de integrale ecologie, zoals die beschreven en aanbevolen werd in de encycliek Laudato si. Het is bovendien op zijn plaats dat wij in de huidige wereld, die gekenmerkt wordt door een nauw contact tussen verschillende culturen, als gelovigen onze specifieke bijdrage leveren in het zoeken naar operationele criteria die met allen gedeeld kunnen worden en die gemeenschappelijke uitgangspunten zijn voor het maken van keuzes door het die de grote verantwoordelijkheid hebben om op nationaal en internationaal niveau beslissingen te nemen. Dat betekent ook dat men zich engageert in de dialoog over de mensenrechten, waarbij ook de plichten die ermee gepaard gaan duidelijk belicht worden. Zij vormen inderdaad het onderzoeksgebied voor een universele ethiek en we zien dat belangrijke vragen daarover door de traditie behandeld zijn door te putten uit het erfgoed van de natuurwet.
De brief Humana communitas verwijst expliciet naar het thema van “opkomende en met elkaar samenwerkende technologieën”. De mogelijkheid om op de levende materie in te grijpen op een niveau met een steeds kleinere schaal, om steeds grotere massa’s informatie te verwerken, om de hersenprocessen die te maken hebben met de activiteit van het kennen en het denken te volgen – en te beïnvloeden – heeft onmetelijke consequenties: dit raakt de eigenlijke drempel van de biologische specificiteit van de mens en wat hem in geestelijke zin verschillend maakt. Ik bevestig hierbij dat “wat het menselijke leven verschillend maakt een absoluut goed is” (nr. 4).
Het is belangrijk dit nog eens te herhalen: “kunstmatige intelligentie, robotica en andere technologische vernieuwingen moeten gebruikt worden om bij te dragen aan de dienst aan de mensheid en aan de bescherming van ons gemeenschappelijke huis en niet aan precies het tegenovergestelde daarvan, zoals helaas sommige schattingen voorzien.” (Boodschap aan het World Economic Forum te Davos 12 januari 2019). De waardigheid die elk menselijk wezen eigen is moet met vasthoudendheid geplaatst worden in het centrum van ons denken en handelen.
In dit kader is het op zijn plaats op te merken dat de benaming “kunstmatige intelligentie” het gevaar loopt bedrieglijk te zijn ook al kan ze zeker doeltreffend zijn. De termen verhullen het feit dat die functionele automatismen in hun kwaliteiten ver verwijderd blijven van die van het kennen en handelen die een menselijk privilege zijn – ook al zijn ze nuttig in het vervullen van slaafse taken (dat is de oorspronkelijke betekenis van de term “robot”). En juist daarom kunnen ze een maatschappelijk gevaar vormen. Er is trouwens al een risico dat de mens vertechnologiseerd wordt, in plaats van dat de techniek vermenselijkt wordt: men schrijft al te snel aan zogenaamde “intelligente machines” vermogens toe die echt menselijk zijn.
We dienen beter te begrijpen wat in deze context de betekenis is van intelligentie, bewustzijn, gevoelsleven, gevoelsmatige gerichtheid en de autonomie van het moreel handelen. De kunstmatige voorzieningen die menselijke vermogens nabootsen bezitten in werkelijkheid geen enkele menselijke hoedanigheid. Daarmee moet rekening gehouden worden om de regeling van hun gebruik en het onderzoek zelf te oriënteren op een constructieve en billijke interactie tussen de mensen en de meeste recente versies van die machines. Deze verspreiden zich immers in onze wereld en wijzigen het scenario van ons bestaan radicaal. Als we in staat zijn deze overwegingen te doen gelden in wat er gebeurt, dan zullen de buitengewone mogelijkheden van de nieuwe ontdekkingen hun zegeningen kunnen doen stralen over iedereen en over de hele mensheid.
De discussie tussen de specialisten zelf laat de ernstige problemen aangaande de bestuurbaarheid van de algoritmen die met enorme hoeveelheden data omgaan al zien. Evenzo stellen de technieken waarmee het genetisch erfgoed en de hersenfuncties gemanipuleerd kunnen worden ons voor ernstige ethische vraagstukken. De poging om het geheel van het gedachteleven, het gevoelsleven en de menselijke psyché te verklaren op grond van de functionele som van de samenstellende fysieke en organische onderdelen houdt in ieder geval geen rekening met wat er aan het licht komt aan verschijnselen van de ervaring en het bewustzijn. Het verschijnsel mens is meer dan het resultaat van een optelling en samenstelling van elk van zijn elementen. Ook op dit terrein krijgt het axioma dat zegt dat het geheel meer is dan de som van de delen een nieuwe diepgang en een nieuwe betekenis.
Aan de andere kant leren we nu juist in deze lijn van de complexiteit in de synergie tussen psyché en technè dat, hetgeen we te weten komen over de hersenactiviteit nieuwe aanwijzingen levert voor de wijze waarop we het bewustzijn (van onszelf en van de wereld) en het menselijk lichaam zelf moeten zien: het is niet mogelijk om geen rekening te houden met het in elkaar grijpen van allerlei betrekkingen als we willen geraken tot een dieper begrip van de integrale menselijke dimensie.
Zeker, we kunnen geen metafysische gevolgtrekkingen maken uit de gegevens van de empirische wetenschappen. Maar we kunnen er wel aanwijzingen aan ontlenen die richting geven aan ons antropologische denken, zelf op theologisch gebied, zoals dat trouwens in de geschiedenis altijd is gebeurd. Het zou immers tegen onze toch authentieke traditie ingaan als we nu zouden vasthouden aan een anachronistisch begrippenapparaat. We zouden dan niet in staat zijn op passende manier om te gaan met de veranderingen in de begrippen natuur en kunst, omstandigheden en vrijheid, middel en doel die is opgeroepen door de nieuwe cultuur van handelen die typisch is voor het tijdperk van de technologie. We worden opgeroepen de weg in te slaan die op beslissende wijze is gekozen door het Tweede Vaticaans Concilie. Dat roept op tot een vernieuwing van de theologische wetenschappen en een kritisch nadenken over de betrekking tussen Christelijk geloof en moreel handelen (vgl. Optatam totius, 16).
In onze deelname in de ethische samenwerking ten gunst van het leven zal onze inzet – zowel op intellectueel als op specialistisch gebied – een erezaak zijn. In een situatie waarin technologische voorzieningen die steeds vernuftiger zijn rechtstreeks ingrijpen op menselijke eigenschappen van lichaam en geest wordt het nu een dringende zaak om dit met alle mannen en vrouwen die zich inzetten voor wetenschappelijk onderzoek en de praktijk van de zorg. Dat is zeker een zware taak, gezien het snelle tempo waarin de vernieuwingen plaatsvinden. We worden hierin aangemoedigd en gesteund door het voorbeeld van leermeesters uit de gelovige intelligentsia, die met wijsheid en moed de processen van hun eigen tijd hebben benaderd met het oog op een begrijpen van het geloofsgoed op een verstandelijk niveau dat de mens waardig is.
Ik wens u toe dat u uw studie en onderzoek kunt voortzetten zodat het werk voor de bevordering en de bescherming van het leven steeds doeltreffender en vruchtbaarder zal worden. Moge de Maagd Maria u bijstaan en moge mijn zegen u begeleiden. En vergeet alstublieft niet voor mij te bidden. Dank u.
Vertaling: dr. J.A. Raymakers
