Goedaardig… hopen we

Op de lagere school leerde ik rekenen. Staartdelingen bijvoorbeeld, dat zag er leuk uit, getallen tussen schuine strepen, weglopende staart eronder. Ik heb nog een blauwe maandag met een rekenliniaal leren werken. Ik kreeg het nooit helemaal onder de knie. Maar toen kwam de rekenmachine. Met talloze functies. Worteltrekken, hoe gemakkelijk werd dat! Dat kon de machine beter dan elk mens.

 

Intussen zijn er steeds meer gebieden waarop de computer de mens verslaat. Hans Moravec heeft het vergeleken met een landschap. Stel je voor dat je de menselijke competenties vergelijkt met vlakten en bergen. Rekenen is een vlakte, schaken een berg, menselijke hand-oogcoördinatie, dat is echt een bergtop. Het groeiend vermogen van computers vormt het stijgende waterpeil. Het laagland komt blank te staan. Ook het laaggebergte wordt nu bereikt. Op het punt van schaken en het spel Go zijn we verslagen. Dat land staat onder water. We voelen ons nog altijd veilig op de toppen van ons kunnen. “Als het waterpeil maar blijft stijgen kan het op een dag een kantelpunt bereiken, een punt waarop zich een ingrijpende ommekeer zal voordoen. Dat kritieke punt is het punt waarop machines in staat zullen zijn om zelf KI te ontwerpen.” (82).

 

Aan het woord is Max Tegmark (1967). Hij is hoogleraar natuurkunde aan het Massachusetts Institute of Technology (MIT). Hij schreef in 2017 een boek over Kunstmatige Intelligentie (KI) en de toekomst ervan: Life 3.0: Mens zijn in het tijdperk van kunstmatige intelligentie. Ik vind het een verontrustend verhaal. Hij schetst verschillende scenario’s en gezien de uitgangspunten die hij hanteert, lijkt het mij bepaald geen onzin. De analyse start bij het gegeven dat het leven in de evolutie begon met vormen van reduplicatie en doelgerichtheid. Verder gaat hij ervan uit dat intelligentie in feite los kan komen van een dierlijk of menselijk lichaam. “Intelligentie is niet exclusief gebonden aan vlees, bloed en koolstofatomen.” (99, zie ook 108, 117, 238, 429). En tenslotte stelt hij dat de kern van de zaak in feite draait om bewustzijn: wanneer kennen wij aan iets bewustzijn toe? Want bewustzijn is de bron van betekenis.

 

Het geeft moed om te lezen dat Tegmark zich inzet om goedaardige KI te ontwikkelen. Aan het begin en aan het eind van zijn boek vertelt hij over de grote groep wetenschappers en belanghebbenden die hij samenbrengt rond dit onderwerp. Zij hebben in 23 statements vastgelegd dat zij ernaar streven dat de waarden van toekomstige kunstmatige intelligenties overeenstemmen met die van de mens: “KI-systemen met een hoge mate van autonomie dienen zo te zijn ontworpen dat we er zeker van kunnen zijn dat hun doelstellingen en gedrag op menselijke waarden zijn afgestemd en dat ze daar gedurende hun operationele leven ook aan vasthouden.” (468).
Dat is mooi en toch vind ik het een verontrustend boek. Wie zijn wij eigenlijk als mens? Dat is de vraag. En wat is leven? Is dat te reduceren tot intelligentie of bewustzijn? Ik kan me voorstellen dat je vanuit de fysica komt tot de stelling dat intelligentie geen lichaam nodig heeft. Maar in de Bijbelse theologie is al sinds de vroegchristelijke kerk het verwaarlozen van het lichaam als een dwaling afgewezen. In de gnostiek (tweede eeuw na Christus) gold de ziel als de essentie, het eeuwig wezenlijke van de mens. Het lichaam is tweederangs en vergankelijk. Voor de auteurs van de geschriften van het Nieuwe Testament is het lichaam juist niet tweederangs. Niet alleen voor wat betreft het gedrag hier en nu (2 Korinte 5,10: …wat hij door middel van zijn lichaam gedaan heeft, hetzij goed, hetzij kwaad.” Herziene Statenvertaling), maar ook wat betreft de bestaansvorm in het hiernamaals. Het vergankelijke wordt onvergankelijk, maar een lichaam blijft het: “Het lichaam wordt gezaaid in vergankelijkheid, het wordt opgewekt in onvergankelijkheid.” (1 Korinte 15,42 HSV).

 

Het is waar dat de mens tijdelijk kan voortbestaan buiten het lichaam. In het Bijbelse spreken gaat het dan over de ziel: “En wees niet bevreesd voor hen die het lichaam doden en de ziel niet kunnen doden…” (Matteüs 10,28 HSV). Gaat het hier over onsterfelijk voorbestaan van intelligentie of als bewustzijn? Max Tegmark is natuurkundige, het gaat hem om deeltjes, patronen, energie en de wetenschappelijke methode. Ik vind dat belangrijk en waardevol. God heeft de natuur zo geschapen dat wij door onderzoek delen en structuren kunnen ontdekken. Maar ik geloof tegelijk dat het leven op aarde zich niet onafhankelijk van de Schepper kan ontwikkelen. “Verbergt U Uw aangezicht, zij worden door schrik overmand, neemt U hun adem weg, zij geven de geest en keren terug tot stof.” (Psalm 104,29 HSV). Dat wil volgens mij ook zeggen dat identiteit en betekenis vanuit christelijk perspectief alleen in relatie tot God kan worden gevonden en benoemd. God is het Leven zelf. Hij deelt het aan ons uit. Hij kan menselijk leven bewaren in zichzelf. “Als God onze menselijke identiteit wil, onze ziel wil redden van de dood, dan kunnen mensen ons lichaam wel verbranden, maar God roept het opnieuw in het leven,” schrijft de theoloog Van de Beek (Hier beneden is het niet, 79). Leven kan dus niet alleen bepaald worden door de fysica (tenzij je God ook wilt reduceren tot een fysisch element).

 

Tegmark: “Alles wat we waarderen in onze beschaving is het product van de menselijke intelligentie, dus als we dat met kunstmatige intelligentie kunnen verruimen, hebben we overduidelijk de mogelijkheid om het leven nog beter te maken. Zelfs een bescheiden vooruitgang op het gebied van KI zou kunnen leiden tot belangrijke vorderingen op het gebied van wetenschap en technologie en dus ook tot het terugdringen van ongevallen, ziekte, onrecht, oorlog, monotoon werk en armoede.” (136). Hij weet dat de mensheid geen eensgezinde visie op het goede, het ware of het schone heeft. Basisprincipes waarover consensus lijkt te bestaan (zoals utilitarisme, diversiteit, autonomie en consolidering) krijgen kleur en kracht in ideologische of religieuze kaders. Tegmark hoopt dat wij allemaal willen dat het aardse geluk gemaximaliseerd wordt. Hij onderschat op deze manier de godenstrijd, die ook in de Bijbelse literatuur nadrukkelijk aanwezig is. Waar Tegmark verwacht dat wij meesters van ons eigen lot kunnen worden (348), ziet de Bijbel meer verdeeldheid naarmate de mens zich onafhankelijker van zijn Schepper opstelt.

 

Nederigheid past de mens. Ik lees het ook in Life 3.0: “Ter voorbereiding op de nederige positie voor de mens naast steeds slimmere machines, stel ik voor dat we onszelf omdopen tot homo sentiens.” (444). Naast de steeds slimmere machines past de mens bescheidenheid. Dat zal waar worden. Maar als wezen met het vermogen tot subjectief ervaren (sentiens), speelt de mens nu een grote rol. Er ligt hier veel werk voor ons. Ik kan me voorstellen dat christenen graag deelnemen aan de wetenschap rond kunstmatige intelligentie. Het is een uitdagend onderzoeksgebied. Ik hoop dat zij dat doen. Want ook hierbij gaat het om de mogelijkheid om zin te ontdekken in de schepping. “Die ontsluiting van zin vindt in de praktijk altijd plaats onder leiding van bepaalde opvattingen of ideeën, die wij hier als ‘richtinggevende’ of ‘regulatieve’ ideeën zullen aanduiden. Met deze richtinggevende of regulatieve ideeën komen wij op het terrein van de levensbeschouwing terecht. Dat is het terrein waar ons spreken over techniek, zin en handelen er een dimensie bij krijgt.” (Denken, ontwerpen, maken, 49).

 

Naar aanleiding van: Max Tegmark, Life 3.0: Mens zijn in het tijdperk van kunstmatige intelligentie.3 (Vertaald uit het Engels door Wilma Paalman en Frits van der Waa. Oorspronkelijke titel: Life 3.0. Being human in the Age of Artificial Intelligence). Amsterdam: Maven Publishing, 2018.

 

Voor een TED-talk waarin Max Tegmark zijn boek in een kleine twintig minuten samenvat, klik hier.

 

Dr. A van de Beek, Hier beneden is het niet: Christelijke toekomstverwachting. Zoetermeer: Meinema, 2005.
Maarten J. Verkerk, Jan Hoogland, Jan van der Stoep, Marc J. de Vries, Denken, ontwerpen, maken: Basisboek techniekfilosofie. Amsterdam: Buijten & Schipperheijn, in samenwerking met Uitgeverij Boom, 2007.

 

Een gedachte over “Goedaardig… hopen we

  1. U verslaat mij met dit verhaal en invalshoek!
    Ik leer steeds meer en meer van u!
    En ik sta er open voor om meer te leren van u.
    Sinds ik mijn leven op Orde heb – komen de goede
    mensen op mijn pad!

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *