AI lijkt wel bewustzijn te ontwikkelen?

AI lijkt wel bewustzijn te ontwikkelen? Anil Seth (auteur van onder andere Being you) heeft dit interessante artikel geschreven over bewustzijn en AI. Als je een vraag stelt in een systeem als chatgpt dan kan je het gevoel krijgen met een bewust persoon te communiceren. Alleen al de manier van vragen stellen in de ‘je’ -vorm en het antwoord krijgen in de ‘ik’-vorm kan je dat idee geven. Naast alle implicaties die het kan hebben als mensen ervaren dat AI bewust zijn heeft, is een belangrijke vraag of AI daadwerkelijk bewustzijn kan ontwikkelen. Een paar gedachten uit het artikel van Anil Seth vat ik hier samen.

Wat is intelligentie

Anil Seth begint met een definitie van bewustzijn en intelligentie. Seth stelt dat intelligentie verwijst naar wat een systeem kan doen. Het is  “het vermogen om doelen te bereiken in een breed scala aan omgevingen”. Intelligentie heeft te maken met de functionele capaciteiten van een systeem. Redeneren, flexibel reageren op uitdagingen, leren van ervaringen, doelgericht plannen en taalkundige vaardigheid zijn allemaal aspecten van intelligentie. Maar ook een mier die op flexibele wijze leert zijn weg naar huis te vinden door een woestijn, vertoont intelligent gedrag.

Wat is bewustzijn

Seth definieert bewustzijn als de ervaring wat het is om jou te zijn. Bewustzijn is daarmee niet hetzelfde als intelligentie. Het gaat niet over wat een systeem doet, maar om hoe het ‘voelt’ (als ervaring, niet zozeer alleen als emotie of gevoel). Een onbewust systeem heeft geen ervaring van wat het is om ‘het’ te zijn. Een steen bijvoorbeeld, heeft geen ervaring wat het is om een steen te zijn. Met deze definities zijn intelligentie en bewustzijn duidelijk conceptueel verschillend. In principe zou een wezen of systeem intelligent gedrag kunnen vertonen zonder dat er iets is wat het is om dat wezen of systeem te zijn, en omgekeerd.

Ons brein is geen computer

Hoewel het menselijk brein vaak wordt vergeleken met een computer, is ons brein geen computer. In een brein zie je geen scherpe scheiding tussen ‘mindware’ en ‘wetware’ zoals bij hardware en software in een computer. Hersensactiviteit ontwikkelt zich en wordt voortdurend beïnvloed door bijvoorbeeld de chemische verspreiding van neurotransmitters. Een enkele neuron is op zichzelf al een complex biologisch systeem, druk bezig om zijn eigen integriteit te behouden en te ‘overleven’. De metafoor van het brein als computer is een steeds onhandiger fictie, stelt Seth.

De ervaring is niet hetzelfde als de simulatie

Dus hoewel een computer kan berekenen, voorspellen en zelf kan zeggen dat hij iets ervaart (bewustzijn heeft), wil dat nog niet zeggen dat er ook daadwerkelijk sprake is van bewustzijn. Een computer kan een regenbui voorspellen, maar wordt daarvan niet nat. Een computer kan spijsvertering simuleren, maar verwerkt geen voedsel. Regenbuien en spijsvertering worden deels gedefinieerd in termen van intrinsieke materiële eigenschappen (bijvoorbeeld water, voedsel) en causale krachten (bijvoorbeeld wind, metabolische reacties). Niets wordt nat in een computer die het weer voorspelt.

Materie

Seth gelooft dat de materie waaruit iets bestaat doorslaggevend is voor of er bewustzijn kan zijn. Een computer doet iets, in een brein is wat het brein doet niet los te koppelen van wat het brein is. Dat brengt Seth bij biologisch naturalisme: de opvatting dat biologische eigenschappen noodzakelijk zijn voor bewustzijn. Hij legt uit dat biologisch naturalisme gebaseerd is op actieve inferentie (predictive processing), cybernetica, autopoiesis en het vrije-energieprincipe. Kunstmatig bewustzijn kan dan alleen mogelijk worden als we machines maken die ook in een relevante zin levend zijn.

Conceptuele mist

Seth legt uit dat de conceptuele mist rond de relatie tussen bewustzijn en AI ons belemmert om helder de bedreigingen en kansen van deze technologie te zien. We zouden scherper onderscheid moeten maken tussen onszelf als levende, ademende, voelende, handelende, denkende en ervarende wezens die we zijn en de informatieverwerkende mechanismen van door deepfake versterkte taalmodellen. We lopen het risico de machines te overschatten en onszelf te onderschatten, zo stelt Seth.

Bewustzijn komt niet vanzelf

Seth legt uit dat bewustzijn niet ‘vanzelf’ zal komen naarmate AI slimmer wordt. Er zijn goede redenen om te denken dat bewustzijn in conventionele AI-systemen misschien helemaal niet mogelijk is, en er zijn minstens enkele goede redenen om te veronderstellen dat bewustzijn een eigenschap is van, en misschien alleen van, levende systemen.

AI lijkt wel bewustzijn te ontwikkelen?

Seth waarschuwt: AI die bewust lijkt, kan onze psychologische kwetsbaarheden benutten, al dan niet opzettelijk. Als we geloven dat een LLM ons echt begrijpt en om ons geeft, omdat we voelen dat het bewust is, zijn we misschien eerder geneigd om zijn advies op te volgen, zelfs als dat advies slecht is. Als we denken dat we met een ander bewustzijn te maken hebben in plaats van met een algoritme, zijn we misschien ook sneller bereid om het laatste restje van onze digitale privacy op te geven. Wij mensen hebben de neiging technologieën naar ons eigen beeld te maken en onszelf te projecteren in de technologieën die we creëren. Het artikel biedt veel meer diepte en invalshoeken dan ik hier kan samenvatten en ik raad iedereen die AI een relevant onderwerp vindt zeer aan het te lezen.