Dit artikel maakt deel uit van onze overzichten van AI-onderzoekspapers, een reeks berichten waarin de nieuwste bevindingen op het gebied van kunstmatige intelligentie worden verkend.
Moet je je slecht voelen als je de stekker uit een robot trekt of een algoritme voor kunstmatige intelligentie uitschakelt? Op dit moment niet. Maar wat als onze computers net zo slim – of slimmer – worden dan wij?
Discussies over de gevolgen van kunstmatige algemene intelligentie (AGI) zijn bijna net zo oud als de geschiedenis van AI zelf. In de meeste discussies wordt de toekomst van kunstmatige intelligentie voorgesteld als een soort Terminator-achtige apocalyps of een Wall-E-achtige utopie. Maar wat minder besproken wordt, is hoe we kunstmatige intelligentie-agenten zullen waarnemen, ermee zullen omgaan en ze zullen accepteren als ze eigenschappen van leven, intelligentie en bewustzijn ontwikkelen.
In een onlangs gepubliceerd essay, Borna Jalsenjak, wetenschapper aan de Zagreb School of Economics and Management, bespreekt superintelligente AI en de analogieën tussen biologisch en kunstmatig leven. Getiteld “De kunstmatige intelligentie Singularity: What It Is and What It Is Not”, verschijnt zijn werk in Guide to Deep Learning Basics, een verzameling papers en verhandelingen die verschillende historische, wetenschappelijke en filosofische aspecten van kunstmatige intelligentie verkennen.
Jalsenjak neemt ons mee door de filosofisch antropologische kijk op het leven en hoe die van toepassing is op AI-systemen die kunnen evolueren door hun eigen manipulaties. Hij betoogt dat “denkende machines” zullen ontstaan wanneer AI zijn eigen versie van “leven” ontwikkelt, en laat ons achter met wat stof tot nadenken over de meer obscure en vage aspecten van de toekomst van kunstmatige intelligentie.
AI singulariteit
Singulariteit is een term die vaak opduikt in discussies over algemene AI. En zoals dat gaat met alles wat met AGI te maken heeft, is er veel verwarring en onenigheid over wat de singulariteit is. Maar de meeste wetenschappers en filosofen zijn het erover eens dat het een keerpunt is waarop onze AI-systemen slimmer worden dan wijzelf. Een ander belangrijk aspect van de singulariteit is tijd en snelheid: AI-systemen zullen een punt bereiken waarop ze zichzelf kunnen verbeteren op een terugkerende en versnellende manier.
“Beknopter gezegd: zodra er een AI is die zich op het niveau van de mens bevindt en die AI kan een iets intelligentere AI creëren, en dan kan die een nog intelligentere AI creëren, en dan creëert de volgende een nog intelligentere AI en zo gaat het door totdat er een AI is die opmerkelijk geavanceerder is dan wat mensen kunnen bereiken,” schrijft Jalsenjak.
Voor alle duidelijkheid: de huidige kunstmatige-intelligentietechnologie, die bekend staat als “narrow AI”, is bij lange na niet in staat een dergelijke prestatie te leveren. Jalšenjak beschrijft de huidige AI-systemen als “domeinspecifiek”, zoals “AI die geweldig is in het maken van hamburgers, maar nergens anders goed in is”. Aan de andere kant is het soort algoritmen dat de discussie over AI singulariteit is “AI die niet onderwerpspecifiek is, of bij gebrek aan een beter woord, het is domeinloos en als zodanig in staat om in elk domein te handelen,” schrijft Jalsenjak.
Dit is geen discussie over hoe en wanneer we AGI zullen bereiken. Dat is een ander onderwerp, en ook een onderwerp van veel debat, waarbij de meeste wetenschappers ervan overtuigd zijn dat kunstmatige intelligentie op menselijk niveau nog minstens tientallen jaren verwijderd is. Jalsenjack speculeert liever over hoe de identiteit van AI (en de mens) zal worden gedefinieerd als we er daadwerkelijk zijn, of dat nu morgen is of over een eeuw.
Is kunstmatige intelligentie levend?
Er is een grote tendens in de AI-gemeenschap om machines als mensen te zien, vooral als ze capaciteiten ontwikkelen die tekenen van intelligentie vertonen. Hoewel dat duidelijk een overschatting is van de huidige technologie, herinnert Jasenjak ons er ook aan dat kunstmatige algemene intelligentie niet noodzakelijkerwijs een replicatie van de menselijke geest hoeft te zijn.
“Er is geen reden om te denken dat geavanceerde AI dezelfde structuur zal hebben als menselijke intelligentie, als dat al ooit gebeurt, maar omdat het in de menselijke natuur ligt om toestanden van de wereld voor te stellen op een manier die het dichtst bij ons staat, is een zekere mate van antropomorfisering moeilijk te vermijden,” schrijft hij in de voetnoot van zijn essay.
Een van de grootste verschillen tussen mensen en de huidige kunstmatige intelligentie-technologie is dat mensen “levend” zijn (en we komen zo op wat dat betekent), terwijl AI-algoritmen dat niet zijn.
“De huidige stand van de technologie laat er geen twijfel over bestaan dat technologie niet leeft,” schrijft Jalsenjak, waaraan hij toevoegt: “Waar we nieuwsgierig naar kunnen zijn, is als er ooit een superintelligentie verschijnt zoals die wordt voorspeld in discussies over singulariteit, het misschien de moeite waard is om te proberen en te zien of we die ook als levend kunnen beschouwen.”
Zo’n kunstmatig leven is weliswaar niet organisch, maar zou enorme gevolgen hebben voor hoe we AI zien en hoe we ertegenover handelen.
Wat zou er nodig zijn om AI tot leven te laten komen?
Geput uit concepten van de filosofische antropologie, merkt Jalsenjak op dat levende wezens autonoom kunnen handelen en voor zichzelf en hun soort kunnen zorgen, wat bekend staat als “immanente activiteit.”
“Nu althans, hoe geavanceerd machines ook zijn, ze dienen in dat opzicht altijd slechts als verlengstuk van de mens,” merkt Jalsenjak op.
Er zijn verschillende niveaus van leven, en zoals de trend laat zien, baant AI zich langzaam een weg in de richting van levend worden. Volgens de filosofische antropologie krijgen de eerste tekenen van leven gestalte wanneer organismen zich doelgericht ontwikkelen, wat het geval is bij de doelgerichte AI van vandaag. Het feit dat de AI zich niet “bewust” is van zijn doel en gedachteloos getallen kraakt om dat doel te bereiken, lijkt irrelevant, zegt Jalsenjak, omdat we planten en bomen als levend beschouwen, ook al hebben ook zij dat bewustzijn niet.
Een andere sleutelfactor om als levend te worden beschouwd, is het vermogen van een wezen om zichzelf te repareren en te verbeteren, in de mate waarin zijn organisme dat toelaat. Het moet ook zijn nageslacht voortbrengen en verzorgen. Dit is iets wat we zien bij bomen, insecten, vogels, zoogdieren, vissen, en praktisch alles wat we als levend beschouwen. De wetten van natuurlijke selectie en evolutie hebben elk organisme gedwongen mechanismen te ontwikkelen waarmee het kan leren en vaardigheden kan ontwikkelen om zich aan zijn omgeving aan te passen, te overleven en het voortbestaan van zijn soort te garanderen.
Over de opvoeding van kinderen stelt Jalsenjak dat de voortplanting van AI niet noodzakelijk parallel loopt aan die van andere levende wezens. “Machines hebben geen nageslacht nodig om het voortbestaan van de soort te garanderen. AI zou problemen met materiële achteruitgang kunnen oplossen door alleen maar genoeg vervangende onderdelen bij de hand te hebben om de slecht functionerende (dode) onderdelen te verwisselen met de nieuwe,” schrijft hij. “Levende wezens planten zich op vele manieren voort, dus de feitelijke methode is niet essentieel.”
Als het om zelfverbetering gaat, wordt het wat subtieler. Jalsenjak wijst erop dat er al software bestaat die in staat is tot zelfmodificatie, al verschilt de mate van zelfmodificatie per software.
De machine learning-algoritmes van tegenwoordig zijn tot op zekere hoogte in staat hun gedrag aan te passen aan hun omgeving. Ze stemmen hun vele parameters af op de gegevens die ze in de echte wereld verzamelen, en als de wereld verandert, kunnen ze opnieuw worden getraind op nieuwe informatie. Zo heeft de pandemie van het coronavirus een aantal AI-systemen verstoord die op ons normale gedrag waren getraind. Daaronder zijn gezichtsherkenningsalgoritmen die niet langer gezichten kunnen herkennen omdat mensen maskers dragen. Deze algoritmen kunnen nu hun parameters opnieuw afstellen door te trainen op beelden van maskerdragende gezichten. Het is duidelijk dat dit niveau van aanpassing erg klein is in vergelijking met de brede capaciteiten van mensen en hogere dieren, maar het zou vergelijkbaar zijn met bijvoorbeeld bomen die zich aanpassen door diepere wortels te laten groeien als ze geen water aan de oppervlakte van de grond kunnen vinden.
Een ideale zelfverbeterende AI zou echter een AI zijn die totaal nieuwe algoritmen zou kunnen maken die fundamentele verbeteringen zouden brengen. Dit wordt “recursieve zelfverbetering” genoemd en zou leiden tot een eindeloze en steeds snellere cyclus van steeds slimmere AI. Het zou het digitale equivalent kunnen zijn van de genetische mutaties die organismen gedurende vele generaties ondergaan, zij het dat de AI in staat zou zijn deze in een veel hoger tempo uit te voeren.
Heden ten dage hebben we enkele mechanismen zoals genetische algoritmen en grid-search die de niet-trainbare componenten van machine learning algoritmen (ook wel hyperparameters genoemd) kunnen verbeteren. Maar de reikwijdte van de verandering die zij kunnen brengen is zeer beperkt en vereist nog steeds een zekere mate van manueel werk van een menselijke ontwikkelaar. Je kunt bijvoorbeeld niet verwachten dat een recursief neuraal netwerk door veel mutaties verandert in een Transformer.
Recursieve zelfverbetering zal AI echter de “mogelijkheid geven om het algoritme dat wordt gebruikt helemaal te vervangen,” merkt Jalsenjak op. “Dit laatste is wat nodig is om de singulariteit te laten plaatsvinden.”
Naar analogie, kijkend naar bepaalde kenmerken, kunnen superintelligente AI’s als levend worden beschouwd, concludeert Jalsenjak, waarmee hij de bewering ontkracht dat AI een verlengstuk van de mens is. “Ze zullen hun eigen doelen hebben, en waarschijnlijk ook hun rechten,” zegt hij, “Mensen zullen voor het eerst de aarde delen met een entiteit die minstens zo slim is als zij en waarschijnlijk nog veel slimmer.”
Zou je nog zonder schuldgevoel de stekker uit de robot kunnen trekken?
Leven is niet genoeg
Aan het eind van zijn essay erkent Jalsenjak dat de beschouwing over kunstmatig leven nog veel meer vragen overlaat. “Zijn de hier beschreven kenmerken van levende wezens voldoende om iets als levend te beschouwen of zijn ze slechts noodzakelijk maar niet voldoende?” vraagt hij.
Nadat ik net I Am a Strange Loop van filosoof en wetenschapper Douglas Hofstadter heb gelezen, kan ik beslist nee zeggen. Identiteit, zelfbewustzijn en bewustzijn zijn andere concepten die levende wezens van elkaar onderscheiden. Is bijvoorbeeld een hersenloze paperclip-bouwrobot die voortdurend zijn algoritmen verbetert om het hele universum in paperclips te veranderen, levend en verdient hij zijn eigen rechten?
De vrije wil is ook een open vraag. “Mensen zijn medescheppers van zichzelf in die zin dat ze zichzelf niet helemaal het bestaan geven, maar hun bestaan wel doelgericht maken en dat doel ook vervullen,” schrijft Jalsenjak. “Het is niet duidelijk of toekomstige AI’s de mogelijkheid van een vrije wil zullen hebben.”
En ten slotte is er het probleem van de ethiek van superintelligente AI. Dit is een breed onderwerp dat onder meer betrekking heeft op de morele principes die AI zou moeten hebben, de morele principes die mensen zouden moeten hebben ten opzichte van AI, en hoe AI’s hun relatie met mensen zouden moeten zien.
De AI-gemeenschap schuift dergelijke onderwerpen vaak terzijde, door te wijzen op de duidelijke beperkingen van de huidige deep learning-systemen en op het vergezochte idee van het bereiken van algemene AI.
Maar net als veel andere wetenschappers herinnert Jalsenjak ons eraan dat het nu tijd is om over deze onderwerpen te discussiëren, en niet pas als het te laat is. “Deze onderwerpen kunnen niet worden genegeerd omdat alles wat we op dit moment weten over de toekomst erop lijkt te wijzen dat de menselijke samenleving voor ongekende veranderingen staat,” schrijft hij.
In het volledige essay, beschikbaar bij Springer, geeft Jalsenjak diepgaande details over kunstmatige intelligentie singulariteit en de wetten van het leven. Het volledige boek, Guide to Deep Learning Basics, biedt meer diepgaand materiaal over de filosofie van kunstmatige intelligentie.