Ieder jaar stelt John Brockman, de oprichter van discussieplatform één grote vraag aan zijn netwerk van beroemde auteurs, kunstenaars en wetenschappers. Dit jaar luidde die vraag:

Hoe denk je over machines die denken?

In het net verschenen boek zijn 195 antwoorden op die vraag gebundeld. In de Nederlandse editie staan ook enkele bijdragen uit Nederland, waarvan De Correspondent er twee publiceert. Vandaag het essay van Esther Quaedackers, docent aan de Universiteit van Amsterdam. Zij betoogt dat kunstmatige intelligentie niet zal ontstaan zolang het meer energie kost dan het oplevert.

De ontwikkeling van denkende machines waarvan de intelligentie die van onszelf overtreft wordt vaak gezien als een logische volgende stap in de evolutie. Evolutionaire processen leiden immers al ongeveer 3,5 miljard jaar tot steeds intelligentere systemen. Zo hebben eencelligen zich ontwikkeld tot dieren met een brein, tot zoogdieren, primaten en mensen met grote en ingewikkelde hersenen, en tot moderne mensen die niet alleen complex kunnen denken, maar die ook hun gedachten op diverse manieren vastleggen en delen. Het ligt daarom voor de hand te denken dat evolutionaire processen in de toekomst zullen leiden tot het ontstaan van nog intelligentere wezens, bijvoorbeeld in de vorm van superintelligente Hierbij wordt echter een belangrijk punt over het hoofd gezien.

Hoewel stappen in de richting van hogere intelligentie zo nu en dan voorkomen in de evolutie, zijn ze zeker niet vanzelfsprekend. Sterker nog: ze zijn over het algemeen voorbehouden aan een zeer beperkte groep organismen. De overgrote meerderheid van de organismen op aarde is relatief simpel gebleven. Hoe komt dat? Het antwoord is eenvoudig: het onderhouden van systemen die noodzakelijk zijn voor hogere intelligentie, zoals grotere en complexere hersenen, is duur.

Er zijn manteldieren die hun eigen brein opeten

Menselijke hersenen bijvoorbeeld vormen 2 procent van het menselijk lichaamsgewicht, maar verbruiken tot wel 20 procent van de energie die door het menselijk lichaam stroomt. Intelligentie is daarom alleen een goed idee als het voldoende oplevert, bijvoorbeeld in de vorm van voedsel, paringsmogelijkheden of sociale status. En dat is lang niet altijd het geval. Bepaalde manteldieren, die als jongen een zeer primitieve ruggengraat en brein bezitten, ‘eten’ daarom hun brein op zodra ze zich als volwassenen permanent op een plek vestigen en dus geen hersenen meer nodig hebben om zich voort te bewegen.

Bij mensen zijn energieverslindende hersenen een goede investering gebleken

Bij mensen zijn energieverslindende hersenen een goede investering gebleken. Onder andere grote hersenen en de gerelateerde hoge intelligentie hebben het mogelijk gemaakt om werktuigen te leren maken, vuur te leren beheersen, planten en dieren te leren domesticeren en fossiele brandstoffen te leren benutten. Dit leidde tot een steeds grotere beschikbaarheid van voedsel en andere energiebronnen. Met name sinds de ontdekking van fossiele brandstoffen is de wereld overspoeld met grote hoeveelheden goedkope energie.

Energie is zelfs zo goedkoop geworden dat er vaak niet meer wordt stilgestaan bij hoe fundamenteel die is voor het voortbestaan van onze eigen intelligentie en de ontwikkeling van mogelijk nog intelligentere AI-vormen. De voorraden fossiele brandstoffen, en daarmee de huidige goedkope energievormen, zijn echter eindig. De zon is op dit moment de meest voor de hand liggende alternatieve bron. Die levert meer dan genoeg energie, maar het gebruik ervan is nog niet goedkoop genoeg om in al onze behoeften te kunnen voorzien. Zal dat in de toekomst wel het geval zijn?

Het belang van zonne-energie

Deze vraag is niet onbelangrijk voor het nadenken over scenario’s voor de ontwikkeling van AI (aangenomen dat die AI gebaseerd wordt op computertechnologie die aanzienlijk minder efficiënt is dan menselijke hersenen en dus behoorlijk veel energie verbruikt). Er zijn verschillende scenario’s denkbaar. In het eerste scenario leren mensen zonne-energie (of een andere omvangrijke bron van energie, zoals atoomkernen) goedkoop te exploiteren voordat de belangrijkste huidige energiebronnen opraken. In het tweede scenario leert AI dat zelf te doen. In beide scenario’s levert een hoge intelligentie, ofwel die van onszelf of de kunstmatige variant, voldoende op om de kosten van de verdere ontwikkeling te rechtvaardigen.

Beide scenario’s roepen echter vragen op over de controle over deze opbrengst. Als bepaalde AI-vormen leren zonne-energie goedkoop te exploiteren, willen ze die energie dan delen met andere vormen en met mensen? Of ontpoppen ze zich tot een soort van AI-zonnesjeiks? Zo ja, wat zullen de geopolitieke gevolgen dan zijn? En als mensen de eersten zijn die leren zonne-energie goedkoop te exploiteren? Willen mensen de controle over de energievoorziening volledig zelf houden? Of staan ze die gedeeltelijk af, bijvoorbeeld door een AI-vorm te creëren die zichzelf in stand houdt door zonne-energie? Controleren mensen in zo’n situatie nog volledig hoe AI zich verder ontwikkelt? Dan is het onmogelijk de stekker uit het stopcontact te trekken bij onwenselijk gedrag.

In het derde scenario raken onze huidige belangrijkste energiebronnen op voordat mensen of AI-vormen hebben geleerd zonne-energie goedkoop te exploiteren. In een wereld waarin energie weer duur is, rijst de vraag of de opbrengst van AI zodanig is dat het de kosten rechtvaardigt. Het antwoord hierop is onder meer afhankelijk van de efficiëntie en de capaciteiten die AI-vormen tegen die tijd zullen hebben. Het is echter niet zonder meer ja. Het is mogelijk dat energie een beperkende factor zal blijken in de ontwikkeling van AI, zoals het een beperkende factor is geweest bij de ontwikkeling van andere vormen van intelligentie op aarde.

Meer lezen? Dit artikel is een voorpublicatie uit het onlangs bij Maven Publishing verschenen boek Machines die denken: invloedrijke denkers over de komst van Kunstmatige Intelligentie. Andere bijdragen komen onder meer van Steven Pinker, Douglas Coupland, Brian Eno, Luc Steels, George Dyson, Max Tegmark en Nicholas Carr. Lees hier meer over het boek

Meepraten? Waar staan we eigenlijk als het op Kunstmatige Intelligentie aankomt? Daar gaat het komende maandag 4 april over in De Balie. Kom meepraten. Hier lees je meer over de avond in De Balie

Lees ook:

Wij zijn ons brein? Zij zijn ons brein! Volgens hoogleraar cognitieve neurowetenschap Peter Hagoort neemt de betekenis van het individuele denken steeds verder af, dankzij het ontstaan van een symbiotische relatie tussen natuurlijke en kunstmatige intelligentie. Een voorpublicatie uit de essaybundel Machines die denken. Lees de voorpublicatie hier terug Dankzij dit spelletje krijgen machines intuïtie die wij niet kunnen begrijpen Vanochtend won AlphaGo, een kunstmatig intelligent algoritme van Google, voor de tweede keer van de beste menselijke Go-speler ter wereld, Lee Sedol. AlphaGo kan betere beslissingen nemen dan hij, zonder dat mensen nog kunnen begrijpen hoe die tot stand zijn gekomen. Lees het verhaal hier terug Robotchef Watson laat je koken met koffie en knoflook (en het is nog lekker ook) Chef Watson, de kunstmatig intelligente bot van IBM die nieuwe recepten verzint, is nu beperkt toegankelijk voor het bredere publiek. Ik kookte zijn koffieknoflookpunch en bakte rookworstframbozensandwiches, consumeerde beide met onverwacht veel genoegen en vraag me af waarom ik ooit nog twee keer hetzelfde gerecht zou klaarmaken. Lees het verhaal hier terug