Voorpublicatie

Een laatste les van Stephen Hawking: alleen praten over de risico’s van kunstmatige intelligentie is niet genoeg

Sanne Blauw
Correspondent Ouderschap
De beelden bij dit stuk zijn afkomstig uit de serie 'Hallucinations' van de Amerikaanse kunstenaar en schrijver Trevor Paglen. Ze laten zien wat machines kunnen waarnemen als je hun zou vragen hoe iets eruit ziet. Dit zijn mensenogen. Onder het stuk meer uitleg over de serie.

De opkomst van superintelligente machines kan het beste, maar ook allerslechtste zijn dat de mens ooit zal overkomen, schrijft de beroemde natuurkundige Stephen Hawking in zijn nieuwe, postuum verschenen boek. ‘Onze toekomst is een wedloop tussen de groeiende macht van onze technologie en de wijsheid waarmee we die gebruiken.’

Natuurkundige was niet alleen briljant, hij kon ook briljant schrijven. Hij had het talent om complexe zaken toegankelijk te maken voor een groot publiek.

In zijn boek De antwoorden op de grote vragen, dat onlangs postuum is verschenen, behandelt hij enorme vragen als: Bestaat er een God? Hoe is alles begonnen? Is tijdreizen mogelijk?

Eén vraag gaat over een thema dat me al langere tijd fascineert. Daarom ben ik heel blij dat De Correspondent onderstaand hoofdstuk uit Hawkings laatste boek mag publiceren, dat licht werpt op de vraag: zal kunstmatige intelligentie slimmer worden dan wij? En zo ja, hoe zorgen we dat we niet overvleugeld worden door superintelligente machines?

Intelligentie is het belangrijkste aspect van wat het betekent mens te zijn. Alles wat de beschaving te bieden heeft, is een product van menselijke intelligentie. Dna geeft de blauwdruk van het leven door aan de volgende generatie. Steeds ingewikkelder levensvormen verwerken de input van onze sensoren als ogen en oren, kortom zintuiginformatie, in de hersenen of andere systemen om te weten hoe te reageren, om vervolgens zelf informatie naar bijvoorbeeld de spieren te sturen.

Op een gegeven moment ergens in de is er iets schitterends gebeurd. Deze verwerking van informatie werd zo intelligent dat de levensvormen bewustzijn kregen. Ons universum is nu wakker en wordt zich van zichzelf bewust. Ik beschouw het als een triomf dat wij, slechts sterrenstof, zo’n gedetailleerd inzicht hebben in het heelal waarin we leven.

Volgens mij is er geen kwalitatief verschil tussen het brein van een worm en dat van een computer. Ik geloof ook dat de evolutie betekent dat er geen kwalitatief verschil kan zijn tussen het brein van een worm en dat van een mens.

Daaruit volgt dat computers in principe menselijke intelligentie kunnen voortbrengen, of zelfs iets beters dan dat. Het is wel degelijk mogelijk voor iets om een hogere intelligentie te verkrijgen dan zijn voorouder: wij zijn zo geëvolueerd dat we slimmer zijn dan onze aapachtige voorouders, net als Einstein slimmer was dan zijn ouders.

‘Snelweg des Doods’. Beeld uit de serie Hallucinations door Trevor Paglen.

Wat kunstmatige intelligentie ons al gebracht heeft

Tot nu toe hebben computers zich gehouden aan de wet van Moore, die zegt dat snelheid en complexiteit met als gevolg dat computers de mens waarschijnlijk ergens in de komende honderd jaar zullen inhalen wat betreft intelligentie.

Het is verleidelijk het idee van hoogintelligente machines af te doen als sciencefiction, maar dat zou een vergissing zijn

Als een kunstmatig intelligent iets beter wordt dan de ontwerpers van zodat het zichzelf kan verbeteren zonder menselijke hulp, dan kunnen we voor een intelligentie-explosie staan die uiteindelijk zal resulteren in machines waarvan de intelligentie naar verhouding groter is dan onze intelligentie ten opzichte van die van een slak. Wanneer dat gebeurt, moeten we ons er wel van verzekerd hebben dat die computers dezelfde doeleinden hebben als wij.

Het is verleidelijk het idee van hoogintelligente machines af te doen als sciencefiction, maar dat zou een vergissing zijn, en mogelijk de grootste vergissing die we ooit hebben gemaakt.

De afgelopen twintig jaar is kunstmatige intelligentie gericht geweest op de problemen die de bouw van intelligent agents, systemen die hun omgeving waarnemen en erop reageren, met zich meebrengt. In deze context is intelligentie gerelateerd aan statistische en economische begrippen van rationaliteit, in gewone mensentaal: het vermogen om goede beslissingen te nemen, goede plannen te maken of op te treden.

Ten gevolge van dit recente werk heeft een grote mate van integratie en kruisbestuiving plaatsgehad tussen kunstmatige intelligentie, statistiek, neurowetenschappen en andere terreinen. Het instellen van een gezamenlijke theoretische structuur in combinatie met de beschikbaarheid van data en verwerkingskracht heeft al opmerkelijke successen opgeleverd in verschillende deeltaken, zoals beeldclassificatie, en vraag-antwoordsystemen.

Wat kunstmatige intelligentie ons nog kan brengen

Terwijl de ontwikkeling op deze en andere gebieden zich beweegt van laboratoriumonderzoek naar economisch waardevolle technieken, ontwikkelt zich een effectieve cyclus, waarin zelfs kleine verbeteringen in prestaties veel geld waard zijn, wat meer en grotere investeringen in onderzoek rechtvaardigt. Er heerst nu algehele overeenstemming dat onderzoek op het terrein van kunstmatige intelligentie geleidelijk wordt voortgezet en dat de invloed op de samenleving vermoedelijk zal toenemen.

De potentiële voordelen zijn enorm; we kunnen niet voorspellen wat we zouden kunnen bereiken als deze intelligentie nog eens wordt vergroot door de instrumenten die kunstmatige intelligentie kan aanreiken. is niet langer ondenkbaar. Vanwege het grote potentieel van kunstmatige intelligentie is het belangrijk te onderzoeken hoe die voordelen binnengehaald kunnen worden terwijl mogelijke valkuilen worden vermeden. Succes in het scheppen van kunstmatige intelligentie zou de grootste gebeurtenis zijn in de geschiedenis van de mensheid.

In de toekomst kan kunstmatige intelligentie een eigen wil gaan ontwikkelen, een wil die in botsing komt met de onze

Jammer genoeg kan het ook wel eens de laatste gebeurtenis zijn, als we tenminste niet leren hoe we de risico’s kunnen vermijden. Kunstmatige intelligentie kan, als ze als gereedschapskist wordt gebruikt, de bestaande intelligentie van de mens aanvullen om vorderingen te maken op ieder terrein van wetenschap en samenleving.

Dit brengt echter ook gevaren met zich mee. Terwijl de primitieve vormen van kunstmatige intelligentie die tot nu toe zijn ontwikkeld, heel nuttig zijn gebleken, ben ik bang voor de consequenties van het scheppen van iets wat de mens kan inhalen of zelfs voorbijstreven. Kunstmatige intelligentie kan dan zelfstandig verder gaan en zichzelf met toenemende snelheid herontwerpen. Mensen, die beperkt worden door de langzame evolutie, zouden er geen partij voor zijn en overvleugeld worden. En in de toekomst kan kunstmatige intelligentie zelfs een eigen wil gaan ontwikkelen, een wil die in botsing komt met de onze.

Sommigen geloven dat de mens de snelheid van de technologie lang kan blijven beheersen en dat de potentie van kunstmatige intelligentie om de problemen in de wereld op te lossen, gerealiseerd zal worden. Hoewel ik bekendsta als een optimist met betrekking tot de mens, ben ik daar niet zo zeker van.

‘Komeet’. Beeld uit de serie Hallucinations door Trevor Paglen.

Waarom ik geen optimist ben als het om kunstmatige intelligentie gaat

Op korte termijn bijvoorbeeld die zelf hun doelen kunnen uitkiezen en elimineren.

Terwijl de VN nog vergeten de voorstanders van autonome wapensystemen gewoonlijk de belangrijkste vragen: wat is de te verwachten afloop van een wapenwedloop en is die wenselijk voor de mensheid? Willen we wel dat goedkope autonome wapensystemen de kalasjnikovs van de toekomst worden, die op een of andere zwarte markt te koop worden aangeboden aan criminelen en terroristen? Gezien de zorgen over de mogelijkheid om op lange termijn steeds geavanceerdere kunstmatige-intelligentie-systemen te controleren, moeten we die dan wel bewapenen en onze verdediging aan ze overlaten?

In 2010 veroorzaakten gecomputeriseerde handelssystemen op de aandelenmarkt de Hoe zou een door de computer veroorzaakte crash eruitzien als het gaat om onze verdediging? Het beste moment om de automatische-wapen- wedloop te stoppen is nu.

De opkomst van superintelligente kunstmatige intelligentie kan het allerbeste, maar ook het allerslechtste zijn dat de mens ooit zal overkomen

Op middellange termijn kan kunstmatige intelligentie onze banen automatiseren en zowel welvaart als gelijkheid brengen. Kijken we nog verder, dan zien we geen fundamentele grens aan wat kan worden bereikt. Er is geen natuurkundige wet die deeltjes uitsluit van zelforganisatie op een manier die nog ingewikkelder berekeningen mogelijk maakt dan de organisatie van de deeltjes die het menselijk brein vormen.

Een explosieve overgang is mogelijk, hoewel die anders kan aflopen dan in de films. kunnen machines met bovenmenselijke intelligentie hun ontwerpen herhaaldelijk verbeteren en een technologische singulariteit, veroorzaken. Men kan zich voorstellen hoe zo’n technologie slimmer is dan financiële markten en inventiever dan menselijke onderzoekers en ons kan onderwerpen met wapens die we niet eens begrijpen.

Terwijl de kortetermijnimpact van kunstmatige intelligentie afhangt van wie er aan de knoppen zit, hangt de langetermijnimpact ervan af óf er nog wel iemand aan de knoppen zit. Kortom, de opkomst van superintelligente artificial intelligence kan het allerbeste, maar ook het allerslechtste zijn dat de mens ooit zal overkomen.

Het echte risico met kunstmatige intelligentie is niet kwaadwillendheid maar competentie. Een superintelligente artificial intelligence zal extreem goed zijn in het bereiken van haar doelen maar als die doelen niet op dezelfde lijn liggen als de onze, hebben we een probleem. Jij bent vermoedelijk geen kwaadaardige mierenhater die uit kwaadwillendheid op mieren trapt, maar als je aan het hoofd staat van een hydro-elektrisch groen energieproject en een mierenhoop in de omgeving onder water dreigt te komen staan, jammer dan voor de mieren.

Laten we de mensheid niet in de positie brengen van die mieren. We zouden vooruit moeten plannen. Als een superieure samenleving van aliens ons een tekstboodschap stuurt met de mededeling ‘Over enkele decennia zijn we er’, zouden we dan alleen maar antwoorden: ‘Oké, bel maar als je er bent, we laten de lampen aan’? Vermoedelijk niet, maar dit is min of meer wat er is gebeurd met kunstmatige intelligentie. Er is weinig serieus onderzoek verricht naar deze zaken, alleen kleine non-profitorganisaties hebben zich ermee beziggehouden.

We moeten de toekomst van intelligentie bestuderen

Gelukkig is dat nu aan het veranderen. Tech-pioniers als en hebben dezelfde zorgen geuit als ik en inmiddels schiet een gezonde cultuur van risicoberekening en bewustzijn van de sociale gevolgen wortel in de kunstmatige-intelligentie-gemeenschap.

In januari 2015 heb ik samen met tech-ondernemer Elon Musk en veel andere kunstmatige-intelligentie-specialisten een waarin we oproepen serieus onderzoek te doen naar de impact daarvan op de samenleving. In het verleden heeft Elon Musk al gewaarschuwd dat bovenmenselijke kunstmatige intelligentie mogelijk onvoorstelbare voordelen kan brengen, maar als ze onnadenkend wordt ingevoerd, zal ze een

‘Vampier’. Beeld uit de serie Hallucinations door Trevor Paglen.

We zitten beiden in de een organisatie die probeert de bestaande risico’s waar de mensheid voor staat, af te wenden en die bovenstaande open brief heeft opgesteld. Hierin wordt opgeroepen concreet onderzoek te doen naar hoe we mogelijke problemen kunnen voorkomen en tegelijkertijd profiteren van de mogelijke voordelen die kunstmatige intelligentie ons biedt. De brief is ook opgesteld om kunstmatige-intelligentie-onderzoekers en -ontwikkelaars meer aandacht te laten besteden aan veiligheid. En voor beleidsmakers en het grote publiek is de brief bedoeld om informatief te zijn, niet alarmerend.

Volgens ons is het heel belangrijk dat iedereen weet dat onderzoekers van kunstmatige intelligentie serieus nadenken over deze zorgen en de ethische aspecten. Zo is het bijvoorbeeld met kunstmatige intelligentiemogelijk ziektes en armoede uit te bannen, maar onderzoekers moeten tegelijkertijd kunstmatige intelligentie scheppen die beheerst kan worden.

In oktober 2016 heb ik in Cambridge een nieuw centrum geopend waar geprobeerd zal worden enkele van de vragen te beantwoorden die zijn opgekomen door de snelle ontwikkelingen in het onderzoek naar kunstmatige intelligentie. Het gewijd aan onderzoek naar de toekomst van intelligentie, dat cruciaal is voor de toekomst van onze beschaving en onze soort. We besteden veel tijd aan het bestuderen van de geschiedenis die, laten we eerlijk zijn, toch grotendeels een geschiedenis van domheid is.

Het is dus een welkome verandering dat mensen in plaats daarvan de toekomst van intelligentie gaan bestuderen. We zijn ons bewust van de potentiële gevaren, maar misschien zijn we met de instrumenten van deze nieuwe technologische revolutie in staat iets van de schade te herstellen die door de industrialisatie is aangebracht aan het milieu.

Ook het Europees Parlement denkt na over kunstmatige intelligentie

Een van de recente ontwikkelingen rondom kunstmatige intelligentie was een oproep van de juridische commissie van het Europees Parlement om regels op te stellen om het maken van robots en kunstmatige intelligentie te kunnen beheersen. Enigszins verrassend was dat hierin een vorm van elektronisch ‘mens- zijn’ was opgenomen, waarin de rechten en plichten van de bekwaamste en verst gevorderde staan.

Een woordvoerder legde uit dat, als een toenemend aantal aspecten van ons dagelijks leven meer en meer wordt beïnvloed door robots, we er zeker van moeten zijn dat robots in dienst staan van de mens en dat altijd zullen blijven. dat aan de leden van het Europees Parlement werd aangeboden, maakt duidelijk dat het Parlement gelooft dat de wereld op het beginpunt staat van een nieuwe industriële revolutie. In het rapport wordt bekeken of het geven van rechten aan robots als elektronische personen, wat in lijn zou zijn met de wettelijke definitie van een rechtspersoon, zou zijn toegestaan. Maar benadrukt wordt dat onderzoekers en ontwerpers te allen tijde moeten garanderen dat in ieder robotontwerp een kill switch zit.

Kan de technologie ons helpen ons verlangen naar instant-levering te bevredigen?

Dit hielp de geleerden aan boord van het ruimteschip niet met HAL, de in Stanley Kubricks 2001: A Space Odyssey, maar dat was fictie. Wij hebben te maken met feiten.

partner van de multinationale advocatenfirma Osborne Clarke, geven we walvissen en gorilla’s in dat rapport ook geen rechtspersoonlijkheid, dus is dat voor robots ook helemaal niet nodig. Maar de zorg bestaat. In het rapport wordt erkend dat kunstmatige intelligentie binnen enkele decennia de intellectuele capaciteit van de mens kan overstijgen en de relatie mens-robot op de helling kan zetten.

steden met meer dan tien miljoen inwoners. En al die mensen roepen om goederen en diensten die worden geleverd op het moment dat zij het willen; kan de technologie ons helpen ons verlangen naar instant-levering te bevredigen?

Robots zullen zeker het online winkelen stimuleren, maar om een echte revolutie in het boodschappen doen te veroorzaken, moeten ze zo snel zijn dat

‘Een man’. Beeld uit de serie Hallucinations door Trevor Paglen.

De manier waarop we met machines interacteren verandert

Het aantal mogelijkheden om met de wereld te interacteren zonder lichamelijk aanwezig te zijn, neemt snel toe. Zoals je je kunt voorstellen vind ik dat aantrekkelijk, niet in het minst omdat het stadsleven voor ons allemaal zo druk is. Hoe vaak heb je niet gewenst dat je een dubbelganger had om je werklast mee te delen? Het scheppen van realistische digitale surrogaten van onszelf is nog een ambitieuze droom, maar de modernste technologie suggereert dat het idee niet meer zo vergezocht is als het klinkt.

Hoe we verbonden zijn met die digitale wereld is de sleutel tot de vooruitgang die we nog zullen gaan maken

Toen ik jonger was, wees de opkomst van de technologie naar een toekomst waarin we allemaal konden genieten van meer vrije tijd. Maar het blijkt dat, Onze steden staan al vol machines die onze vermogens vergroten, maar wat als we nu eens op twee plaatsen tegelijk konden zijn? We zijn al gewend aan geautomatiseerde stemmen aan de telefoon en bij openbare aankondigingen. Nu onderzoekt de mogelijkheid onszelf ook visueel te dupliceren. De vraag is nog wel hoe overtuigend zo’n avatar kan zijn.

Interactieve tutors kunnen nuttig blijken voor massaal onderwijs online en voor ontspanning kan het echt opwindend worden. en in staat anders onmogelijke opdrachten te vervullen. Onze toekomstige idolen zijn misschien

Hoe we verbonden zijn met die digitale wereld is de sleutel tot de vooruitgang die we nog zullen gaan maken. In de intelligentste steden zullen de intelligentste huizen zijn voorzien van toestellen die zo intuïtief zijn dat je bijna moeiteloos met ze kunt interacteren.

Toen de typemachine was uitgevonden, veranderde die de manier waarop we met machines interacteren. Het is bijna honderdvijftig jaar later en touchscreens hebben een nieuwe manier gebracht om in de digitale wereld te communiceren. Recente mijlpalen in kunstmatige intelligentie, zoals de zelfsturende auto en zijn signalen van wat er nog gaat komen.

Hoe kunstmatige intelligentie de mens kan verbeteren

Er wordt enorm veel geïnvesteerd in deze technologie, die al een belangrijk deel van ons leven uitmaakt. In de komende decennia zal kunstmatige intelligentie doordringen in ieder aspect van de samenleving en ons intelligent steunen en adviseren op uiteenlopende gebieden als gezondheidszorg, arbeid, onderwijs en wetenschap. Dat wat er tot nu toe is bereikt, zal bleek afsteken bij wat de komende decennia ons zullen brengen en we kunnen niet voorspellen wat wij nog allemaal kunnen bereiken als onze geest wordt versterkt met kunstmatige intelligentie.

Misschien dat we met de gereedschappen van deze nieuwe technologische revolutie het leven van de mens kunnen verbeteren. Onderzoekers ontwikkelen bijvoorbeeld kunstmatige intelligentie die zou kunnen helpen met het omzeilen van de verlamming bij mensen met een dwarslaesie. Met gebruik van geïmplanteerde chips en een draadloze elektronische interface tussen de hersenen en het lichaam kunnen zij, dankzij de technologie,

Volgens mij zal de toekomst van de communicatie worden bepaald door hersencomputerinterfaces. Er zijn twee manieren: elektroden op de schedel en implantaten. De eerste manier is als kijken door een beslagen ruit, de tweede is beter, maar daarbij bestaat het risico op infectie.

Als we een menselijk brein kunnen verbinden met het internet, dan zal de eigenaar de hele Wikipedia ter beschikking hebben als database van kennis.

De wereld is steeds sneller gaan veranderen nu mensen, apparaten en informatie meer en meer met elkaar verbonden zijn. De rekenkracht neemt toe en Dat zal een revolutie teweegbrengen in de kunstmatige intelligentie, omdat de rekensnelheid exponentieel zal groeien. Encryptie zal verder ontwikkeld worden. Kwantumcomputers zullen alles veranderen, zelfs de biologie van de mens.

Er bestaat al een techniek waarmee dna nauwkeurig kan worden aangepast, crispr (Clustered Regularly Interspaced Short Palindromic Repeats). De basis voor deze techniek om het genoom te veranderen is een bacterieel afweermechanisme. kunnen heel nauwkeurig stukjes genetische code worden geknipt en geplakt. De beste bedoelingen van genetische manipulatie is dat het veranderen van genen wetenschappers in staat zou stellen genetische oorzaken van ziekten te behandelen door genetische mutaties te corrigeren.

Er zijn echter ook minder nobele doelen om dna te manipuleren. Hoe ver we zullen gaan met genetische modificatie zal een steeds dringender vraag worden. We zien nog geen enkele mogelijkheid om neurologische ziekten – te genezen zonder niet ook een glimpje op te vangen van de gevaren.

‘Regenboog’. Beeld uit de serie Hallucinations door Trevor Paglen.

We moeten vooruitdenken

Intelligentie wordt gekenmerkt door het vermogen om te veranderen. van hen die het vermogen hadden zich aan te passen aan veranderde omstandigheden. We moeten niet bang zijn voor verandering. We moeten ervoor zorgen dat ze in ons voordeel werkt.

We staan op de drempel van een brave new world

We hebben allemaal onze rol te spelen om ervoor te zorgen dat wij, en de generatie na ons, niet alleen de gelegenheid hebben maar ook de vastberadenheid om al jong te beginnen met het studeren van een wetenschappelijk vak, zodat we ons potentieel kunnen vervullen en een betere wereld kunnen scheppen voor heel de mensheid.

We moeten de studie over hoe kunstmatige intelligentie zou moeten zijn, over de theoretische discussie heen tillen en actie ondernemen om ervoor te zorgen dat we kunnen plannen hoe kunstmatige intelligentie kan wórden. We hebben allemaal de potentie om de grenzen van wat geaccepteerd is of verwacht wordt, te verschuiven en groot te denken. We staan op de drempel van een Het is een spannende, onzekere plaats om te zijn, en wij zijn de pioniers.

Toen we het vuur hadden uitgevonden, maakten we er herhaaldelijk een potje van en Met krachtiger technologieën als kernwapens, synthetische biologie en een sterke kunstmatige intelligentie moeten we nu echter vooruitdenken en ons erop richten dat we de dingen direct goed doen, omdat dit misschien de enige kans is die we krijgen. Onze toekomst is een wedloop tussen de groeiende macht van onze technologie en de wijsheid waarmee we die gebruiken.

Laten we ervoor zorgen dat de wijsheid wint.

Dit is een aangepast stuk uit het boek De antwoorden op de grote vragen van Stephen Hawking, dat deze maand verscheen bij uitgeverij Spectrum. Vertaald uit het Engels door Rob de Ridder.

Lees verder...