Hoe kun je apparaten vertrouwen die je niet eens een béétje snapt? Deze hacker bouwt een radicaal open systeem

Bijna alle digitale apparaten die we gebruiken zijn niet te begrijpen. Als een black box: ze zitten potdicht, je weet niet hoe ze werken en je bent er nooit zeker van dat ze doen wat de fabrikant zegt.

Neem een telefoon: repareren is vaak moeilijk, de bouwtekeningen zijn niet openbaar en zonder dat je het weet sluizen sommige apps privé-informatie weg.

Ondertussen zijn we omringd door zoveel van die black boxes, dat het moeilijk voor te stellen is dat het ook anders kan.

Toch is er één elektronicaexpert die producten bouwt met een compleet andere filosofie: radicale openheid. Hardwarehacker Andrew ‘bunnie’ Huang maakt apparaten die je kunt openmaken, waarvan alle ontwerpen online beschikbaar zijn, en die zo overzichtelijk zijn ontworpen dat je ieder onderdeel zelf kunt controleren. Dat klinkt zo anders, zo niche, dat zijn projecten wellicht meer voelen als moderne kunst – niet als praktische tools, maar als een symbolische vuist tegen Big Tech.

Maar daarmee zou je Bunnie tekortdoen. Want ook al produceert hij zijn apparaten in een oplage van ongeveer duizend exemplaren, hij bouwt ondertussen aan de fundamenten van een radicaal andere, open, begrijpelijke en betrouwbare digitale infrastructuur. Ik spreek Bunnie over zijn werk en werkwijze, aan de hand van drie van zijn projecten.

DIY-laptops

Bunnie (1975) was als jongen al geobsedeerd door de groene printborden en glimmende chips van de Apple ][ die zijn vader had gekocht, en die obsessie heeft hem nooit losgelaten.^* Zo bouwde hij als scholier zelf computers en terwijl hij zijn proefschrift aan MIT schreef (over de architectuur van supercomputers) hackte hij in zijn vrije tijd de Xbox, de spelcomputer van Microsoft.

Doordat hij veel weet van de technologie én het productieproces (een unieke combinatie) kan hij min of meer in zijn eentje doen wat grote techbedrijven alleen met miljarden euro’s lukt: geavanceerde digitale technologie bouwen. Bunnie doet veel van het proces zelf, vaak samen met één andere partner in crime; hij ontwerpt en begeleidt de productie, schrijft de software en doet zelfs de klantenservice.

Het zijn skills die hem goed van pas kwamen toen hij samen met die vriend in 2014 de Novena ontwikkelde, een zelfgebouwde laptop met een oplage van iets meer dan duizend exemplaren.  Het is een totaal andere laptop dan je gewend bent, want hij is gemaakt om te kunnen openen. Sterker nog: je krijgt er gratis een schroevendraaier bij.

Waarom bouwde Bunnie de Novena? ‘Het belangrijkste doel was om te bewijzen dat je een laptop kon bouwen met een klein team. Voor alleen al dat idee werd je destijds voor gek verklaard. Maar nu is de geest uit de fles en zijn er een heleboel vergelijkbare projecten. Ik ben blij dat we nu een ecosysteem hebben waarin  dit soort plannen mogelijk zijn.’

Overzichtelijke technologie is een ladder waarmee je kunt doorbouwen

Omdat Bunnie alles zelf doet, kan hij het doen onder zijn eigen voorwaarden. En één van die voorwaarden is dat alles ‘open’ is. Dat wil zeggen dat alle informatie die nodig is om de werking te begrijpen en het product na te maken openbaar is.

Dat deed hij niet alleen bij de Novena-laptop. Na de ramp met de kerncentrale in Fukushima (Japan) ontwikkelde Bunnie een open-sourcegeigerteller. Je kunt het apparaat online kopen bij een bedrijf dat zich specialiseert in allerlei meetapparatuur, maar belangrijker: alle specificaties, inclusief de technische tekeningen waarmee je de meter zelf kunt namaken, publiceerde hij op zijn website.

Waarom is het eigenlijk belangrijk om alle informatie over het product online te zetten? ‘Omdat je, ook als je geen miljarden aan durfkapitaal hebt, wel technologie wil hebben waarvan je zelf eigenaar bent.’

Dat gevoel dat je eigenaar bent van je apparaten, dat begint met begrijpen hoe ze werken.

Je kunt abstractere en meer ingewikkelde systemen bouwen vanuit iets wat je vertrouwt en begrijpt

En dat betekent: het zo simpel mogelijk maken. Bunnie: ‘Veel van de projecten waaraan ik werk, zijn gericht op een soort eenvoudige, minimalistische technologie, met een complexiteit die een normaal mens in een dag kan doorgronden. Misschien begrijp je niet direct alles helemaal precies, maar je kunt in ieder geval de documentatie doorbladeren en een gevoel hebben bij alle concepten. Een groot contrast met de meeste producten en technologie waar je nu mee te maken hebt.’

Maar dat je de technologie kan begrijpen is meer dan alleen handig; het dient voor Bunnie ook een meer fundamenteel doel. Uit dat soort technologie, die overzichtelijk genoeg is om te begrijpen, kun je dan namelijk nieuwe technologieën bouwen – technologieën die zijn gebouwd op een open fundament.

‘Het open source maken van apparaten is de eerste tree op de ladder van complexiteit. Je kunt abstractere en meer ingewikkelde systemen bouwen vanuit iets wat je vertrouwt en begrijpt. Zo werk je jezelf uiteindelijk omhoog, en zou je zelfs een persoonlijk alternatief voor Google kunnen bouwen. Of iets anders.’

Het probleem is dat techbedrijven nauwelijks meer dit soort begrijpelijke technologie bouwen. ‘Ik maak me zorgen dat die bedrijven de eerste trede van de ladder doorzagen, en daarna de tweede, enzovoort. Uiteindelijk ís er nog wel een ladder, maar je kunt hem niet meer beklimmen, omdat al die onderste treden zijn weggehaald.’

Het is een ontwikkeling waardoor gebruikers zich machteloos kunnen voelen. Bunnie hoopt dat die openheid mensen inspireert: ‘Als je ooit het gevoel hebt dat je een slachtoffer bent van technologie, of dat je er geen zeggenschap over hebt, dan is er een manier om de zeggenschap terug te krijgen. Het is geen gemakkelijke weg, maar hij is er. Je zit nog niet opgesloten in de vier hoeken van je apparaat.’

Als je iets niet kunt controleren, kun je het dan wel vertrouwen?

Bunnie heeft inmiddels veel ervaring met het bouwen van apparaten, vaak in fabrieken in China. Hij heeft mooie boeken geschreven over de innovatie rond het  hart van de Chinese elektronica-industrie, Shenzhen. Maar zijn ervaringen in China maakten hem ook duidelijk dat openheid niet een oplossing is voor alle problemen rond de black box.

Want zelfs als je een apparaat kunt openmaken, en zelfs als je beschikt over alle bouwtekeningen, dan nog heb je een fundamenteel probleem: hoe weet je zeker dat het apparaat ook doet wat je denkt dat het doet? Met andere woorden: hoe kun je het apparaat vertrouwen? Als je er goed over nadenkt, blijkt het antwoord behoorlijk complex.

Bunnie: ‘Het is echt belachelijk, maar we hebben eigenlijk geen manier om te weten of onze chips zijn wat ze zeggen dat ze zijn. Het is letterlijk een zwarte doos. Iedereen kijkt naar de buitenkant van de doos, leest de letters die erop staan, en als die overeenkomen met wat er op het vel papier ernaast staat, zeggen ze: ja, dit klopt. Maar binnenin kan een compleet andere chip zitten.’

Dat klinkt misschien als een academisch probleem waar je fijn over kunt filosoferen met hackernerds. Maar het heeft voor iedereen praktische, vergaande gevolgen. Zo hadden sommige SD-kaarten die Bunnie in Shenzhen tegenkwam minder opslagruimte dan op de buitenkant stond. En als je die dan weer verwerkt in miljoenen telefoons, kan je je voorstellen dat bedrijven veel geld mislopen.

Als je een iPhone vertrouwt, vertrouw je het apparaat dan echt omdat je weet wat erin zit, of vertrouw je puur op de reputatie van de leverancier?

Die onzekerheid over de werking van chips is er ook bij veel ingewikkeldere systemen, waar het niet eens gaat over economische belangen, maar over zaken als nationale veiligheid: hoe weten we bijvoorbeeld zeker dat de routers in ons telecomnetwerk niet stiekem een lijntje hebben met een buitenlandse geheime dienst?

Dat is een serieuze zorg, want geheime diensten passen elektronica daadwerkelijk aan om te spioneren. Bunnie: ‘Edward Snowden lekte een heleboel documenten die duidelijk de hackerskills van de Amerikaanse overheid laten zien. De overheid kan bijvoorbeeld ongemerkt chips verstoppen in USB-kabels en zo draadloos informatie wegsluizen.’^*

Dat er een achterdeurtje zit in een chip is ondertussen heel moeilijk vast te stellen. Je zou de chips van één router aan een grondig onderzoek kunnen onderwerpen met een krachtige microscoop. Maar dat is een project van honderdduizenden, zo niet miljoenen euro’s – waarna de chips de prullenbak in kunnen, omdat je ze in kleine plakjes hebt gesneden om de werking te begrijpen. En dan heb je de andere routers in je organisatie nog niet eens gecontroleerd, terwijl één onveilige router voor een aanvaller genoeg is om bij je netwerk in te breken.

Nee, het probleem ligt dieper. ‘De vraag gaat niet alleen over veiligheid, maar ook over vertrouwen’, legt Bunnie uit. ‘Het gaat terug naar de fundamentele vraag: wat betekent het om iets te vertrouwen? Als je zegt dat je een iPhone vertrouwt, vertrouw je het apparaat dan echt omdat je weet wat erin zit, of vertrouw je het alleen vanwege de reputatie van de leverancier?

‘Bij mensen kon je de afgelopen millennia je vertrouwen vooral baseren op reputatie, maar bij technologie kun je vertrouwen ook baseren op verificatie. Dat wil zeggen: ik kan een slecht persoon zijn, maar je hoeft me niet te vertrouwen om toch mijn technologie te gebruiken, want je kunt je vertrouwen baseren op verificatie aan de hand van natuurkundige beginselen.’

Een superveilige wachtwoordmanager

De afgelopen jaren werkte Bunnie daarom aan een nieuw apparaat, een volgende bouwsteen in zijn project om een alternatief fundament voor onze digitale maatschappij te ontwikkelen. Dat apparaat, genaamd de Precursor, doet maar één ding: je wachtwoorden opslaan.

De keuze voor zo’n digitale wachtwoordkluis is bewust. Wachtwoorden zijn namelijk enorm belangrijk, en je hebt ze voor vrijwel alle online diensten nodig. Om zoveel verschillende wachtwoorden voor al die verschillende diensten te onthouden gebruiken veel mensen een online wachtwoordmanager.

Maar die hebben volgens Bunnie een groot nadeel. ‘De wachtwoordmanager is zelf een enorm doelwit: je hebt de inloggegevens van vele miljoenen mensen opgeslagen op één plek. En de organisatie die die plek beheert, is een commercieel bedrijf met duizenden werknemers. Uiteindelijk zal een grote dienst óf een beveiligingsincident hebben, óf zich tegen zijn gebruikers keren. En dan beseffen we dat we al ons vertrouwen in deze aanbieder hebben gesteld. Vertrouwen dat dan onherstelbaar is beschadigd.’

De oplossing is volgens Bunnie dus de Precursor, een veilige wachtwoordkluis. Geen centrale opslagkluis, maar een apart apparaatje dat goed versleuteld is. Maar: als je al je wachtwoorden toevertrouwt aan een apparaat, dan wil je wel zeker weten dat het apparaat de wachtwoorden niet wegsluist – dat je het apparaat kan vertrouwen. En zo liep Bunnie tegen het meest ingewikkelde probleem van zijn carrière aan, want waar baseer je dat vertrouwen op?

En dát is waar de echte innovatie zit: het apparaat is zo ontworpen dat je álles kunt inspecteren. ‘Als je een aanbieder, of de productieketen, niet kunt vertrouwen, bouw dan technologie eromheen die je nog steeds het gewenste niveau van vertrouwen biedt.’

Door die aanpak lijkt over alles nagedacht. Neem het toetsenbord: Bunnie heeft gekozen voor doorzichtig plastic, zodat je zelf met een lamp kan checken of er geheime verbindingen zijn waarmee toetsaanslagen stiekem kunnen worden geregistreerd. Of de chips: het hart van de Precursor bestaat uit twee chips die je kan laden met eigen code zodat je de chips zelf niet hoeft te verifiëren, maar alleen de code die je laadt op de chips. En die verificatie kun je doen op je eigen laptop.

Gebruikers moeten wel eigenaren willen zijn

Kortom: een totaal andere aanpak dan de black box die je normaal in de winkel koopt. En ook als de oplage beperkt blijft tot een paar honderd exemplaren, verricht Bunnie belangrijk voorwerk, omdat hij een nieuw fundament van vertrouwen bouwt voor ons digitale ecosysteem. Voorlopig is hij nog de enige die het op deze manier doet, maar het duurde ook een paar jaar voordat anderen met een klein team laptops zoals de Novena gingen bouwen.

En hoe zit het eigenlijk met al die andere apparaten? Wat moet er gebeuren zodat mensen daar weer eigenaar van worden?

De wetgever speelt volgens Bunnie een belangrijke rol. ‘Het is op dit moment te makkelijk voor bedrijven om allerlei barrières op te werpen, en gebruikers de zeggenschap over hun apparatuur te ontnemen. Daar ligt een taak voor de wetgever.’

Maar nog belangrijker zijn volgens Bunnie de gebruikers zelf. ‘Het fundamentele probleem is dat de meeste mensen het te druk hebben om zich zorgen te maken over wat het apparaat eigenlijk is, wie de eigenaar is en wie zeggenschap heeft over hun gegevens. En zolang mensen het in de kern niet belangrijk vinden dat ze hun apparaten bezitten, wordt het een veel moeilijkere opgave om te zorgen dat we ook echt eigenaar worden van onze apparaten.’

Ik ben overtuigd. Na afloop van het interview bestel ik direct een Precursor. Jammer genoeg heb ik niet de tijd om het ding daadwerkelijk goed te onderzoeken. Ik installeer duizenden regels aan software van Bunnie ongelezen op mijn nieuwe apparaat en val daarmee toch weer terug op vertrouwen – Bunnie leek me wel legit. En als ik wil kán ik het allemaal checken, een hele geruststelling.