#14 Je gezicht is nu van ons

8000+ mensen volgen Alexander's favoriete nieuwe tools, tips en inzichten

1. Vandaag een andere nieuwsbrief dan dat je van me gewend bent. Ik ben de afgelopen maanden namelijk in één thema gedoken: gezichtsherkenningssoftware die het met behulp van AI mogelijk maakt om iedereen op camerabeeld te identificeren. En ik ben erachter gekomen dat het een ramp zou zijn als deze technologie gemeengoed zou worden.

2. Madison Square Garden, de Ziggo Dome van New York, heeft gezichtsherkenningscamera’s geïnstalleerd om vijanden van het moederbedrijf dwars te zitten. Als je advocaat bent bij een kantoor dat een rechtszaak voert tegen de concertzaal, kom je automatisch op een zwarte lijst waardoor je geen concerten meer kunt bezoeken. Dit kwam aan het licht omdat een advocaat een show wilde bezoeken, en door de beveiligers geweigerd werd omdat ze op de “advocaten uitsluitingslijst staat” en bij het binnen lopen herkend werd door de automatische camera’s.

3. De acht maanden zwangere Porcha Woodruff werd dit jaar gearresteerd door de politie van Detroit. Ze was namelijk herkend via gezichtsherkenningstechnologie en werd beschuldigd van het plegen van overvallen en autodiefstallen. Terwijl ze dus hoogzwanger was, en het helemaal niet gedaan kón hebben. Ze bracht wel 11 uur in hechtenis door, en had tijdens die gijzeling weeën. Pas na een dag werd ze vrijgelaten omdat de politie er achterkwam dat het systeem een mismatch had gemaakt.

4. Beide voorbeelden kwamen aan het licht door het speurwerk van Kashmir Hill, tech-verslaggever van The New York Times. Zij heeft een boek geschreven over gezichtsherkenningssoftware. Ik ben samen met Ernst-Jan Pfauth een uitgeverij begonnen om boeken over dit soort onderwerpen uit te geven, en ik ben ontzettend trots om vandaag ons eerste boek te presenteren: Je gezicht is nu van ons. Een boek over een gevaarlijke technologie, dat leest als een thriller.

   

   
   

5. We hebben het boek al laten lezen door een paar journalisten en opiniemakers. Sander Schimmelpenninck vindt het 'een meeslepende waarschuwing', Bas Heijne een 'een niet mis te verstane wake-up call' en Stanford-privacy-expert Marietje Schaake noemt het 'een belangrijke roep om verandering'. Fidan Ekiz zegt over het boek: ‘Als je dit leest denk je: we're fucked!’. Joris Luyendijk zegt: ‘Een alarmerend boek dat leest als thriller. Alleen gaat het over jouw leven’. En cabaretier Tim Fransen zegt: ‘Bij het lezen van dit boek bleef ik maar denken: AI AI AI.’ 😂

6. Kashmir beschrijft hoe schimmige start-up Clearview AI tientallen miljarden foto's in haar database (ja, ook van jou) heeft. Het bedrijf belooft met een nauwkeurigheid van 99 procent iedereen te kunnen identificeren op basis van slechts één momentopname van hun gezicht.

7. Bedenk alleen op persoonlijk niveau wat dit voor consequenties heeft: alle foto's die ooit van jou op internet zijn gezet, zijn opeens vindbaar – óók foto's waar je slechts op de achtergrond zichtbaar bent terwijl je niet doorhad dat je gefotografeerd werd.

8. Maar ook op maatschappelijk niveau: door de technologie krijgen mensen in China automatisch een boete als ze door rood lopen, kan een overheid iedereen identificeren die aan een demonstratie meedoet en is het opeens mogelijk om op straat met gezichtsherkenningscamera's individuen op te sporen.

9. We hopen dat dit boek het startschot is voor een discussie over hoe ver we willen gaan met het toestaan van gezichtsherkenning in onze samenleving. Als je dit boek uit hebt, weet je wat de gevaren voor jou zijn, wat je eraan kunt doen, en wat er in het verschiet ligt als we niet gaan handhaven op bedrijven en overheden die AI misbruiken.

10. Als we nu geen actie ondernemen, hebben we over tien jaar gegarandeerd enorme spijt. Om een activist die zich bezighoudt met digitale burgerrechten in dit boek te citeren: ‘Gezichtsherkenning is een beetje zoals nucleaire of biologische wapens. De technologie vormt zo’n groot gevaar voor onze samenleving dat elk mogelijk voordeel in het niet valt bij de potentiële schade.’ We kunnen het nu nog voorkomen.

11. Je kunt het boek nu voorbestellen via jegezichtisnuvanons.nl (je krijgt dan ook toegang tot een online evenement dat we binnenkort houden met Kashmir Hill).

12. Het is het eerste boek van onze kersverse uitgeverij. Ik voel er gezonde spanning van, en ben ontzettend benieuwd wat jullie ervan gaan vinden.