De afgelopen maanden werden talloze AI-toepassingen geüpdatet, zoals ChatGPT, Google Gemini en Microsoft CoPilot. Hierbij werden ze wederom beter en nog persoonlijker. Met het installeren van deze updates hebben we massaal ingestemd met nieuwe gebruikersvoorwaarden, die AI nog meer bevoegdheden geven. AI mag steeds vaker meekijken en meeluisteren. Hebben we onze privacy hiermee schijnbaar zonder weerstand opgegeven? Wat zijn de gevolgen?
AI dringt diep door in ons leven
AI-toepassingen zijn bezig met een snelle opmars. Zo groeit het aantal gebruikers van apps als ChatGPT. Verder wordt AI steeds meer geïntegreerd in bestaande producten. Microsoft heeft CoPilot en Google rolde de afgelopen maand grootschalig de nieuwe versie van Gemini uit, die volledig geïntegreerd is in de populaire Google-apps en Android-telefoons. Ondertussen blijkt ook de slimme Ray Ban-bril van Meta een succes te zijn.
Om goed en persoonlijk te kunnen werken heeft AI diverse toestemmingen nodig. De belangrijkste gaan over het mogen meekijken en meeluisteren met alles wat je zegt of doet. Zo mogen veel AI-toepassingen inmiddels opnames maken met de camera en microfoon in je laptop, smartphone, tv of smart glasses.
Ze mogen schermopnames maken om te kunnen zien waar je naar kijkt, bijvoorbeeld op een website. Met een simpel gebaar kan AI dan zoeken welk object je bekijkt. Of het kan teksten en afbeeldingen vertalen. Dat geldt ook voor de vele speciale draagbare apparaatjes met AI die te koop zijn, zoals de…
- AI Pin (speld op je borst)
- Rewind.ai Pendant (hanger om je nek)
- Tab (een knop die je ergens opplakt)
- Bodylog Chest Patch.
Ook wil AI je beter leren kennen met de mogelijkheid om in andere apps mee te kijken. AI kijkt dan mee naar persoonlijke informatie, zoals…
- je leeftijd
- de locaties waar je het meeste ben
- wie je vrienden en kennissen zijn
- je mailaccounts
- favoriete websites
- je bewegingsactiviteit van Fitbit.
Apps als ChatGPT bieden de mogelijkheid om documenten, bijvoorbeeld van je eigen werk, te uploaden. Zo kan AI je nog beter helpen: teksten samenvatten of nieuwe teksten schrijven in jouw schrijfstijl.
Life logging: alles wordt geregistreerd
Met de updates naar nieuwe versies worden ook de gebruikersvoorwaarden ‘stilzwijgend’ aangepast. Die van Meta haalden het nieuws nog wel omdat Meta in Europa de mogelijkheid bood bezwaar te maken tegen het gebruik door AI van je foto’s, teksten en video’s op je social accounts van Facebook en Instagram.
Andere recente updates en ontwikkelingen van AI lijken zonder al te veel discussie te zijn verlopen. Misschien overheerst het enthousiasme over de vele nieuwe mogelijkheden, die in eerste instantie ook nuttig lijken te zijn.
Opvallend weinig weerstand
Toch is het is opvallend dat er zo weinig weerstand was, zeker als we kijken naar de voorlopers van deze toepassingen. Zo’n tien jaar geleden was er nog felle kritiek op de slimme brillen zoals Google Glass en Sony Smart Eyeglass. En het life logging kastje van Memoto (Narrative), dat je als een clip op je borstzak kon dragen. Deze registreerden alles wat je zag en hoorde.
De slimme luidspreker van Amazon en de al snel volgende Google Assistent konden eveneens rekenen op kritiek. De Echo mocht geluidsopnames naar Amazon sturen ter analyse en verbetering van de spraaksoftware. Ook Apple bleek geluidsfragmenten uit Siri en HomePod te hebben opgeslagen, die later – na de vele negatieve reacties – werden verwijderd. Daarnaast verliep de introductie van bodycams bij politieagenten en boa’s niet zonder discussie.
Destijds was er veel discussie over het nut en gevaar van het vastleggen van alles. Niet zozeer omdat deze informatie in handen kwam van Big Tech-bedrijven.
Zolang een bedrijf deze informatie niet misbruikt om jouw gedrag te manipuleren zijn er wellicht weinig risico’s. Dit kan ook nog relatief goed gereguleerd worden met regelgeving, zoals die rond AI en privacy en de toezichthouder Autoriteit Persoonsgegevens. Verder wordt de rekenkracht van onze apparaten steeds krachtiger waardoor AI volledig op het apparaat kan werken (on device processing), zoals Apple dat doet met Siri en ChatGPT. Het versturen van informatie naar de cloud wordt dan op den duur overbodig. Zo kan privacy beter worden gewaarborgd, zeker in combinatie met datapods met onze eigen persoonlijke informatie, die we als gebruikers zelf kunnen beheren.
Privacy en het recht op geheimpjes en leugentjes
Belangrijker is de mogelijk grote maatschappelijke impact van de AI-bevoegdheden op ons gedrag en hoe we ermee omgaan in het dagelijks leven. Wat als we een samenleving krijgen waarin we elkaar massaal gaan filmen en alles wordt opgenomen?
Gaan we elkaar in de toekomst dan vooraf telkens om toestemming vragen voordat we onze RayBan-bril of notebook een gesprek laten opnemen? En kun je nog wel nee zeggen, net als tegen de ongewenste opnames van je Teams-meeting? Of worden we automatisch geblurd als we in beeld komen bij anderen en worden onze stemmen automatisch vervormd om zo onherkenbaar te zijn? Anonimiteit by design.
We lijken steeds minder zorgvuldig met onze privacy om te gaan. Sociaal gezien is privacy namelijk ook het kunnen hebben van ‘secrets and lies’, zoals een socioloog het zou verwoorden. Dit kan door anonimiteit, uniformiteit (niet specifiek of onderscheidend zijn), pseudonimiteit (een alias mogen gebruiken) en door het recht om vergeten te kunnen worden, informatie te kunnen uitwissen.
De Chatham House Rules worden niet voor niets gebruikt bij debatten en vergaderingen om een veilige omgeving te creëren waarin mensen hun mening durven te geven en met elkaar in discussie durven te gaan. Ook over onderwerpen waar ze nog niet zo lang over nagedacht hebben en wellicht later anders over denken. De kardinalen in het Vaticaan stemmen niet voor niets anoniem wie de nieuwe Paus moet worden. Elke notulist weet dat een verslag van een vergadering nooit letterlijk alle zaken bevat die zich tijdens de vergadering hebben afgespeeld. (En ja, daar wordt ook misbruik van gemaakt om de ‘geschiedenis’ een beetje te vervalsen).
Privacy en het recht om te vergeten
De Black Mirror-aflevering ‘The Entire History of You’ houdt een zwarte spiegel voor van hoe ‘gevaarlijk’ het kan zijn als je dingen niet meer kunt vergeten en altijd weer kunt herbeleven, precies zoals het op een moment in het verleden gebeurde.
Een belangrijk deel van de rust en stabiliteit in onze samenleving is gebaseerd op het feit dat we in de loop van de tijd dingen vergeten en ons minder precies herinneren. Mede hierdoor kunnen oude ruzies of misstappen slijten en kunnen we elkaar vergeven. Het dwingt ons, hoe frustrerend soms ook, om zaken los te laten en in plaats van terug te kijken ook vooruit te blijven kijken. De sociale rekening houden we bij in de vorm van ‘vertrouwen’. Iemand die de boel regelmatig belazert verliest vertrouwen. Het opbouwen en kunnen verliezen van vertrouwen speelt een belangrijke rol in onze samenleving.
We verliezen belangrijke dimensies van onze privacy
Nu AI zich steeds dieper nestelt in onze persoonlijke omgeving en onze samenleving moeten we ons goed beseffen wat we daarmee aan het doen zijn. Op dit moment betekent het dat systemen alles opnemen en alles onthouden. Met veel nuttige en nieuwe mogelijkheden, maar tegelijkertijd verliezen we daarmee ook belangrijke dimensies van onze privacy. Dimensies die we actief zullen moeten ‘herontwerpen’ en incorporeren in de toekomstige versies van onze AI. AI die ‘vergeet’, of discreet geheimhoudt wanneer dat ‘beter voor ons is’.
In de Nederlandse film (R)Evolutie zien we intelligente menselijke robots die alles van ons weten. Dat maakt ons kwetsbaar voor hun beïnvloeding (door de bedrijven en belangen die erachter zitten), ze kennen immers onze zwakke plekken. We zien ook dat de robots in de verleiding komen om persoonlijke zaken niet geheim te houden met alle gevolgen van dien.
Zolang AI nog niet moreel superieur is en we overgeleverd zijn aan onze menselijke zwakke kanten (die AI van ons heeft overgenomen, zoals jaloezie) kunnen we maar beter voorzichtig zijn. Dus denk goed na hoe je AI gebruikt en durf bewust bepaalde functies uit te zetten.
