2018 Future Publishing

Technologie kan ons versterken, maar laat de mens altijd centraal staan

"Bang om even uw aandacht te verliezen achter het stuur?" Koop dan onze auto met zijlijnassistentie en herkenning van snelheidsborden." Die reclame hoorde Tias Guns onlangs op de radio. Wat beloofd wordt in de reclame, is inderdaad allemaal mogelijk via de technologie van artificiële intelligentie. Maar het kan tegelijk onverantwoord gedrag en schadelijke levensgewoontes stimuleren, vindt Guns. Hij waarschuwt dan ook, in navolging van ontwerpethicus Tristan Harris, voor "human downgrading", waarbij technologie onze zwaktes gebruikt waardoor we als mens gereduceerd worden in onze capaciteiten.

opinie
Tias Guns
Tias Guns is professor in data science en optimisatie aan de VUB en lid van de onderzoeksgroepen MOBI en AI Lab, rond mobiliteit en artificiële intelligentie respectievelijk.

Enkele dagen geleden hoorde ik volgende reclame op de radio: "Bang om even uw aandacht te verliezen achter het stuur? Koop dan onze auto met zijlijnassistentie en herkenning van snelheidsborden".

Interessant mobiliteitsadvies. Eerder haaks op het mobiliteitsadvies van de wegbeheerders, die zeggen dat als je aandacht verslapt, je een pauze moet nemen en - als je kan - iemand anders moet laten rijden. Advies dat het aantal verkeersdoden door onverantwoord rijgedrag wil doen dalen, en mensen wil doen beseffen dat jezelf overschatten dodelijke gevolgen kan hebben achter het stuur.

Koop je jezelf een vrijkaart om een slaperige bestuurder te zijn?

Maar, met zo een auto is dat blijkbaar geen probleem meer. Als we de lijn doortrekken, koop je jezelf een vrijkaart om een slaperige bestuurder te zijn, of jezelf te laten afleiden door andere dingen? Vergeet het "kijken kijken", en ga terug naar "kijken"?

Technologie als alleszalvende oplossing. Alsof de spoorwegmaatschappij reclame zou maken voor een app die je waarschuwt als er een trein aankomt, zodat je niet meer moet opletten bij het oversteken van een spoorwegovergang; of een geweerfabrikant die reclame zou maken voor een revolver met gezichtsherkenning, zodat je onbezorgd Russische roulette kan spelen. 

Dat is allemaal technologisch mogelijk, dankzij de technologie met artificiële intelligentie. Maar de zelfrijdende auto is er nog niet, enkel assisterende technologie. Het lost de kern van het probleem niet op. Erger nog, te optimistisch gebruik kan onverantwoord gedrag en schadelijke levensgewoontes stimuleren.

Human downgrading

Dat is ook de boodschap van Tristan Harris. Hij was ooit productmanager bij Google en wordt tegenwoordig "het dichtste bij een bewustzijn van Silicon Valley" genoemd. Hij trok enkele jaren geleden aan de alarmbel over hoe de huidige "attention economy" (waarbij de menselijke aandacht als een schaars goed beschouwd wordt nvdr.) ertoe leidt dat de grote techbedrijven steeds meer subtiele manipulatieve technieken gebruiken om onze aandacht langer te behouden. Hij startte de "Time Well Spent"-beweging (die ervoor wil zorgen dat we minder tijd op het internet verliezen, nvdr.) en zijn boodschap werd gehoord. Tim Cook, CEO van Apple, introduceerde zo dat op alle iPhones het nu mogelijk is om te bewaken hoeveel tijd je in welke app spendeert, Google volgde. Zelfs de CEO van Facebook is beginnen spreken over hoe Facebook zich meer gaat focussen op "betekenisvolle interacties", en heeft er eergisteren een nieuwe strategie rond geformuleerd, wat in lijn van Harris' boodschap én kritiek ligt.

Tristan Harris

Na 3 jaar is Tristan Harris terug met een vernieuwde boodschap: dat het grootste gevaar van technologie niet is dat ze beter dan ons wordt in de dingen waar we sterk in zijn zodanig dat we onnodig worden, bijvoorbeeld massaal jobverlies, superintelligente computers en robots die de wereld overnemen... Neen, het grootste gevaar is technologie die onze zwaktes gebruikt waardoor we als mens gereduceerd worden in onze capaciteiten. "Human downgrading" noemt hij het. Technologie die ons beperkt, in plaats van technologie die ons versterkt.

Dat staat natuurlijk haaks op de intentie van de meeste technologieontwikkelaars. Google is begonnen met als doel om informatie toegankelijker te maken en Facebook had het doel om mensen dichterbij te brengen. Maar daar moeten we wel op blijven letten, bewust mee omgaan. Ook als succes toeslaat en als concurrentie stijgt. Ook als de financiële beloningen misschien in een andere richting wijzen, want misschien zit daar wel een deel van het probleem.

Technologie geeft ons meer opties en dat is nog steeds haar sterkte

Technologie geeft ons meer opties. Dat is de sterkte ervan, nog steeds. Maar bedrijven maken die opties niet altijd even toegankelijk. De GDPR-wetgeving is er bijvoorbeeld om ons te beschermen, maar hoeveel websites ken je die het even gemakkelijk maken om cookies te aanvaarden als om niet-essentiële cookies te weigeren?

Ik moet denken aan de fantastische animatiefilm "Wall-E" van Pixar. Aan hoe de mensen daar op het ruimteschip wonen, en welke gewoontes ze over generaties heen hebben opgebouwd. Niet doelbewust van de ene dag op de andere, maar gradueel over de jaren heen. Bijvoorbeeld hoe toegankelijke assistieve technologie ervoor zorgde dat niemand nog rondwandelde. Dat is human downgrading. Maar de film toont ook hoe gedeelde, echte ervaringen mensen dichterbij brengen en hoe wilskracht kan overwinnen.

Supplied by Capital Pictures

Ook in ons onderzoek kijken we steeds naar hoe technologie de mens kan versterken. Zo werkt de Europese onderzoeksgemeenschap rond artificiële intelligentie heel bewust rond "human-centric AI", waarbij de mens en het menselijke centraal staan.

Maar zo een bewustzijn is dus niet enkel nodig bij ontwikkeling. Ook bij elke geplande aanpassing, eens het dus in gebruik is, is het nodig. Ook IN de bedrijven dus, nadat het management overtuigd is van de voordelen en misschien wel verder wil gaan dan de bedoeling was.

Misschien ook goed advies voor autofabrikanten, en niet enkel voor big tech. Zo twijfel ik er niet aan dat assisterende rijtechnologie ontwikkeld wordt om verkeersongelukken te verminderen, eerder dan om onaandachtig rijden goed te praten. Is er een risico dat we dat gaan vergeten?

VRT NWS wil op vrtnws.be een bijdrage leveren aan het maatschappelijk debat over actuele thema’s. Omdat we het belangrijk vinden om verschillende stemmen en meningen te horen publiceren we regelmatig opinieteksten. Elke auteur schrijft in eigen naam of in die van zijn vereniging. Zij zijn verantwoordelijk voor de inhoud van de tekst. Wilt u graag zelf een opiniestuk publiceren, contacteer dan VRT NWS via moderator@vrt.be.