De Manipulerende Trucjes Die Bedrijven Gebruiken Om Jouw Aandacht Vast Te Houden

"Een handvol mensen die werken bij een handvol technologiebedrijven bepalen elke dag de gedachten van miljarden mensen", zegt vormgevingsdenker Tristan Harris. Van Facebook-notificaties via Snapstreaks tot Youtube-filmpjes die automatisch worden afgespeeld, ze strijden allemaal om één ding: je aandacht. Harris deelt hoe deze bedrijven gebruik maken van psychologie voor hun eigen profijt en roept op tot een vormgevingsrenaissance waarin onze technologie ons aanmoedigt om de tijdlijn te beleven die we willen.

"Beeld je eens in dat je een ruimte in gaat, een controlekamer met een aantal mensen, 100 mensen gebogen over een bureau met kleine wijzerplaatjes. En dat die controlekamer de gedachten en gevoelens zal bepalen van een miljard mensen. Dit mag dan wel klinken als science fiction, maar het bestaat al, nu, vandaag.

Ik weet het, omdat ik vroeger in één van deze controlekamers zat. Ik was een ontwerpethicus bij Google, waar ik bestudeerde hoe je de gedachten van mensen ethisch kunt besturen. Want waar we niet over praten, is hoe een handvol mensen bij een handvol technologiebedrijven met hun keuzes bepalen wat een miljard mensen vandaag denken. Als jij je telefoon tevoorschijn haalt en zij ontwerpen hoe die werkt of wat er op je overzicht staat, claimt hij kleine blokjes tijd in onze gedachten. Als je een berichtje ziet, plaatst dat gedachten in je hoofd die je misschien niet van plan was te hebben. Als je over dat bericht veegt, zorgt dat dat je wat tijd zult besteden door ergens ingezogen te worden waar je niet van plan was om te worden ingezogen. Wanneer we praten over technologie hebben we het meestal over haar onbegrensde mogelijkheden; het kan elke kant op gaan. Maar serieus, ik zal je vertellen waarom het een hele specifieke richting uit gaat. Want het evolueert niet eender welke kant uit. Er is een verborgen doel dat bepaalt hoe onze technologie zich ontwikkeld en dat doel is de race voor onze aandacht. Want iedere nieuwe site -- TED, verkiezingen, politici, spelletjes, zelfs meditatie apps -- moet strijden om één ding. Dat is onze aandacht. En daar hebben we maar zoveel van. De beste manier om iemand z'n aandacht te krijgen, is door te weten hoe iemand z'n brein werkt. En er zijn een heleboel overredingstechnieken die ik leerde tijdens m'n studies in het 'overredingstechnologie lab' om de aandacht te krijgen.

Een simpel voorbeeld is YouTube. YouTube wil je zo lang mogelijk op hun site houden. Dus wat doen ze? Ze spelen automatisch de volgende video. Stel dat dat goed werkt en ze houden je wat langer vast. Als je Netflix bent, dan kijk je daar naar en zegt: "Dat verkleint mijn marktaandeel, dus ik ga de volgende aflevering automatisch afspelen." Maar Facebook zeg dan: "Dat verkleint mijn marktaandeel, dus nu moet ik alle videos op de nieuwsfeed automatisch afspelen nog voor je op 'play' klikt." Dus het internet evolueert niet in het wilde weg. De reden dat het op dit moment voelt alsof het ons erin zuigt, is vanwege die race om onze aandacht. We weten waar dit heen gaat; technologie is niet neutraal. Het wordt die race naar het diepste punt van de hersenstam; over wie het diepste kan gaan.

Laat me je een voorbeeld geven van Snapchat. Mocht je het niet weten, Snapchat is onder Amerikaanse tieners de populairste manier om te communiceren. Dus als je, net als ik, berichtjes gebruikt om te communiceren: Snapchat is hetzelfde voor tieners; het heeft wel 100 miljoen gebruikers. Zij introduceerden iets wat ze 'Snapstreaks' noemen, wat het aantal dagen op rij toont dat twee mensen met elkaar hebben gecommuniceerd. Wat ze dus doen, is twee mensen iets geven wat ze niet willen verliezen. Want als je een tiener bent en je hebt 150 dagen op een rij, dan wil je dat niet verliezen. Bedenk wat dit voor kleine blokjes tijd in het brein van kinderen claimt. Dit is geen theorie: als kinderen op vakantie gaan, blijken ze hun paswoorden aan tot wel vijf vrienden te geven om hun Snapstreaks gaande te houden als zij het zelf niet kunnen doen. En ze hebben er wel 30, dus moeten ze foto's nemen van plaatjes of muren of plafonds om de dag door te komen. Ze hebben dus niet eens echte conversaties. We zijn geneigd om te denken: oh, die gebruiken Snapchat zoals wij vroeger de telefoon. Dat kan geen kwaad. Maar als we in de jaren 70 zaten te kletsen aan de telefoon, zaten er aan de andere kant van het scherm geen 100 ingenieurs die exact wisten hoe je psychologisch in elkaar steekt en je van twee kanten aan het lijntje hielden.

Als je hier een beetje boos van wordt, merk dan op dat die gedachte je vanzelf binnenvalt. Woede is ook een hele goede manier om je aandacht te krijgen. Want we kiezen niet voor woede, het overkomt ons. Als jij de Facebook nieuwsfeed bent, of je dat nu wilt of niet, dan profiteer je ervan als iemand boos is. Want woede plaatst niet alleen een reactie in jouw emotionele tijd en ruimte, we willen die woede ook delen met andere mensen. We willen het delen en zeggen: "Kan je geloven dat ze dat zeiden?" Dus woede werkt heel goed om aandacht te krijgen, zo goed dat als Facebook de keuze had tussen het tonen van een woedende en een kalme nieuwsfeed, ze je de woedende feed zouden willen tonen. Niet omdat iemand dat bewust koos, maar omdat dat beter werkt om je aandacht te krijgen. En de controlekamer van de nieuwsfeed hoeft ons geen verantwoording af te leggen. Het hoeft alleen maar de aandacht te maximaliseren. Het is ook verantwoordelijk, vanwege het bedrijfsmodel van adverteren, jegens degene die de controlekamer genoeg kan betalen om te kunnen zeggen: "Die groep daar. Ik wil deze gedachten in hun hoofd brengen." Je kunt gewoon richten. Je kunt je leugens precies richten op de mensen die het meest vatbaar zijn. En omdat dit winstgevend is, zal dit enkel nog verergeren.

Dus ben ik vandaag hier, omdat de prijs zo duidelijk is. Ik ken geen dringender probleem dan dit, want dit probleem zit onder alle andere problemen. Het ontneemt ons niet alleen de vrijheid om onze aandacht te besteden en het leven te leven wat we willen. Het verandert de manier waarop we onze conversaties voeren, het verandert onze democratie en het verandert ons vermogen om de gesprekken en relaties te hebben die we met elkaar willen. Het treft iedereen, omdat een miljard mensen er zo een in zijn zak heeft.

Hoe herstellen we dit? We moeten drie dingen radicaal veranderen aan de technologie en aan onze samenleving. Ten eerste moeten we inzien dat we overreed kunnen worden. Zodra je inziet dat je geest geprogrammeerd kan worden om kleine gedachten te hebben met kleine blokjes tijd die je niet gekozen hebt, zou je dat inzicht niet willen gebruiken om jezelf ertegen te beschermen? Ik denk dat we onszelf fundamenteel anders moeten zien. Het is bijna als een nieuwe periode in de historie, zoals de Verlichting, maar dan een Verlichting in zelfbewustzijn: dat we overreed kunnen worden en dat er iets zou kunnen zijn wat we willen beschermen. Ten tweede zullen we nieuwe modellen en verantwoordingssystemen nodig hebben, zodat als de wereld beter en steeds overredender wordt -- want het zal alleen maar overredender worden -- dat de mensen in die controlekamers verantwoordelijk en transparant zijn voor wat wij willen. De enige vorm van ethische overreding die bestaat, is wanneer de doelen van de overreder overeenstemmen met de doelen van de overrede. Dat betekent vraagtekens zetten bij zaken als het bedrijfsmodel van adverteren. Tot slot hebben we een renaissance van design nodig, want heb je eenmaal dit inzicht in de menselijke aard, dat je de tijdlijn van een miljard mensen kan sturen -- realiseer je dat er mensen zijn die een wens hebben over wat ze willen doen, en denken, en voelen, en hoe ze willen geïnformeerd worden, en we worden gewoon in die andere richtingen getrokken. Een miljard mensen wordt gewoon in verschillende richtingen getrokken. Beeld je een volledige design-renaissance in die is gericht op het produceren van de meest nuttige en meest gewenste tijdlijn. En dat zou twee zaken inhouden: de eerste is bescherming tegen tijdlijnen die we niet willen, de gedachten die we niet willen denken, zodat wanneer die 'ping' klinkt, we er niet door worden weggezogen. De tweede zou ons in staat stellen om het leven te leiden dat we willen.

Laat me je een voorbeeld geven. Vandaag zegt je vriend bijvoorbeeld een etentje af en je voelt je een beetje eenzaam. Dus wat doe je op dat moment? Je opent Facebook. Op dat moment willen de ontwerpers in de controlekamer maar één ding: je zo lang mogelijk aan het scherm houden. Wat nu als die designers in plaats daarvan een tijdlijn maakten die op basis van alle gegevens die ze hadden jou zouden helpen uit te gaan met mensen waar je om geeft? Stel je voor hoe alle eenzaamheid in de samenleving zou worden verzacht als Facebook de mensen die tijdlijn zou willen bieden. Of beeld je een ander gesprek in. Stel je wil iets heel controversieels posten op Facebook, wat belangrijk is om te kunnen doen, over controversiële zaken praten. Op dit moment is er dat grote vak voor je opmerking, alsof het je vraagt: welke toets wil je indrukken? Ofwel, het heeft allerlei dingetjes gepland die je op het scherm zult blijven doen. Beeld je in dat er in plaats daarvan een andere knop was die zei: "Waar zou je nu het meest bij gebaat zijn?" En je klikt op 'een etentje geven'. En vlak daaronder staat: "Wie wil er naar het etentje komen?" Je zou nog steeds een gesprek hebben over iets controversieels, maar je zou het hebben op de beste plaats op jouw tijdlijn, namelijk die avond thuis, met een paar vrienden om erover te praten. Dus beeld je in dat we een 'zoek en vervang' doen op alle tijdlijnen die ons momenteel tot meer en meer schermtijd verleiden en al die tijdlijnen vervangen door wat we in ons leven willen.

Het hoeft niet zo te zijn. In plaats van onze aandacht het lastig te maken, stel dat we deze data en ons inzicht in de menselijke natuur zouden gebruiken om ons een bovenmenselijk vermogen te geven om te focussen, een bovenmenselijk talent om onze aandacht te geven aan waar we van houden, en een bovenmenselijk talent om conversaties te hebben die we nodig hebben voor democratie. De meest complexe uitdagingen ter wereld vereisen niet alleen onze individuele aandacht. Ze vereisen het gezamenlijk gebruiken en coördineren van onze aandacht. De klimaatverandering zal vereisen dat heel wat mensen hun aandacht samen kunnen coördineren in de meest krachtige manier. Stel dat we een bovenmenselijk vermogen ontwikkelen om dat te doen.

Soms zijn 's werelds meest dringende en belangrijke problemen niet deze hypothetische dingen die we zouden kunnen creëren in de toekomst. Soms bevinden zich de meest dringende problemen vlak voor onze neus, de dingen die al de gedachten van een miljard mensen bepalen. In plaats van opgewonden te worden over de nieuwe 'augmented reality' en virtual reality en de coole dingen die zouden kunnen gebeuren, die ook onderhevig zullen zijn aan dezelfde race voor aandacht, moeten we misschien eerst de strijd om de aandacht verhelpen op het ding dat iedereen al in zijn zak heeft. In plaats ons van gek te laten maken door de spannendste, nieuwe, coole, chique onderwijs apps, kunnen we iets doen aan hoe het brein van kinderen wordt verkwist aan het heen en weer zenden van lege berichten.

(Applaus)

In plaats van ons zorgen te maken over gevaarlijke losgeslagen artificiële intelligentie in de toekomst die maar één doel voor ogen hebben, zouden we iets kunnen doen aan de losgeslagen artificiële intelligentie die nu al bestaat, namelijk die nieuwsfeeds met maar één doel voor ogen. Net zoals we in plaats van weg te lopen en op andere planeten te gaan leven, we beter kunnen zorgen voor die waar we al zijn.

(Applaus)

Dit probleem oplossen is cruciaal voor het oplossen van alle andere problemen. Alles in ons leven en in onze collectieve problemen vereist het vermogen om onze aandacht te richten op waar we om geven. Aan het einde van ons leven hebben we alleen onze aandacht en onze tijd. Waar kunnen we die het best aan besteden?

Dank je.

(Applaus)

Chris Anderson: Tristan, dank je. Wacht nog even. Allereerst, dank je. Ik weet dat we je heel laat gevraagd hebben om te spreken en dat je een stressvolle week had om dit samen te rapen, dus dank je. Sommige luisteraars zullen zeggen dat je eigenlijk klaagt over verslaving en voor de mensen die dit doen, is het feitelijk interessant. Al deze design beslissingen hebben gebruikersinhoud voortgebracht die fantastisch interessant is. De wereld is interessanter dan ooit. Wat is daar mis mee?

Tristan Harris: Ik vind dit heel interessant. Als je YouTube bent, bijvoorbeeld, wil je altijd een volgende interessante video tonen. Je wil die suggesties steeds beter maken. Maar zelfs al kon je de perfecte video voorstellen die iedereen zou willen bekijken, je maakt de kijker alleen maar verslaafd aan video's kijken. Wat we missen is het uitvinden wat onze grenzen zouden zijn. Je zou willen dat YouTube iets wist over in slaap vallen. De CEO van Netflix zei pas: "Onze grootste concurrenten zijn Facebook, YouTube en slaap." Ook moeten we inzien dat de mens niet onbegrensd is en dat we zekere grenzen of dimensies in ons leven hebben die we geëerbiedigd en gerespecteerd willen zien. Technologie kan hierbij helpen.

(Applaus)

CA: Zou je kunnen zeggen dat een deel van het probleem hier is dat we een naïeve menselijke aard hebben? Veel hiervan is gerechtvaardigd omdat we dit zelf willen en die algoritmes doen juist geweldig hun werk in het bedienen van die voorkeur. Maar welke voorkeur? We hebben voorkeuren omtrent dingen waarom we echt geven als we erover nadenken versus onze instinctieve voorkeuren. Als we die nuances in de menselijke aard in de ontwerpen konden implementeren, zou dat een stap vooruit zijn?

TH: Absoluut. Nu is het alsof onze technologie eigenlijk alleen aan ons oerbrein vraagt: hoe hou ik je impulsief bezig met het eerstvolgende kleine dingetje. In plaats van waar kun je in jouw leven nu het best tijd aan besteden? Wat zou de perfecte tijdlijn zijn, waar ben je op dit moment bij gebaat, tijdens je laatste dag bij TED.

CA: Dus als Facebook en Google ons zouden vragen: "Hey, wil je dat we je beschouwende brein verbeteren of je oerbrein? Kies maar."

TH: Precies. Dat zou een manier zijn, ja.

CA: Je zei overreedbaarheid, dat is een interessant woord, want volgens mij zijn er twee soorten overreedbaarheid. Er is de overreedbaarheid die we nu toepassen, van redeneren, denken en debatteren. Maar ik denk dat je bijna over een andere soort praat, een meer instinctieve soort, van overreed worden zonder te weten dat je nadenkt.

TH: Exact. De reden dat ik zo veel om dit probleem geef, is dat ik studeerde in het Persuasive Technology Lab op Stanford dat studenten exact deze technieken leerde. Er zijn conferenties en workshops die mensen al deze listige manieren leren om de aandacht van mensen te krijgen en hun leven te manipuleren. En het is omdat de meesten niet weten dat dat bestaat dat deze conversatie zo belangrijk is.

CA: Tristan, jij en ik kennen beiden zo veel mensen van deze bedrijven. Er zijn er zelfs veel hier aanwezig. Ik weet niet wat jij denkt, maar mijn ervaring is dat er geen tekort is aan goede wil. Mensen willen een betere wereld. Ze zijn eigenlijk - ze willen het echt. Ik denk niet dat je wil zeggen dat dit kwaadwillige mensen zijn. Het is een systeem dat ongewilde consequenties heeft die uit de hand zijn gelopen.

TH: Ja, de strijd om de aandacht. Het is de klassieke race naar de bodem wanneer je aandacht wil hebben en het is zo gespannen. De enige manier om meer te krijgen is lager op de hersenstam gaan, lager naar woede, lager naar emotie, lager in het oerbrein.

CA: Heel erg bedankt om ons hierover iets wijzer te maken. Tristan Harris, dank je.

TH: Dank je."

(Applaus)

 

Bron: TED.com