Deugen dark practices? Ethiek en misleiding online

Hoe denken ethische stromingen over dark practices? De naam ‘dark practices’ verwijst al naar de onethische aard van deze praktijken. Zowel de plichtethiek als de deugdethiek keuren Dark Practices af, maar het utilitarisme velt nog geen oordeel. Dark Practices hebben vaak negatieve gevolgen, die een misleide gebruiker op zichzelf afroept. Wie of wat is daar verantwoordelijk voor? Daarvoor is het nodig om naar de relatie tussen mens en technologie te kijken.

Er bestaat nog weinig literatuur over Dark Practices. Wel bestaat er een onderzoeksgebied genaamd information ethics. Robert Vaagan stelt een informatie-ethiek model voor met vijf issues die kunnen ontstaan op het raakvlak van ethiek en internet. Een daarvan is accuracy. Vaagan stipt bij deze term aan dat onjuiste informatie voor problemen kan zorgen voor de eindgebruikers, met name in handen van bedrijven en (overheids)instellingen. Hij heeft het hier over (privacy-gevoelige) informatie van mensen richting bedrijven. De omgekeerde situatie, waarin bedrijven onware, onvolledige of misleidende informatie opnemen in hun (interface)design, noemt hij echter niet (1).

Goedaardig en kwaadaardig bedrog

Een interessant artikel over het misleiden van gebruikers is dat van Adar et al. De auteurs stellen dat er een taboe bestaat rondom het gebruik van misleiding in interfacedesign. Ze proberen dit te doorbreken door duidelijk te maken dat dat designers voortdurend en vaak onbewust gebruikers misleiden. Zij vinden dat dit niet altijd problematisch hoeft te zijn. Vormen van misleiding die zowel de eindgebruiker als de ontwikkelaar ten goede komen, noemen zij benevolent deceit. Ook zij noemen dark patterns(onderdeel van Dark Practices) meteen als malevolent deceit(2).

Adar et al. baseren het onderscheid tussen benevolent en malevolent deceit op twee elementen, die allebei teruggrijpen op de aanname dat moreel goed design de gebruiker ervan voordeel oplevert. De eerste is de situatie waarin de gebruiker misleid wil worden. Adar et al. geven als voorbeeld games en theatrale omgevingen, waar de gebruiker, gamer of bezoeker zich in een staat van the willing suspension of disbelief bevindt. Deze term, die filosoof en dichter Samual Coleridge al in 1817 gebruikte voor poëzie, is erg geliefd binnen onderzoek naar verschillende theatrale media, waaronder games. Een belangrijk element is echter dat een gamer, of een theaterbezoeker, verwacht misleid te worden: dit is letterlijk part of the game. Toegeven aan de misleiding is een bewuste en vrije keuze. Wanneer er geen sprake is van een magische cirkel (vrij naar ludoloog Johan Huizinga), is het twijfelachtig of een designer kan inschatten of een gebruiker wel echt misleid wil worden. Daarnaast spelen Dark Practices veelal in op het automatische gedrag van gebruikers. Er is dan ook geen sprake van een vrije keuze om misleid te worden (3).

Plichtethiek: motief onderscheidt goedaardig van kwaadaardig bedrog

Het tweede element dat volgens Adar et al. benevolent van malevolent deceit onderscheidt, is motive. Door deze term te gebruiken lijken zij hier een plichtethiek aan te houden, in de geest van Immanuel Kant. Deontologie of plichtethiek stelt grofweg dat een daad goed is, als zij in overeenstemming is met plicht. Kant formuleert twee categorische imperatieven:

• Handel zo dat je de mensheid (in jezelf of in een ander) altijd behandelt als doel en niet als middel
• Handel alleen volgens beginselen die je het liefst als universele wet zou zien.

Nu blijkt al snel dat Adar et al. niet schrijven met de filosofieën van Kant in hun achterhoofd: hun uitgangspunt is juist dat er geen universele regel is die bepaalt of misleiding goed of slecht is. Misleiding is het gebruiken van mensen als ‘means to an end’. Dat komt terug in hun beschrijving van motive, waar ook uit blijkt dat het hen niet zozeer gaat om de inhoud van motive, maar om het doel en het gevolg ervan:

“We begin by looking at the motive behind benevolent deception in HCI, to understand why it happens and where best to use it. There are many tensions in user interfaces that emerge in the balancing that occurs among system capabilities, implementation, end-user expectations, values, and business demands. Any successful design, truthful or not, tries to find the sweet spot that balances these while providing value to the end-user. It is in the attempt to bridge the gaps among different demands that benevolent deception exists.” (5)

Het doel is dan om spanningen in de interface te voorkomen; het gevolg is dat een gebruiker (en indirect de eigenaar) daar voordeel van heeft. Zodra het voordeel voor de gebruiker wegvalt, wordt de moraliteit van een design twijfelachtig; levert de misleiding nadeel op voor de gebruiker en voordeel voor de eigenaar, dan gaat het om malevolent deceit. Deze benadering sluit beter aan bij het utilitarisme.

Utilitarisme: het voordeel van de gebruiker

Matt McCormick beschrijft het utilitarisme als volgt:

“An act is good insofar as it promotes benefit to people overall and it is bad to the extent that it causes harm to people overall.” (6)

Hij voegt daaraan toe dat de kans op voor- of nadeel ook meespeelt. Zo is er veel discussie geweest over de kosten en overlast van de NSS-top 2014; een utilitaristisch argument vóór de kosten zou kunnen zijn dat het verkleinen van het risico van een aanslag belangrijker is dan zowel de overlast als de kosten.

Adar et al. zetten het voordeel van de gebruiker centraal voor de morele waarde van misleiding. Maar wat in een situatie waar het voordeel voor anderen belangrijker is? Vooral het ‘Opt-in vs. Opt out’-design leent zich hier goed voor. Uit verschillende onderzoeken blijkt dat gebruikers vaak kiezen voor de default-optie, of dat nu opt-in of opt-out is. In een aantal landen wordt dit nu toegepast op donorregistratie, en inderdaad, het aantal donoren ligt in deze landen vele malen hoger dan in landen waar mensen zich moeten aanmelden om organen te doneren. Het voordeel is duidelijk: door het opt-out design worden letterlijk mensenlevens gered, dus is dit vanuit utilitaristisch perspectief een goede daad. Maar als hetzelfde principe wordt toegepast in het design van een webwinkel, wordt opt-out beschreven als een dark pattern. Voor de eigenaars van sites die dit design gebruiken – darkpatterns.org noemt Amazon en enkele luchtvaartmaatschappijen – is het voordeel duidelijk: meer verkoop is meer omzet. Volgens het utilitarisme zou deze dark pattern niet moreel slecht zijn, zolang het voordeel van de verkopers maar groter is dan het nadeel van de klanten. Daarnaast zou een verkoper nog aan kunnen dragen dat het opt-in design eigenlijk ook in het voordeel van de klant is, die immers producten krijgt (aangeboden) die hij/zij waarschijnlijk wil.

 Deugdethiek: wat betekent een daad voor een persoon zelf?

Een laatste ethiekfilosofie waarbinnen Dark Practices besproken kunnen worden, is de deugdethiek geformuleerd door Aristoteles. In tegenstelling tot het utilitarisme en de deontologie focust de deugdethiek zich niet zozeer op de daad, maar op wat die betekent voor een persoon zelf. Om een goed persoon te zijn, moet je bewust goede daden verrichten en die daden zijn een doel op zich. Een goede daad, ofwel een deugd, wordt bepaald aan de hand van de rede, in plaats van aan minder belangrijke, maar noodzakelijke menselijke eigenschappen. Verder geldt voor goede daden het volgende:

“The agent must be in a certain condition when he does them; in the first place he must have knowledge, secondly he must choose the acts, and choose them for their own sakes, and thirdly his action must proceed from a firm and unchangeable character.” (7).

Dark Practices zijn altijd een middel tot een doel: het misleiden van een gebruiker heeft bepaalde, geplande voor- en nadelen. In die zin zijn Dark Practicesdus geen deugdelijke actie. Daarnaast zal een designer vaak niet voor zichzelf de keuze maken om Dark Practices te gebruiken, maar omdat dit binnen een bedrijf of interface gewenst is. Om deze redenen kunnen Dark Practices – maar ook benevolent deceit – niet gezien worden als deugdelijke acties volgens Aristoteles.

McCormick stelt terecht dat de Aristotelaanse deugdethiek misschien wel verouderd is, omdat onze huidige cultuur zich sterk richt op de effecten op anderen. Aan de andere kant kan een intrinsieke motivatie er wel toe leiden dat een designer zich afwendt van Dark Practices en misleiding. Als deze praktijken gezien worden als onethisch, kan het geluk van een designer afhangen van het wel of niet toepassen ervan (8).

Dark Practices: ethisch of onethisch?

Adar et al. hebben een goed punt wanneer zij erop wijzen dat misleidende interfaces wijder verspreid zijn dan alleen de Dark Practices. Zij maken een onderscheid tussen benevolent en malevolent deceit, gebaseerd op utilitaristische motieven.

• Het utilitarisme heeft sowieso weinig problemen met Dark Practicesen misleiding in het algemeen, onder de voorwaarde dat de kans op voordeel groter is dan het risico op nadeel. Deze opvatting is echter wel kwetsbaar voor kritiek: wie bepaalt of het nadeel van gebruikers opweegt tegen het voordeel van bedrijven? Is een designer in staat om in te schatten of een gebruiker misleid wil worden? De Actor Network Theory, hieronder besproken,kan helpen om de verhoudingen tussen gebruiker en aanbieder, design en designer in kaart te brengen.
• De deontologie lijkt door haar streven naar universaliteit niet te kunnen beantwoorden aan de diversiteit rondom Dark Practices. In het algemeen keurt zij misleiding af, omdat mensen hierdoor een doel tot een middel zijn. Daar komt bij dat Kant zijn categorische imperatieven opstelde in een tijd waarin de Westerse cultuur dominant was. Nu is er nog steeds sprake van een digital divide, maar het aandeel van niet-westerse culturen is groeiende (9)(10). De kans is groot dat een universele moraal niet (langer) haalbaar is.
• De plichtethiek naar Aristoteles keurt Dark Practices in het algemeen af: ze dragen niet bij aan het zijn van een goed persoon zoals Aristoteles dat formuleerde. Zo kan de plichtethiek juist een argument geven tegen het gebruik of ontwerpen van Dark Practices.

Technologie en de mens: wie doet wat?

Binnen de mediawetenschap en technologiefilosofie bestaan meerdere theorieën die de relatie tussen mens en mediatechnologie proberen te verklaren. Zij kunnen worden ingedeeld in een spectrum van technologisch determinisme aan de ene kant, tot sociaal constructivisme aan de andere kant.

Het ‘harde technologisch determinisme’, zoals Jos de Mul het omschrijft, stelt dat technologie de enige en bepalende factor is in de ontwikkeling van mens en maatschappij. ‘Zacht technologisch determinisme’ erkent andere factoren (zoals economische omstandigheden), maar ziet technologie nog steeds als de beslissende factor. Alle vormen van determinisme (bijvoorbeeld ook biologisch of religieus determinisme) hebben met elkaar gemeen dat ze gebaseerd zijn op de notie van oorzaak en gevolg, op factoren in een vergelijking. Op deze manier lijkt men de toekomst te kunnen voorspellen aan de hand van deze theorieën: de toekomst wordt gedetermineerd door de aanwezige factoren (11).

Aan de andere kant van het spectrum staat het sociaal constructivisme. Hierbinnen staan sociale groepen centraal: zij vormen de regels van cultuur, economie en religie. Sociaal constructivisten beweren dat technologische artefacten zich enkel en alleen binnen die regels kunnen ontwikkelen. Het gebruik en de betekenis van technologie hangt hierbij af van specifieke omstandigheden. Gebruik, betekenis en omstandigheden staan centraal in sociaal constructivistisch onderzoek; de technologie zelf neemt een ondergeschikte positie in (12). Technologisch deterministen stellen dus dat technologie de macht heeft om culturen te vormen, terwijl sociaal constructivisten er vanuit gaan dat technologische artefacten geen betekenis hebben zonder cultuur.

Eén van de meest bekende theorieën uit het ‘midden’ van het spectrum is de Actor Network Theory (ANT) van Bruno Latour. Hij probeert technologie en mens gelijk te stellen om zo aan te tonen dat niet alleen de mens, maar ook technologie een handelingsvermogen kent. Beide actoren nemen een plaats in complexe netwerken en zijn onderling afhankelijk van elkaar. Een actor buiten het netwerk heeft geen handelingsvermogen, geen betekenis. Een consequentie daarvan is dat noch de mens, noch technologische items, inherent subject (handelend) of object (lijdend voorwerp) zijn. Andere auteurs, zoals Lynette Khong, stellen dat Latour er niet in slaagt om de mens uit zijn centrale positie te halen. Ook in de Actor Network Theory meten we het belang van technologie af aan het menselijk belang (13). Khong ziet dit als een probleem, terwijl het niet meer is dan een afgeleide van de situatie. Binnen de Actor Network Theory kunnen we zowel menselijke als niet-menselijke actoren handelingsvermogen toekennen, zonder daar vaste conclusies uit te hoeven trekken. Wel blijft de positie van niet-menselijke actoren een menselijke interpretatie. We kunnen immers (nog) niet vragen aan computers, programma’s, of andere technologische artefacten wat hun intentie is en hoe ze die willen bereiken.

Technologie en de mens: wie is verantwoordelijk?

Dark Practices kunnen moeilijk los worden gezien van de theoretische vraagstukken die ze oproepen. In eerste instantie zijn ze een middel tot een doel. Een Dark Practice maakt dat de designer of de eigenaar ervan een voordeel verkrijgt ten koste van de eindgebruiker.

In een technologisch deterministisch perspectief bepaalt de technologie hoe zij wordt gebruikt. In hoeverre is een designer dan verantwoordelijk voor onethisch design? Vanuit een sociaal constructivistisch perspectief wordt het gebruik van technologie bepaald door culturele, maatschappelijke en economische constructies. Is het ontstaan van Dark Practices aan de hand van dit perspectief niet iets dat bij deze tijdsgeest hoort, iets neutraals in plaats van iets onethisch? Dit perspectief zou dus het ethische vraagstuk rond Dark Practices ondermijnen. Binnen de ANT kunnen deze vragen beter gesteld worden: iedere actor heeft in principe handelingsvermogen en dus een bepaalde verantwoordelijkheid. Maar hoe kunnen technologieën, media en design verantwoordelijk gehouden worden voor onethische praktijken?

Causale verantwoordelijkheid en morele verantwoordelijkheid

Het rapport ‘Leven als Bouwpakket‘ van het Rathenau Instituut gaat in een bredere context in op de verantwoordelijkheid voor onethische praktijken. De auteurs maken een onderscheid in ‘causale’ en ‘morele verantwoordelijkheid’. Wanneer iemand onder dwang of misleiding een onethische daad verricht, is hij of zij hier wel causaal verantwoordelijk voor, maar niet moreel (14). Aan de hand van deze argumentatie kan een misleide gebruiker van een website met Dark Practices maar beperkt verantwoordelijk gehouden worden voor zijn daden, bijvoorbeeld het aankopen van extra (ongewenste) producten. Praktisch gezien kunnen bedrijfsethiek en zelfs wetten op deze basis gebruikers extra beschermen. Aan de andere kant zijn een designer en eigenaar misschien niet causaal, maar zeker wel moreel verantwoordelijk voor de gevolgen van hun Dark Practices.

 Jong talent

Dit artikel is geschreven door Iris Molenkamp, student taal- en cultuurstudies aan de Universiteit Utrecht.

Literatuur

1. Vaagan, Robert W.. “Ethics, Social Media and Mass Self-Communication”. In Cahiers de la documentation – Bladen voor documentatie. 2 (2011). Web.
2. Adar, Eytan; Tan, Desney S.; Teevan, Jaime. 2013. “Benevolent Deception in Human Computer Interaction”. Web.
3. Zie het eerder verschenen artikel van Sander Prins over dit onderwerp (https://dekrachtvancontent.nl/contentstrategie/dark-practices-onbekend-maar-alomtegenwoordig/)
4. Kant in McCormick, Matt. 2001. ‘Is it Wrong to Play Violent Video Games?’. In: Ethics and Information Technology 3: 277 – 287.
5. Zie 2, p. 3.
6. McCormick, Matt. 2001. ‘Is it Wrong to Play Violent Video Games?’. In: Ethics and Information Technology 3: 279.
7. Zie 7
8. Zie 7
9. Capurro, Rafael. 2011. “Digital Ethics”. In Cahiers de la documentation – Bladen voor documentatie. 2 (2011). Web.
10. Zie 1
11. Mul, Jos de (red.). 2002. “Inleiding”. In Filosofie in Cyberspace: Reflecties op de Informatie- en Communicatietechnologie, sectie 4: 29-39. Kampen: Uitgeverij Klement.
12. Zie 11
13. Khong, Lynette. 2003. ‘Actants and Enframing: Heidegger and Latour on Technology’. In: Studies in History and Philosophy of Science, 34: 693 – 704. Web.
14. Verbeek, Peter-Paul. 2009. “Ambient intelligence en persuasive technology: De vervagende grens tussen mens en technologie”. In Leven als Bouwpakket. Ethisch Verkennen van een Nieuwe Technologische Golf, 48 – 73. Geredigeerd door Tsjalling Swierstra, Marianne Boenink, Bart Walhout en Rinie van Est. Kampen: Uitgeverij Klement.

Over de auteur: Jong talent

Studenten van het Practicum Nieuwe Media van de Universiteit Utrecht werkten voor Presenter aan een praktijkopdracht. Een onderdeel was het schrijven van een uitgebreid artikel over ontwikkelingen in online communicatie. Wij geven ze graag de ruimte om hun ‘longreads’ te publiceren onder de naam 'Jong talent'.