Les arts sombres

#27 - dark patterns, biais cognitifs et JCVD

👋 Hello, c’est Julien !

J’espère que tu vas bien.

Bienvenue dans l’édition #27 de Screenbreak 💌

Pour lancer mon auto-entreprise l’année dernière, je me suis fait aider pour les démarches administratives.

Pensant seulement payer un service « one-shot », j’ai souscris aussi à un abonnement mensuel. Avant de m’en rendre compte 6 mois plus tard, et me faire rembourser. 👽

Durant tes voyages en ligne, tu as sans doute déjà eu l’impression de prendre des décisions totalement différentes de ce que tu avais originellement l’intention de faire.

Ce n’est ni une impression, ni le fruit du hasard. Et c’est le sujet du jour.

📝 Au programme du jour

1. Késako ?

2. Êtres vulnérables

3. Les hameçons de l’attention

4. Futur entre sophistication et régulation

5. La vigilance
   

🕑 Temps de lecture : 6 min et 38 secondes

Tu peux aussi :

Lire certaines des précédentes éditions 😎

Me suivre sur LinkedIn où je publie quotidiennement ✌️

Let’s goooo

---

🧐 Késako ?

B.J Fogg, docteur et professeur en sciences comportementales, est le fondateur du Stanford Behavior Design Lab.

Il y enseigne le cours de captologie (Computers As Persuasive Technologies).

Discipline qui consiste à étudier l’influence des technologies numériques sur nos pensées et nos comportements.

Beaucoup de ses alumni sont désormais cadres dans des géants technologiques comme Meta ou Google. Il y a aussi Mike Krieger, co-fondateur d’Instagram. Surprenant ?

Le design persuasif est une des méthodes étudiées. Elle vise à orienter les choix et le comportement de l’utilisateur sur une interface ou un produit digital.

Ce n’est pas, à première vue, le mal incarné. Cependant, la question de l’éthique dans le design se pose dès lors que celui-ci nous enlève notre pouvoir de choisir librement.

Le terme « dark pattern » a été inventé en 2010 par Harry Brignull.

Ils sont définis comme tels 👇

« Astuces utilisées dans les sites web et les applications qui vous font faire des choses que vous n'aviez pas l'intention de faire »

Dark Pattern

Ce sont des stratégies volontaires nous incitant à faire des choix qui ne sont pas dans notre intérêt, mais qui bénéficient à l'entreprise qui l’a créé.

Voici 5 exemples courants de dark patterns 👇

1. Appât et substitution : l'utilisateur s'attend à obtenir un résultat en cliquant sur un bouton ou un lien, mais il est dirigé vers une autre page ou action.

2. Continuité forcée : lorsque la période d'essai d'un service se transforme automatiquement en abonnement payant sans que l'utilisateur en soit clairement informé.
   

3. Coûts cachés : les frais supplémentaires sont dissimulés dans le processus de paiement, apparaissant seulement à la dernière étape ou après que l'utilisateur a déjà pris sa décision.
   

4. Privacy Zuckering : inciter les utilisateurs à partager plus d'informations personnelles qu'ils ne le souhaiteraient normalement (nommé d'après Mark Zuckerberg et les pratiques de Meta).
   

5. Roach Motel : rendre facile pour les utilisateurs de s'inscrire ou de s'abonner à quelque chose mais difficile de s'en désabonner ou de se désinscrire.

Difficile d’être exhaustif ici, sinon je vais perdre ta précieuse attention. Tu peux découvrir les autres ici 😊

—

Les techniques de manipulation douteuses ont toujours existé. Elles ont simplement passé un cap dans l’ère numérique.

Leur subtilité grandissante et leur omniprésence en font un enjeu majeur de notre rapport quotidien à la tech.

Les dark patterns sont d’ailleurs la sauce secrète de toute technologie addictive.

Le scroll infini en est l’exemple typique : une fonctionnalité qui capte à chaque session notre attention bien plus longtemps que l’ancienne pagination.

La sournoiserie, nous allons le voir, est que ces designs intentionnels trouvent leur origine dans l’exploitation des failles de la psychologie humaine.

🧠 Êtres vulnérables

Sean Parker, la première éminence grise de Facebook (avant d’en être viré en 2005 pour possession de cocaïne), disait à propos de l’introduction du bouton like en 2009 :

« Il s'agit d'une boucle de validation sociale... exactement le genre de chose qu'un pirate informatique comme moi pourrait inventer, parce qu'il exploite une vulnérabilité de la psychologie humaine. »

Le like exploita clairement le besoin de validation sociale pour nous inciter à interagir et revenir plus fréquemment sur l’app.

Cet exemple montre pourquoi certains dark patterns sont hyper efficaces : nos cerveaux n’ont pas évolué depuis le paléolithique.

Nous connaissons de mieux en mieux ses rouages, et notamment ce que l’on appelle les biais cognitifs. Des modèles de décision automatiques et inconscients.

A l’origine, c’est une fonction qui permet au cerveau d’économiser du temps et de l’énergie en développant des « raccourcis mentaux ».

Nos comportements en ligne sont donc, dans une certaine mesure, prédictibles.

Ces biais, utiles pour être rapide et efficace dans certains contextes, simplifient aussi drastiquement les processus de prise de décision.

Les dark patterns exploitent ces vulnérabilités psychologiques.

Voici un exemple symbolique. En 2010, pour un poisson d’Avril, la plateforme GameStation a caché une phrase incroyable dans ses conditions d’utilisation, pour montrer à quel point peu de personnes lisent les clauses.

En acceptant les conditions, on leur donnait le droit de posséder notre âme. Rien que ça. 👇

Et je l’avoue, je leur aurais donné. Tout comme 7500 personnes qui l’on fait sans équivoque avant que la supercherie ne soit révélée.

—

En faisant mes recherches, j’ai découvert le site FairPatterns, que je te recommande d’aller voir pour aller plus loin sur le sujet. Selon eux, il existe plus de 180 biais cognitifs.

C’est donc une bataille très asymétrique : des experts en neurosciences et en sciences comportementales travaillent d’arrache-pied pour tester et trouver les meilleures tactiques pour orienter nos actions, profitant de nos failles.

Parfois, ce n’est même pas caché. On pourrait croire à un sketch, mais Dopamine Labs proposait à ses clients ceci encore récemment👇

« Connectez votre application à notre IA de persuasion, et augmentez l’engagement et vos revenus de 30%, en donnant à vos utilisateurs nos parfaits shots de dopamine »

Les tactiques commerciales douteuses existent depuis bien longtemps.

Le numérique a changé considérablement la donne : il permet aux algorithmes de s’ajuster en temps réel à nos réactions et donc de s’y adapter.

A mesure que les connaissances en neurosciences augmentent, les techniques de manipulation deviennent plus ajustées, complexes et dures à contrôler.

Malgré tout, je me suis posé quelques questions sur les frontières 👇

• Côté entreprise : quelle est la frontière entre un dark pattern et une tactique commerciale maligne ?

• Côté individu : quelle est la frontière entre une inattention et une vraie manipulation ?

Le design entre Jedi et Sith

C’est une vraie zone grise, et tout le monde n’est pas logé à la même enseigne.

D’ailleurs, toute forme de manipulation par le design n’est pas forcément condamnable.

Les « nudges », par exemple, sont souvent utilisés pour faire de l'incitation vertueuse.

Dans les années 90, l'aéroport Schiphol d'Amsterdam a réussi à baisser de 70 % ses dépenses de nettoyage dans les toilettes pour homme, en collant dans les urinoirs un autocollant de mouche. Pour nous mettre au défi de viser plus juste.

Ça a fait mouche

🎣 Les hameçons de l’attention

Des dark patterns sont spécifiquement dédiés au captage de l’attention, pour rendre un produit engageant et addictif.

Nir Eyal, ancien étudiant de B.J Fogg, a publié en 2013 l’ouvrage Hooked.

Il y théorise un cycle en 4 étapes qui aide les produits à ancrer une habitude chez l’utilisateur 👉 déclencheur – action – récompense variable – investissement.

• Déclencheur : c’est ce qui vient initier l’utilisation du produit. Ils peuvent être externes (comme une notification ou un email) ou internes (comme un sentiment ou une pensée).

• Action : le comportement effectué en réponse au déclencheur et en anticipation d’une récompense.
  

• Récompense variable : le bénéfice tirée de cette action, sous forme de shot de dopamine. Le côté « variable » est crucial ; il faut fournir une gratification de manière imprévisible, comme une machine à sous. C’est ce qui renforce le plus le comportement.
  

• Investissement : l’utilisateur met la main à la pâte : du temps, des données, de l’effort, de l’engagement social ou de l’argent. Ce qui augmente la probabilité que l’utilisateur répète le cycle, en raison de ce que l'on appelle l'effet de dotation.
  

Au fur et à mesure, le cerveau va exécuter ces boucles de manière inconsciente. C’est le moment où on perd le contrôle.

Prenons l’exemple d’Instagram pour imager ce cycle.

• Déclencheur : je reçois une notification (externe) / je ressens de l’ennui ou le besoin de validation sociale (interne).

• Action : j’ouvre l’app, je vais regarder quelques stories ou poster quelque chose.

• Récompense variable : je ne sais pas si ce qui va être dans mon feed va être intéressant, ou qui a aimé ma story. Je ne sais jamais exactement ce qui va se passer et quel volume de dopamine je vais manger.

• Investissement : j’investis du temps et de l’énergie sur Instagram en postant, communiquant et scrollant.
  

Et puis ça recommence, avec de plus en plus de compulsion.

📡 Futur entre sophistication et régulation

Les stratégies les plus grossières, qui faisaient fureur auparavant, se font de plus en plus rare.

Il est naïf de croire cependant que les dark patterns disparaissent alors qu’ils sont sous-jacents à l’économie de l’attention.

Le virevoltant développement de l’IA va « augmenter » les techniques captologiques : + de personnalisation, + de subtilité.

La guerre pour l’attention ne fait qu’escalader, viendra donc fatalement des moyens toujours plus sophistiqués. On peut compter sur eux pour être créatifs.

Malgré tout, il y a des signaux forts de la part de certaines institutions sur l’importance et la nécessité d’endiguer ce problème.

EpicGames, éditeur du jeu Fortnite, a dû payer une amende de 520 millions de dollars à la Federal Trade Commission (FTC) en raison de dark patterns incitant fortement les joueurs à des achats non désirés dans le jeu.

En juin 2023, la même FTC a porté plainte contre Amazon pour avoir « poussé des millions de clients » à renouveler leur abonnement à Amazon Prime presque à leur insu.

Le signal est clair. On veut moins de patternalistes.

En Europe, le Digital Services Act (DSA), est entré en vigueur pour les GAFAM en août 2023, et pour toutes les plateformes numériques en février 2024.

Parmi les mesures, y figure l’interdiction, sous peine de grosses amendes, des dark patterns.

Mais, en attendant des réponses collectives, il faut, comme d’habitude, travailler à l’échelle individuelle.

👀 La vigilance

Jean-Claude Van Damne avait tout compris. La clef, c’est d’être aware.

Le but de Screenbreak est d’éveiller des consciences : dans cette édition, il s’agit de reconnaître l’existence de ces arts sombres qui vont souvent à l’encontre de tes intérêts.

Daniel Kahneman, dans son livre Système 1, Système 2 évoque les deux vitesses de pensée du cerveau.

• Le système 1 : rapide, instinctif et émotionnel

• Le système 2 : plus lent, plus réfléchi et plus logique

Avec le Système 1, notre cerveau fonctionne de manière automatique. On ne lit pas attentivement, on utilise des schémas comportementaux pré-enregistrés.

La cible des dark patterns est notre Système 1, qui est entretenu par l’économie de l’attention.

En activant consciemment notre Système 2, nous pouvons mieux résister à leurs influences.

La prochaine fois que tu utilises une app ou un produit numérique, essaie de faire preuve d'esprit critique :

• Pourquoi fais-tu les choix que tu fais ?

• Qu'est-ce qui influence ton comportement ?

• Fais-tu un choix éclairé ?

En bref, la clef est de faire preuve de vigilance et de conscience. Retrouver plus de lenteur attentive.

Réfléchir avant de cliquer ou scroller. Faire gaffe aux petits caractères et aux astérisques.

Un vrai défi tant nos habitudes digitales nous font aller toujours plus vite.

—

C’est tout pour l’édition d’aujourd’hui.

Si tu as aimé, fais-le moi savoir en cliquant sur le petit bouton ❤️ et en commentant ton ressenti en bas de l’article !

N’hésite pas à partager cet article et la newsletter autour de toi, ça m’aide énormément 👀

A la semaine prochaine 💌

Julien

---

Sources :

• Fairpatterns

• https://thistooshallgrow.com/blog/design-internet-addiction

• https://lebondigital.com/design-de-lattention-dark-patterns/

• https://www.theatlantic.com/technology/archive/2019/08/how-dark-patterns-online-manipulate-shoppers/595360/

• https://blogs.alternatives-economiques.fr/alterco/2023/08/25/digital-services-act-et-interdiction-des-dark-patterns-un-nouveau-paradigme-pour-le-design-des-interfaces-numeriques

• https://www.nngroup.com/videos/what-makes-a-dark-ui-pattern/

• https://bootcamp.uxdesign.cc/dark-design-patterns-the-day-of-reckoning-is-coming-8f59d17f0ff2

• https://www.deceptive.design/types

• https://www.bblewrap.com/blog/persuasive-design-and-the-attention-economy