Nous sommes tous manipulés par les A/B tests

Le Web est en train d’être remodelé par cette pratique omniprésente – et c’est un grave problème d’éthique.

Tester les solutions est une partie essentielle du processus de conception, et sur le Web, cela se fait souvent sous la forme d’A/B tests : Les concepteurs montrent à un groupe d’utilisateurs de conception A, puis à un autre groupe d’utilisateurs de conception B, et mesurent ce qui se rapproche le plus d’un résultat souhaité. Et ce ne sont pas seulement les mises en page qui font l’objet d’A/B tests – ces expériences déterminent tout, des titres que nous lisons aux couleurs que nous voyons.

Mais, comme l’explique un nouvel article, les A/B tests peuvent poser des problèmes d’éthique.

« Si vous ne comprenez pas comment le contenu change ou comment la mise en page change de manière à modifier votre comportement, cela vous laisse ouvert à la manipulation « , explique Christo Wilson, professeur agrégé à la Northeastern University, qui étudie l’audit algorithmique et auteur du document. « C’est tout l’intérêt de l’A/B test. Vous essayez de vendre plus de produits ou d’obtenir plus de clics. »

Dans le document, qui a été présenté à la conférence annuelle de l’ACM sur l’équité, la responsabilité et la transparence, Wilson et ses co-auteurs ont analysé 575 grands sites Web qui effectuent des A/B tests sur la plate-forme Optimizely, ce qui permet aux personnes non techniques d’utiliser le test A/B de diverses manières. Dans cet article, Wilson se penche sur trois études de cas spécifiques : la publicité, la discrimination par les prix et les gros titres des journaux. Bien qu’il ne blâme aucune entreprise et qu’il n’utilise pas de cas d’application contraire à l’éthique des tests A/B, Wilson profite de l’occasion pour expliquer comment les entreprises utilisent cette technologie peu étudiée pour changer ce que les gens voient sur Internet, que ce soit les prix, les pubs, les titres ou la présentation.

Le problème, c’est que, lorsqu’il n’est pas fait de façon transparente et responsable, le test A/B peut tirer parti des pires impulsions de la psychologie humaine pour vous convaincre de cliquer sur quelque chose. Lorsqu’il s’agit de contenu politique, par exemple, ce genre de sensationnalisme contribue à la polarisation politique.

Beaucoup d’entre nous supposent probablement que nous voyons les mêmes choses lorsque nous nous déplaçons sur le Web, mais ce n’est pas nécessairement le cas. Pour voir les tests A/B en cours d’exécution sur n’importe quel site Web que vous visitez, vous pouvez télécharger une extension de navigateur Chrome appelée Pessimizely qui révélera tout ce qu’Optimizely facilite, depuis les annonceurs qui expérimentent avec quelles annonces vous montrer, au New York Times testant différents titres.

L’analyse de Wilson montre qu’à l’heure actuelle, la plupart des sites Web qui utilisent les A/B tests sont parmi les plus importants sur Internet. Et cela ne fera probablement que s’accentuer : l’utilisation d’outils comme Optimizely pourrait aider à uniformiser les règles du jeu pour les petites entreprises. « J’aimerais que les petits sites Web puissent rivaliser avec les grands, donc si l’A/B test est un moyen de le faire, c’est une bonne chose. Je suis heureux que les gens qui sont moins techniques aient des capacités sophistiquées – ce ne sont pas seulement les Google et les Facebook, dit-il. « D’un autre côté, j’ai peur qu’il y ait plus de gens non formés qui font des expériences sur de larges audiences. »

Lorsqu’il s’agit de publicité, les possibilités d’utilisations contraires à l’éthique sont particulièrement poignantes. Supposons, par exemple, que vous affichiez deux pubs pour un emploi bien rémunéré dans un secteur à prédominance masculine. L’une inclut une image des stéréotypes masculins, l’autre est neutre sur le plan du genre. Un A/B test pourrait vous montrer que beaucoup plus de gens cliquent sur cette publicité sexuée. Cela vous convainc de montrer cette publicité à plus de gens. Mais toutes les personnes qui cliquent sur cette pub peuvent être des hommes, ce qui fait que la population est asymétrique et pose sa candidature à l’emploi. Et les gens qui voient ces publicités n’ont peut-être aucune idée de ce qui se passe à l’arrière-plan.

« Nous observons qu’Optimizely est utilisé par de nombreux sites Web extrêmement populaires, écrivent les chercheurs. « Cependant, à notre connaissance, il n’est jamais demandé aux visiteurs de ces sites de consentir explicitement à ces expériences. Même l’existence d’expériences est rarement, voire jamais, révélée. »

La discrimination par les prix est un autre exemple de la façon dont ce que vous voyez en ligne peut être différent de ce que les autres personnes voient : Par exemple, l’A/B test pourrait aider à optimiser le prix pour les personnes ayant des codes postaux différents, mais l’endroit où les gens vivent est souvent entrelacé avec leur « groupe », ce qui pourrait mener à une tarification basée sur la race.

Wilson croit qu’il faut des lignes directrices plus strictes sur la façon dont ces expériences sont menées. « Je ne veux pas dire que tout cela est maléfique », dit-il. « Mais nous devons reconnaître qu’il s’agit d’expériences humaines. Vous essayez de changer le comportement des gens. Si c’est ce que je faisais en tant que scientifique à l’université, il y a un protocole. Tu ne peux pas juste faire des expériences sur les gens. »

Il existe des moyens simples pour que les entreprises et les plates-formes de test A/B comme Optimizely soient plus claires sur certains de ces protocoles de test, qui sont typiques pour les scientifiques. Wilson envisage la création d’un comité d’examen interne qui s’assurerait que les tests ne causeront pas de tort par inadvertance, ainsi que d’un service externe avec lequel une entreprise pourrait passer un contrat pour examiner les plans de recherche. Un groupe professionnel de l’industrie avec des lignes directrices publiées pourrait également aider, ou même tout simplement plus de formation à partir de plateformes comme Optimizely. Il imagine que ces lignes directrices seraient semblables à celles qui existent dans le milieu universitaire, avec des règles sur le respect des personnes, le respect de l’autonomie et la bienfaisance – l’obligation d’agir pour le bénéfice des autres.

« C’est très important parce que ces outils sont très faciles à utiliser « , dit Wilson. « Mais il doit être assorti d’une série de mises en garde. Si vous voulez faire quelque chose comme de la discrimination par les prix, c’est une chose sérieuse potentiellement. Vous traitez les gens d’une manière juste et équitable, ou vous ignorez ça et dites que tout ce qui m’importe, c’est de conduire des clics ? »

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.