Tous ces mondes sont à vous (Cennydd Bowles)

Une vidéo de 36 minutes (via Sentiers) qui mérite d’être écoutée dans laquelle Cennydd Bowles revient sur les perspectives d’Internet et la désillusion qui a suivi, il suggère les sombres scénarios possibles d’avenir si la technologie continue sur le même mode de fonctionnement : il rejette une partie de la responsabilité sur les « chefs de produit [qui] sont la principale cause du préjudice éthique dans l’industrie technologique ». Ses propos portent principalement sur l’éthique de la technologie :

 

Il est clair que le public trouve toujours la technologie utile et bénéfique, mais les données suggèrent que les gens se sentent également désarmés, résignés à être exploités par leurs appareils. C’est comme si le grand public aimait la technologie malgré tous nos efforts. […]

Pourtant, quelques voix dissidentes se sont élevées, ou du moins ont été entendues. Evgeny Morozov a critiqué le solutionnisme de l’industrie technologique, qui a l’habitude de considérer la technologie comme la réponse à tous les problèmes possibles. Nicholas Carr s’est demandé si la technologie affectait notre façon de penser et de nous souvenir. Et un nombre croissant d’utilisateurs – principalement des femmes ou des membres de minorités sous-représentées – se sont plaints de ne pas se sentir en sécurité sur ces services dont nous étions par ailleurs si friands.

Mais l’industrie n’était pas prête à écouter. Nous étions trop épris de nos succès et de nos pratiques en pleine maturité. Chaque recruteur demandait aux candidats s’ils voulaient changer le monde ; chaque argumentaire parlait de « démocratiser » la technologie de leur choix.

Nous savions pertinemment que la technologie pouvait avoir un impact social profond. Nous supposions simplement que ces impacts seraient toujours positifs. […]

Les promesses de décentralisation ne se sont pas non plus concrétisées. Le web indépendant est mort dans l’eau : au lieu de cela, quelques grands acteurs ont absorbé tout le pouvoir, grâce à la dynamique de la loi de Metcalfe et à une sous-réglementation continue. Les quatre premières entreprises publiques à atteindre une valorisation de 1 000 milliards de dollars étaient, dans l’ordre, Apple, Amazon, Microsoft et Alphabet. Facebook s’en approche. Aujourd’hui, 8 des 10 plus grandes entreprises du monde en termes de capitalisation boursière sont des entreprises technologiques. En 2010, elles n’étaient que deux.

Il semble que nous nous soyons éloignés de la voie promise. Nos technologies ont eu de graves inconvénients, mais aussi des avantages ; les rêves décentralisés que l’on nous a vendus ont en quelque sorte cédé la place à une autorité et un pouvoir centralisés.[…]

Voici quelques données de Pew Research sur l’attitude du public envers le secteur technologique. Il est intéressant de noter à quel point la barre a été haute historiquement. Le public a eu une opinion très positive de l’industrie pendant de nombreuses années : il y a eu une sorte d’effet de halo autour du secteur technologique. Mais ces dernières années, on a constaté un changement radical, un sentiment croissant que les choses sont en train de dégringoler.

Une caractéristique intéressante de ce changement est que nous voyons ce sentiment dans les deux partis politiques. Nous avons beaucoup entendu parler récemment, en particulier aux États-Unis, de la façon dont les médias sociaux sont prétendument biaisés contre les points de vue conservateurs, ou de la façon dont les algorithmes de YouTube sont favorables à l’extrême droite. Mais il semble que l’hostilité à l’égard du secteur vienne désormais des deux côtés : peut-être n’est-ce pas le problème partisan que l’on nous dit.

Un thème commun derrière cette tendance est que les gens sont surtout préoccupés par les effets de la technologie sur le tissu social, plutôt que sur les individus.

Cette étude de doteveryone illustre bien la tendance : les Britanniques, en l’occurrence, estiment que l’internet a été une bonne chose pour eux en tant qu’individus, mais disent que le tableau est plus sombre lorsqu’ils sont interrogés sur les impacts sur le bien-être collectif.

Au cœur de cette érosion de la confiance se trouve un manque de confiance alarmant. Dans la même étude, doteveryone a constaté que seuls 19 % des Britanniques pensent que les entreprises technologiques conçoivent leurs produits en tenant compte de leurs intérêts. Dix-neuf pour cent !

Franchement, c’est un résultat consternant, qui devrait tous nous rendre humbles. Mais il suggère également une profonde dissonance dans la façon dont le public aborde la technologie. Après tout, les gens continuent d’acheter de la technologie : le secteur de la technologie se porte bien malgré le crash de la Covid, et les actions sont en forte hausse. Il est clair que le public trouve toujours la technologie utile et bénéfique, mais les données suggèrent que les gens se sentent également désarmés, résignés à être exploités par leurs appareils. C’est comme si le grand public aimait la technologie malgré tous nos efforts.[…]

Nous en avons tous été témoins à travers la méfiance anecdotique que nous voyons tout autour de nous. Nous avons tous un ami qui est convaincu que Facebook écoute son téléphone, que les applications suivent tous ses mouvements. Nous sommes tous témoins de cette impuissance acquise autour de nous : il n’y a rien que je puisse faire, alors pourquoi lutter ?[…]

Ce qui m’inquiète le plus, c’est que les décisions algorithmiques s’immiscent dans les scénarios militaires. Les systèmes d’armes autonomes sont extrêmement séduisants en théorie : infatigables, remplaçables, évolutifs à faible coût marginal. Ils peuvent également provoquer un carnage de manière évidente pour quiconque a regardé un film de science-fiction depuis, quoi… 1968 ? Il y a aussi quelques tentatives d’interdiction des armes autonomes ; les pays qui traînent les pieds sont à peu près ceux auxquels on s’attendrait.

2020 est enfin l’année où le 21e siècle a été à la hauteur de ses menaces. C’est la première année qui n’a pas donné l’impression d’être un rejeton des années 19 ; une année au cours de laquelle des incendies historiques ont brûlé, des tensions raciales se sont enflammées et une pandémie trop prévisible et prédite a révélé à quel point certains gouvernements sont prêts à sacrifier leurs citoyens pour le bien des marchés.

La prochaine décennie pourrait être pire encore. Je comprends que nous nous sentions tous temporairement soutenus par des améliorations bienvenues à la fin d’une année épouvantable – des vaccins au coin de la rue, un chef d’État désastreux sur le point d’être destitué – mais la pourriture fondamentale n’a pas été abordée. Les inégalités profondes sont toujours là, l’automatisation menace toujours de déraciner nos économies et nos moyens de subsistance, et de vastes perturbations climatiques sont désormais garanties : la seule inconnue est la gravité de ces perturbations.

Aujourd’hui, les choses sont très différentes. Le rythme de l’innovation se poursuit, mais le récit utopique a disparu. On pourrait dire que la presse a joué un rôle dans cette évolution ; elle a peut-être vu l’occasion de lancer quelques piques à un secteur qui a érodé une grande partie de son pouvoir. Mais surtout, l’industrie technologique ne peut s’en prendre qu’à elle-même. Nous nous sommes montrés largement indignes du pouvoir que nous détenons et de la confiance que nous exigeons.

La surquantification est une vision étroite et aveugle du monde, et encore une fois, une vision qui rend les erreurs éthiques plus probables. Les impacts éthiques sont difficiles à mesurer : il s’agit de qualités très humaines et sociales comme l’équité, la justice ou le bonheur. Ces éléments ne se prêtent pas facilement à une analyse numérique. Cela signifie qu’elles ont tendance à ne pas intéresser les entreprises surquantifiées et axées sur les données. […]

Les chefs de produit sont la première cause de préjudice éthique dans l’industrie technologique.

C’est une affirmation brutale, et peut-être pas une affirmation populaire à faire lors d’une grande conférence sur les produits. J’ai l’impression de devoir proposer quelques mises en garde, ou des excuses partielles. Mais il y a un point plus important : ce schéma n’est pas intentionnel.

Je mentirais si je disais que je n’ai jamais rencontré un chef de produit qui aime agir de manière contraire à l’éthique : malheureusement, j’en ai rencontré un ou deux. Mais la grande majorité des GP – ceux qui ne font pas preuve d’une sociopathie extrême – ont de bonnes intentions et veulent bien faire. Nombre d’entre eux ont été des partenaires fiables et précieux au sein d’équipes florissantes. Beaucoup d’entre eux se soucient profondément de l’éthique et de la responsabilité et veulent prendre ces questions au sérieux.

Mais je vois encore des équipes prendre des décisions irresponsables aux conséquences dommageables. Je pense que cela se produit parce que ces conséquences sont des sous-produits malheureux des choses que la communauté des produits valorise, de la façon dont les GP prennent des décisions et des loyautés biaisées que ce domaine a adoptées, je pense.

Ainsi, même si les chefs de produit se positionnent au cœur de l’UX, de la technologie et des affaires, ils pourraient bien manquer leurs devoirs moraux envers cet ensemble plus large de parties prenantes, envers les non-utilisateurs, les groupes et les communautés, les structures sociales, la vie non humaine et notre planète elle-même. […]

L’éthique n’est pas une affaire de tomes poussiéreux et de Grecs morts ! Il s’agit d’un sujet vivant, plein d’artistes, d’écrivains, de philosophes et de critiques, qui explorent tous les questions les plus importantes auxquelles nous sommes confrontés aujourd’hui : Comment devons-nous vivre ? Quelle est la bonne façon d’agir ?

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.