La nature de soi à l’ère numérique

Cette note est basée sur une conférence donnée au Bucerius Lab à Hambourg il y a 3 ans, intitulée Digital Emancipation : La propriété de soi à l’ère du numérique.

La nature de la technologie moderne

Votre télévision intelligente, la montre à votre poignet, la nouvelle poupée Barbie de votre enfant et la voiture que vous conduisez (qui vous conduit ?) ont toutes une chose en commun : elles fonctionnent toutes en recueillant des données – des renseignements personnels – sur vous, vos amis et votre famille.

Bien que cela puisse sembler effrayant en soi, ce n’est pas le vrai problème.

La technologie moderne fonctionne en recueillant des pans entiers de données (souvent personnelles). C’est tout simplement une réalité de la vie. Nous n’allons pas changer cela.

La question importante est la suivante : qui possède et contrôle les données vous concernant et les mécanismes par lesquels elles sont collectées, analysées et transformées en services utiles ?

Si la réponse à cette question est « c’est moi », nous n’avons pas de problème. Dans un tel monde, la technologie permettrait aux individus d’obtenir plus d’information sur eux-mêmes et sur le monde qui les entoure et de traduire cette information en superpouvoirs utiles.

Malheureusement, nous ne vivons pas dans ce monde.

Aujourd’hui, la réponse à la question est que les multinationales comme Google et Facebook possèdent et contrôlent à la fois vos données personnelles et les moyens de les collecter, de les analyser et d’en tirer profit.

Aujourd’hui, nos données appartiennent à des entreprises et, par extension, sont mises à la disposition des gouvernements. Nous vivons dans une corporatocratie.

Aujourd’hui, ce sont les entreprises – et non les particuliers – qui détiennent et contrôlent nos données et notre technologie. Nous vivons dans une corporatocratie, pas dans une démocratie.
C’est un état socio-techno-économique que Shoshana Zuboff de la Harvard Business School appelle le capitalisme de surveillance.

Pour comprendre pourquoi le capitalisme de surveillance est si problématique, il faut d’abord comprendre deux concepts fondamentaux : la nature de soi et la nature des données à l’ère numérique.

La nature de soi à l’ère numérique

Selon Steve Krug, auteur de Don’t Make Me Think, toute technologie bien conçue devrait jouer le rôle d’un majordome dans l’interaction avec un être humain. Dites que je veux me souvenir de quelque chose pour plus tard et que j’ai mon smartphone avec moi. La conversation entre nous pourrait ressembler à ça :

Butler, souviens-toi de ça pour plus tard.

Mon téléphone : Bien sûr, owdin, je l’ai noté dans l’application Notes pour vous.

Moi : Merci. (car oui je réponds merci à mon enceinte connectée !)

En fait, avec des technologies comme Siri, vous pouvez avoir exactement la même conversation aujourd’hui.

C’est la façon la plus courante d’envisager notre relation à la technologie : comme la conversation entre deux acteurs. Dans ce cas, moi et mon téléphone. Si c’est ainsi que nous voyons la technologie, la surveillance est la capture de signaux entre deux acteurs. Ce n’est pas différent de ce que la Stasi a fait lorsqu’elle a mis votre maison sur écoute et écouté vos conversations. Ce n’est pas bien, mais c’est ce que la surveillance a toujours été.

Mais que faire si ce n’est pas la nature de notre relation avec la technologie ?

Votre téléphone est-il un majordome, ou est-ce beaucoup plus que ça ?

Et si, lorsque j’écris une pensée sur mon téléphone pour m’en souvenir plus tard, ce que je fais en fait, permet d’étendre mon esprit, et donc de m’étendre en utilisant le téléphone.

Aujourd’hui, nous sommes tous des cyborgs. Cela ne veut pas dire que nous nous implantons avec la technologie, mais que nous étendons nos capacités biologiques en utilisant la technologie. Nous sommes des êtres en éclats, avec des parties de nous-mêmes dispersées et augmentées par nos choses quotidiennes.

Il est peut-être temps de repousser les limites du Moi pour inclure les technologies par lesquelles nous nous étendons nous-mêmes.

Étendre les limites de soi

Si c’est ainsi que nous commençons à voir nos choses quotidiennes – non pas comme des acteurs séparés mais comme des extensions de nous-mêmes – alors plusieurs choses deviennent très claires :

  • Premièrement, la surveillance ne devient plus une capture de signaux mais une violation de soi. Prenons l’affaire Apple contre le FBI où le FBI veut créer un précédent pour qu’ils puissent accéder au téléphone de n’importe qui. J’ai entendu parler d’une demande d’accès à un coffre-fort [consultez l’article deNPR] présentée par les forces de l’ordre. Rien n’est plus faux. Mon iPhone n’est pas plus un coffre-fort que mon cerveau ne l’est. C’est une partie de moi-même. Dans ce cas, si vous voulez entrer dans mon iPhone, ce que vous voulez vraiment faire est de violer mon moi. C’est une agression contre soi-même. Et nous disposons déjà d’un riche corpus de lois et de règlements qui protègent le caractère sacré de la personne et les droits des êtres humains.
La surveillance de soi est une agression, une violation de soi.
  • Deuxièmement, il devient clair que nous n’avons pas besoin de concocter une nouvelle Charte des droits de l’Internet ou une Magna Carta pour le Web ou toute autre absurdité du genre : tout ce que nous avons à faire est d’appliquer la Déclaration universelle des droits de l’homme – les droits humains que nous avons déjà – à l’ère numérique. Il n’y a pas de monde numérique et de monde réel. Il n’y a pas de droits de l’homme et de « droits numériques ». Les choses dont nous parlons sont une seule et même chose.

Enfin, nous pouvons commencer à comprendre la véritable nature de ceux qui vendent nos données personnelles et à réglementer efficacement cette pratique flagrante.

Mais d’abord, nous devons aussi comprendre la nature des données.

La nature des données

Nous entendons souvent dire que les données sont un atout précieux. Selon le magazine Wired, c’est la nouvelle huile. C’est seulement parce que nous ne comprenons pas la vraie nature des données que nous ne sommes pas absolument dégoûtés par une telle comparaison.

Illustrons le propos :

Disons que j’ai une petite figurine. Si j’ai assez de données sur cette figurine, je peux prendre une imprimante 3D et en créer une copie exacte. Imaginez ce que je peux faire si j’ai assez de données sur vous.

Les données sur une chose, si vous en avez assez, deviennent la chose.

Les données vous concernant, c’est vous.

Les données personnelles ne sont pas le nouveau pétrole, les données personnelles sont des personnes.

Cela ne veut pas dire que Google, Facebook et les innombrables autres startups du culte de la Silicon Valley veulent vous imprimer en 3D. Non, bien sûr que non. Ils veulent simplement vous profiler. Pour vous simuler et pour le profit.

Le modèle économique du capitalisme de surveillance – le modèle économique de Google, Facebook et d’innombrables autres start-ups de la Silicon Valley – est de monétiser les êtres humains. Nous savons tous que Facebook et Google exploitent d’énormes fermes de serveurs. Vous êtes-vous déjà demandé ce qu’est exactement la culture de ces fermes ? Parce que si vous le faites, vous pourriez en arriver rapidement à la conclusion que c’est nous. Que sont Google et Facebook si ce n’est des fermes industrielles pour les êtres humains ?

Nous les appelons des fermes de serveurs… vous êtes-vous déjà demandé ce que c’est, exactement, qu’ils cultivent ?

Si cela vous semble familier, c’est normal : nous pratiquons depuis très longtemps des variantes de ce modèle économique.

Nous appelons « esclavage » l’activité très lucrative et pourtant méprisable de la vente des corps des gens. Le business model de la technologie dominante d’aujourd’hui est de monétiser tout ce qui vous concerne et qui fait de vous une personne à part de votre corps. Comment devrait-on appeler ça ?

Nous avons une histoire honteuse de vente de gens. Aujourd’hui, le business modele de la technologie dominante consiste à vendre tout ce qui vous concerne et qui fait de vous ce que vous êtes indépendamment de votre corps physique. Comment devrait-on appeler ça ?

Ce n’est pas un problème technologique….

Le système moderne de colonialisme et de métayage construit par la nouvelle Compagnie des Indes orientales, la Silicon Valley, n’est pas assez grossier ou stupide pour mettre les gens dans des chaînes physiques. Il ne veut pas s’approprier votre corps, il se contente de s’approprier votre simulation. Et pourtant, comme nous l’avons déjà vu, plus ils ont de données sur vous – plus la fidélité de votre simulation est élevée – plus ils sont proches de vous posséder.

Votre simulation n’est pas non plus une chose statique – c’est une construction vivante et respirante (dans les algorithmes, sinon les cellules biologiques). Il vit dans les laboratoires de Google, Inc. et Facebook, Inc. et est constamment soumis à des centaines, voire des milliers d’expériences visant à analyser et à mieux vous comprendre. C’est le genre d’expériences qui, si elles étaient menées sur votre personne physique captive, mettraient les dirigeants de ces entreprises en prison pour crimes contre l’humanité.

Tous ces renseignements personnels, et la richesse des connaissances qui en découlent, appartiennent aux sociétés et, par extension (comme Edward Snowden nous l’a montré), sont partagés avec les gouvernements.

Cela crée une énorme différence de pouvoir entre les individus et les entreprises et entre les individus et leurs gouvernements.

Si on prend un caméscope et qu’on entre chez Google, Inc, on se ferait arrêter. Cependant, Google enregistre d’innombrables foyers avec ses caméras Nest. Le monde du capitalisme de surveillance est un monde dans lequel ceux qui ont droit à la vie privée – les individus – ne l’ont pas, alors que ceux qui devraient être transparents – les entreprises et les gouvernements démocratiques – l’ont.

Quand Mark Zuckerberg dit que « la vie privée est morte », il ne parle que de votre vie privée, pas de la sienne. Quand il achète une maison, il achète aussi les maisons des deux côtés. Sa vie privée, celle de Facebook, Inc. et celle de votre gouvernement sont toujours bien réelles.

Si cela ne ressemble pas à de la démocratie, c’est parce que ce n’est pas le cas. Le capitalisme de surveillance n’est pas compatible avec la démocratie.

Le système dans lequel nous vivons aujourd’hui peut être décrit comme une corporatocratie, un féodalisme des entreprises.

Nous vivons à l’ère néocoloniale des monopoles multinationaux.

Un impérialisme numérique, si vous voulez.

La montée de la corporatocratie est notre récompense pour des décennies de néolibéralisme incontrôlé et d’idéologie californienne. Elle s’accompagne d’un niveau inégalé d’inégalité systémique qui a fait que 62 personnes ont autant de richesse que la moitié de la population la plus pauvre du monde (soit 3,5 milliards de personnes). Elle s’accompagne de la destruction massive de notre habitat en raison de l’épuisement des ressources et des changements climatiques. C’est, pour parler franchement, une menace existentielle pour notre espèce.

Ce n’est pas un problème technologique.

C’est un problème de capitalisme.

Et la réponse est une démocratie meilleure et plus forte (je pense que c’est mon sujet pour l’année 2019).

Les technologies alternatives décentralisées et sans connaissance peuvent jouer un rôle important en nous aidant à améliorer les libertés civiles et la démocratie, mais la technologie n’est pas une panacée. Sans changements réglementaires et législatifs, ces technologies seront tout simplement jugées illégales et ceux d’entre nous qui les construiront deviendront les nouveaux Snowdens et Mannings.

Notre défi est de taille : Les alternatives que nous créons doivent être pratiques et accessibles. elles doivent être conçus dans le respect de l’éthique et de nature non coloniale. Ce n’est pas une mince tâche. Mais ce n’est pas non plus irréalisable.

Pyramide de conception éthique : les produits doivent respecter les droits de l’homme, les efforts et l’expérience.

Les alternatives doivent être conçues dans le respect de l’éthique.

La bataille pour nos libertés civiles et la démocratie se livrera avec nos nouvelles choses de tous les jours. Le résultat déterminera si nous restons des esclaves quantifiés travaillant dans un féodalisme numérique ou si nous vivons en citoyens libres, habilités par la technologie que nous possédons et contrôlons en tant qu’individus pour explorer le potentiel de notre espèce dans les étoiles.

Je souhaite ce dernier avenir, j’espère pouvoir y contribuer aussi…

 Ind.ie,

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.