Les entreprises technologiques sont aussi puissantes que les nations ; elles doivent commencer à agir avec le même niveau de responsabilité.

Bien que la réglementation ne soit pas un sujet dont on veut parler, il arrive un moment où elle devient nécessaire. C’est vrai pour toutes les industries, mais surtout pour l’industrie technologique qui, malgré sa taille, est encore en pleine maturité. Considérez, par exemple, qu’il y a plus de 2,1 milliards de personnes sur Facebook ; plus de 2 milliards de personnes utilisant le système d’exploitation Android de Google – en plus de plus d’un milliard utilisant Maps, YouTube, Chrome, Gmail, Search et Play, individuellement ; et plus de 310 millions de personnes ayant un compte Amazon Prime.

Comparez ces chiffres aux empires historiques, et vous verrez qu’il n’y a pas de comparaison. L’Empire romain avait une population de 50 à 70 millions d’individus, l’Empire mongol gouvernait plus de 110 millions et l’Empire britannique contrôlait environ 530 millions. En termes de religions, l’Église catholique revendique près de 1,3 milliard de personnes dans le monde, l’hindouisme un peu moins de 1,1 milliard et le judaïsme un peu moins de 17 millions. Et contrairement à ces empires, qui ont mis des centaines ou des milliers d’années à se former, la Big Tech a atteint cette taille en moins de 30 ans, donnant une grande puissance en un temps record.

Sans une certaine forme de retenue, les pouvoirs des empires modernes de l’informatique l’emporteront sans aucun doute sur le pouvoir de tout État-nation.
Au cours de cette courte période, ces entreprises ont réinventé la façon dont le monde fonctionne. Ce faisant, elles ont accumulé des richesses incompréhensibles. Bien qu’elles méritent de faire fortune pour le travail qu’elles ont accompli afin de développer l’infrastructure nécessaire au fonctionnement d’une société mondiale, leur pouvoir ne devrait pas rester incontrôlé. Le monde compte aujourd’hui sur ces technologies et, de ce fait, la population a été effectivement regroupée dans un état d’obédience gamifiée. Comme un chien avec un collier électronique, où les limitations ne sont pas visibles à l’œil nu, mais apprises au fil du temps par la douleur et la peur, de nombreux citoyens ont commencé à abandonner tout espoir d’essayer d’aller au-delà de leurs limitations invisiblement définies. Il n’y a aucune raison que cela se produise. Ce n’est pas du leadership, c’est un abus de pouvoir. Ainsi, bien qu’il soit important que nous reconnaissions la valeur incroyable que ces entreprises ont apportée au monde, il est temps que nous apportions des changements – il est temps que nous réglementions. Et si nous réfléchissons à la façon dont cela pourrait se produire, il n’y a en réalité que trois façons de procéder – l’une d’elles étant de loin supérieure aux deux autres.

 

1. Aucune réglementation n’est mise en place et les entreprises continuent de fonctionner comme avant.

Si la réglementation demeure légère et souple, comme elle l’est actuellement, cela signifie que nous avons décidé de laisser les décisions aux sociétés cotées en bourse qui ont accès à plus d’information que toute autre entité dans l’histoire du monde, à part peut-être la CIA, le FBI ou d’autres agences gouvernementales de renseignement. Cela conduira sans aucun doute à une course aux armements sans surveillance axée sur la création des systèmes les plus intelligents, les plus puissants et les plus artificiellement intelligents, à la recherche du profit des entreprises. Elon Musk, un leader mondial de l’intelligence artificielle, qui a des incitations financières pour montrer la voie à suivre, a commenté à plusieurs reprises, en dépit du fait que la réglementation pourrait nuire au potentiel financier de ses entreprises. Dans une entrevue accordée au symposium du centenaire de l’AeroAstro du MIT, M. Musk a parlé de la nécessité d’une surveillance réglementaire et a déclaré : « Je pense que nous devrions faire très attention à l’intelligence artificielle. Si je devais deviner quelle est notre plus grande menace existentielle, c’est probablement cela… Je suis de plus en plus porté à penser qu’il devrait y avoir une certaine surveillance réglementaire, peut-être au niveau national et international, juste pour m’assurer que nous ne faisons rien de stupide. Avec l’intelligence artificielle, nous invoquons le démon. »

Ce dont beaucoup de gens qui lisent ces lignes ne se souviennent probablement pas, parce que nous n’étions pas vivants, c’est que la course aux armements nucléaires qui a eu lieu pendant la guerre froide a placé les États-Unis et l’Union soviétique dans une situation que les militaires ont qualifiée de destruction mutuelle assurée – un point où, si l’une des parties devait continuer, la situation serait catastrophique pour toutes les parties impliquées. En fin de compte, les discussions ont débouché sur des mesures de protection qui ont assuré la retenue militaire, mais ce n’est pas encore le cas dans l’industrie de la technologie. Sans une certaine forme de retenue, les pouvoirs des empires modernes de l’informatique l’emporteront sans aucun doute sur le pouvoir de tout État-nation, pays ou empire précédent, s’ils ne le font pas déjà. Tout comme la course aux armements nucléaires, cette situation deviendra dangereuse pour toutes les personnes concernées, tant le grand public que les créateurs de ces systèmes.

 

2. La réglementation est déterminée par ceux qui ne comprennent pas parfaitement ce qui se passe.

Comme on l’a vu lors des dernières élections, les gens de pays comme les États-Unis, le Royaume-Uni, la France, l’Allemagne, le Brésil, l’Espagne et beaucoup d’autres pays développés sont mal à l’aise avec ce qui se passe, mais demeurent incapables de créer des changements significatifs parce qu’ils ne comprennent pas ce qui se passe. Cela ne veut pas dire qu’aucune de ces personnes n’est muette ; elles vivent simplement un mode de vie dans lequel elles n’ont pas besoin de comprendre immédiatement l’intelligence artificielle. Pourtant, malgré cela, les décisions prises dans la Silicon Valley et dans les communautés technologiques du monde entier perturbent leur vie. Et pour tenter de rétablir l’ordre qu’ils connaissaient autrefois, ces individus sont prêts à faire tout ce qu’il faut pour protéger leur statu quo. Malheureusement, cela ne peut qu’aboutir à une réglementation qui étouffe l’innovation et nous met tous en danger, tant d’un point de vue économique que militaire.

D’un point de vue économique, nous devons nous rappeler que ces systèmes sont fluides et insaisissables, ce qui permet aux entreprises de fonctionner partout où elles disposent d’une bonne connexion Wi-Fi. Pour cette raison, la surréglementation a tendance à pousser les innovateurs vers des endroits où la réglementation n’est pas aussi stricte. Sans ces innovateurs, les pays sont destinés à prendre du retard sur le plan économique.

Mais s’il est vrai que prendre du retard sur le plan économique serait une mauvaise chose, il y a lieu de s’inquiéter encore plus du point de vue militaire. Prendre du retard dans la course à l’intelligence artificielle laissera rapidement des nations si loin derrière qu’elles seront incapables de se protéger en cas de menace. Cela ne ferait que renforcer les menaces de ceux qui souhaitent utiliser la technologie pour s’approprier le monde. Vladimir Poutine y a fait allusion en 2017 : « L’intelligence artificielle est l’avenir, non seulement pour la Russie, mais pour toute l’humanité. Elle s’accompagne d’opportunités colossales, mais aussi de menaces difficiles à prévoir. Celui qui deviendra le leader dans cette sphère deviendra le chef du monde. »

Il s’agit d’aider la population à bien comprendre la situation afin qu’elle puisse se sentir en sécurité pour son avenir et celui de ses enfants.
Reconnaissant cela, nous devons continuer à croire qu’il n’est pas raisonnable d’essayer de mettre fin à ces systèmes par peur. Au lieu de cela, nous devons embrasser cet avenir et aller de l’avant avec courage en travaillant à la création d’une stratégie de gouvernance qui assure la sécurité de toutes les personnes concernées. Nous avons besoin de nations puissantes pour s’aligner, établir des normes pour le monde et se soutenir mutuellement contre la menace de toute nation qui préférerait utiliser ces technologies pour la puissance et la destruction. La réglementation moderne devrait mettre l’accent sur la création de systèmes fluides et adaptables qui favorisent la sécurité publique et renforcent la responsabilité des entreprises tout en leur permettant de prospérer sur le plan économique. Les punitions sévères peuvent rendre les électeurs heureux momentanément, mais les réactions émotionnelles viscérales axées sur la satisfaction des besoins immédiats sans comprendre pleinement les effets à long terme ne sont pas ce dont nous avons besoin en ce moment. Nous devons plutôt nous concentrer sur le bien-être à long terme de notre monde.

3. Nous reconnaissons que la réglementation est nécessaire, nous nous impliquons dans nos communautés et discutons des options.

La différence entre les technologies révolutionnaires antérieures et celles dont il est question aujourd’hui est que les technologies révolutionnaires antérieures ont souvent été construites et contrôlées par le gouvernement, alors que celles d’aujourd’hui sont construites et contrôlées à des fins commerciales. La preuve que les prouesses techniques de la Silicon Valley l’emportent sur celles du gouvernement est visible dans le travail accompli pour faire avancer l’initiative de défense du gouvernement. Bien que cela puisse en concerner certains, il est indéniable que nous avons besoin de l’aide de ces entreprises, qui possèdent certains des meilleurs talents au monde. C’est quelque chose dont les entreprises sont conscientes et qu’elles commencent à adopter, comme le note Sergey Brin dans la Lettre du fondateur d’Alphabet de 2017, publiée au début de 2018 : « Historiquement, les entreprises technologiques ont toujours été très optimistes et idéalistes quant aux opportunités que leurs innovations créent. Et pour ce qui est de l’écrasante majorité, l’arc de l’histoire montre que ces progrès, y compris Internet et les appareils mobiles, ont créé des possibilités et amélioré de façon spectaculaire la qualité de vie de milliards de personnes. Cependant, des questions très légitimes et pertinentes sont soulevées, partout dans le monde, au sujet des implications et des impacts de ces progrès. C’est une discussion importante à avoir. Bien que je sois optimiste quant à la possibilité de mettre la technologie au service des plus grands problèmes du monde, nous sommes sur une voie que nous devons suivre avec beaucoup de responsabilité, de soin et d’humilité ».

Il faut reconnaître qu’en fin de compte, il y a des humains dans ces entreprises. Ce sont des gens qui ont des familles dont ils doivent s’occuper, des vies à bâtir et le désir de faire du monde un endroit meilleur. La plupart de ces gens ne sont pas mauvais, et en fait, la plupart d’entre eux se sont joints en raison du potentiel d’avoir un impact positif sur le monde. Cela dit, même avec les meilleures intentions, des erreurs peuvent se produire. Ça fait partie de l’être humain. La différence entre les erreurs commises par ces personnes et les erreurs commises par le citoyen moyen est que celles de la Silicon Valley sont amplifiées en raison de l’ampleur de leur impact – et à juste titre. Cependant, il y a aussi des choses qui rendent ces erreurs parfois difficiles à éviter – des choses qui ne sont pas faciles à comprendre de l’extérieur.

Par exemple, travailler avec des budgets plus importants que la richesse de nombreux pays réunis peut sembler impressionnant, mais ce n’est pas aussi glamour qu’il y paraît. Les conversations sur les changements à apporter ne sont pas si différentes de celles des diplomates qui discutent des changements budgétaires nationaux ou internationaux. Ajoutez à cela des délais stricts et une dose d’impact global, et vous obtenez un groupe de personnes à qui l’on demande de rendre l’impossible possible, et de le faire d’ici demain matin, sans aucune erreur. Ajoutez à cela de nombreux autres facteurs qui ne peuvent être vécus qu’en étant à l’intérieur de soi, y compris le fait de ne pouvoir parler à personne de ce que l’on fait et des résultats que l’on obtient dans un environnement de travail extrêmement stressant. Il ne s’agit pas de dire ça pour trouver des excuses ou pour mettre en doute les capacités des talents au sein de ces organisations, mais pour reconnaître qu’en fin de compte, ce sont des humains et qu’ils méritent de l’empathie.

Donc, contrairement à ce que semble être la troisième option, il ne s’agit pas de céder la propriété intellectuelle ou d’aider le grand public à renverser qui que ce soit. Il s’agit d’aider la population à comprendre suffisamment bien la situation pour qu’elle puisse non seulement comprendre les personnes concernées, mais aussi se sentir en sécurité pour leur avenir et celui de leurs enfants. Il s’agit de trouver un moyen de travailler ensemble pour trouver une solution. Et, plus que tout, il s’agit de regagner la confiance du public. Il y a beaucoup de travail à faire si nous voulons trouver un équilibre entre les questions de sécurité nationale, de sécurité personnelle et de sécurité des consommateurs, mais cela ne sera possible qu’en faisant preuve de transparence et en aidant le public à comprendre ce qui se passe.

Que ces entreprises veuillent ou non entamer ces conversations, chaque individu sur cette planète mérite de comprendre comment rester en sécurité et prospérer dans l’avenir que nous créons collectivement. Ces outils ne peuvent pas être imposés au monde sans permettre aux gens de comprendre l’impact qu’ils auront sur leur vie. Aider le grand public à comprendre ces systèmes, à faire confiance aux personnes qui les soutiennent et à combler le fossé qui résultera certainement d’une utilisation accrue de l’intelligence artificielle devrait être considéré comme une question de décence humaine de base et non comme une dernière ligne de défense pour éteindre les incendies de RP. Il est temps de mettre ces questions en lumière afin que nous puissions avoir une discussion plus large sur ce qui se passe et trouver collectivement un moyen de faire en sorte que cela fonctionne pour tout le monde, et pas seulement pour quelques uns.

Automating Humanity, Joe Toscano

Publicités

2 commentaires »

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.