Publicités

Voici ce que les algorithmes voient quand ils vous espionnent en public

Voici ce que les algorithmes voient quand ils vous espionnent en public

Ils voient beaucoup plus que vous ne le pensez et peuvent faire des inférences sur tout, des relations personnelles à l’espérance de vie en passant par la « valeur sociale ».

Les algorithmes, les logiciels et les technologies intelligentes sont de plus en plus présents dans les villes du monde entier. L’intelligence artificielle (IA), la modélisation basée sur les agents, l’Internet des objets et l’apprentissage automatique se retrouvent pratiquement partout maintenant – des lampadaires aux poubelles, en passant par les feux de circulation et les voitures. De plus, ces technologies influencent aussi la façon dont les villes sont planifiées, guidant les grandes décisions concernant les nouveaux bâtiments, les transports et les projets d’infrastructure.

Les citadins ont tendance à accepter passivement la présence de ces technologies – s’ils la remarquent. Pourtant, cette acceptation est ponctuée par une panique intermittente face à la protection de la vie privée, comme par exemple le dernier projet de Transport for London de suivre les déplacements des passagers sur le réseau de transport en utilisant le Wi-Fi, qui a suscité des critiques de la part des experts de la vie privée. S’il y avait une meilleure compréhension du fonctionnement de ces technologies, les citoyens seraient en meilleure position pour juger des données qu’ils sont à l’aise de partager et de la façon de mieux protéger leur vie privée lorsqu’ils naviguent dans la ville.

C’est pourquoi, dans une étude récente, Silvio Carta a cherché à comprendre comment fonctionnent certains des algorithmes de l’intelligence artificielle et de l’apprentissage machine, et quel est leur impact sur des contextes urbains familiers comme les rues, les places et les cafés. Mais au lieu d’essayer d’expliquer les mathématiques mystifiantes derrière le fonctionnement des algorithmes, il a commencé à regarder comment ils « voient » réellement le monde dans lequel nous vivons.

COMMENT LES ALGORITHMES « VOIENT »
Si nous voulons vraiment voir ce que les machines voient, nous devons nous forcer à penser comme des ordinateurs. Cela signifie qu’il faut écarter tout ce que nous percevons habituellement avec nos sens et rationaliser par l’intermédiaire de notre cerveau, et plutôt passer par un processus d’acquisition de données, étape par étape. C’est exactement ce qu’il a essayé de démontrer avec The Machine’s Eye : une simulation qui montre les étapes par lesquelles un hypothétique système d’IA « lit » un environnement physique et est capable de profiler les personnes qui y vivent.

Il part d’une situation de noir absolu – sans information – et recueille progressivement des données à partir d’un certain nombre de dispositifs interconnectés : smartphones, microphones, vidéosurveillance, et autres capteurs. Elle commence par la détection et l’organisation de l’information directement à partir de l’environnement physique : la dimension de la pièce, le type d’établissement, le nombre de personnes à l’intérieur, leur langue, leur accent, leur sexe et le type de conversation. Il interpole ensuite ces données avec ce que l’on peut trouver sur chaque individu en ligne, l’exploration de données à partir des médias sociaux, les messages en ligne, les bases de données et les pages personnelles.

Leur machine d’IA est enfin capable de rassembler toutes ces données dans un profil précis d’un individu ciblé, en déduisant la probabilité de relations personnelles, de perspectives familiales, d’espérance de vie, de productivité ou de « valeur sociale » – c’est-à-dire, leur contribution à la société en termes financiers et sociaux, dans le contexte de cette fiction.

Dans cette simulation, toutes les données sont fictives – le but principal de la vidéo est de faire prendre conscience de ce qu’un Internet des objets réellement connecté, exploité par un système d’IA avancé, pourrait faire en théorie.

GRATTER LA SURFACE
Un nombre croissant d’entreprises explorent comment les algorithmes perçoivent l’environnement bâti. Numina, par exemple, basée à New York, recueille des données sur les flux urbains de voitures et de piétons, en montrant leurs traces en temps réel. Et Volvo s’est associé à la célèbre photographe Barbara Davidson pour concevoir un système automatisé, où des caméras et des capteurs embarqués représentaient la présence de personnes dans les rues animées de Copenhague.

De tels projets combinent des représentations de données assistées par ordinateur avec une perspective humaine – mais ils ne font qu’effleurer la surface de ce que les algorithmes voient réellement dans notre monde. En réalité, la quantité de données détectées par les capteurs et la puissance de calcul des algorithmes qui les traitent créent une image beaucoup plus riche et nuancée de l’environnement urbain.

City Scanner est un projet de ville intelligente développé par Cambridge, Massachusetts, en partenariat avec le Senseable City Lab du MIT. Les camions à ordures sont équipés d’un ensemble de capteurs qui peuvent détecter un certain nombre de critères de performance urbaine, du niveau de pollution de certaines zones, aux fuites de gaz et aux nids-de-poule.

Les capteurs envoient les données recueillies au cours de leur trajet habituel à un serveur central, où une série d’algorithmes combinent, trient et analysent la grande quantité de données, donnant ainsi une image presque en temps réel de la qualité de la vie urbaine. Ce suivi constant de la performance urbaine s’appuie sur les observations précédentes pour contribuer à l’amélioration continue des infrastructures de la ville et des politiques qui la sous-tendent.

De même, les ingénieurs de la société de messagerie UPS ont créé l’algorithme ORION (On-Road Integrated Optimization and Navigation). Ce travail de 1 000 pages suggère non seulement le chemin le plus rapide entre deux points de la ville, mais il devient aussi plus intelligent avec le temps. ORION apprend continuellement de ses propres résultats, en mesurant la vitesse à laquelle les camions se déplacent d’un point A à un point B, et en les comparant à un modèle statistique, afin d’améliorer sa précision et ses performances.

De toute évidence, les algorithmes peuvent être formés pour « voir » nos villes plus en détail et naviguer à travers elles plus efficacement que n’importe quel humain. Après tout, il s’agit essentiellement de modèles mathématiques et statistiques, appliqués à des problèmes réels. C’est pourquoi il est si important de démystifier ces technologies de boîte noire afin de les comprendre et d’en tirer le meilleur parti et d’améliorer l’environnement urbain.

Via The Conversation

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

%d blogueurs aiment cette page :