L’IA en 2019 : un bilan de l’année

L’AI Now Institute a tenu un symposium où Kate Crawford et Meredith Whittaker ont donné une conférence résumant l’année en IA qui couvre (1) la reconnaissance faciale et la reconnaissance des affects ; (2) le passage du  » biais de l’IA  » à la justice ; (3) les villes, la surveillance, les frontières ; (4) le travail, l’organisation des travailleurs et l’IA ; et (5) l’impact climatique de l’IA. Des charges et des charges de liens, utiles comme vue d’ensemble, et comme un bon point de départ pour se tenir au courant de ce qui se passe sur le terrain.

Il y a également eu une utilisation plus large de la reconnaissance des affects, un sous-ensemble de la reconnaissance faciale, qui prétend  » lire  » nos émotions intérieures en interprétant les micro-expressions sur notre visage. Comme la psychologue Lisa Feldman Barret l’a montré dans une vaste étude, ce type de phrénologie de l’IA n’a aucun fondement scientifique fiable. Mais il est déjà utilisé dans les salles de classe et les entretiens d’embauche – souvent à l’insu des gens. […]

Et soyons clairs, il ne s’agit pas de perfectionner le côté technique ou d’aplanir les préjugés. Même une reconnaissance faciale parfaitement exacte produira des préjudices disparates, étant donné les disparités raciales et de revenu qui existent entre les personnes qui sont surveillées, suivies et arrêtées. Comme Kate Crawford l’a récemment écrit dans Nature – le dénigrement de ces systèmes n’est pas la question, ils sont « dangereux quand ils échouent, et nuisibles quand ils fonctionnent ». […]

Dans le cadre de l’accord, Amazon obtient un accès continu à des séquences vidéo ; la police a accès à un portail de vidéos Ring qu’elle peut utiliser quand elle le souhaite. L’entreprise a déjà déposé un brevet pour la reconnaissance faciale dans cet espace, indiquant qu’elle aimerait pouvoir comparer des sujets à la caméra avec une « base de données de personnes suspectes » – créant ainsi un système de surveillance privatisé des foyers à travers le pays.

Via Medium

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.