Reconnaissance des visages, mauvaises personnes et mauvaises données

Ben Evans pense à la reconnaissance faciale, aux gens et aux données.

Je recommande cet article comme lecture utile pour deux raisons : premièrement parce qu’il explique assez bien un certain nombre d’angles, ainsi que les questions à poser et les perceptions du public sur ce qui est acceptable et ce qui est discutable. Deuxièmement, parce qu’il devrait être lu en tenant compte de son point de vue (probablement correct) selon lequel des caméras de moins en moins chères et l’IA à la limite signifieront des caméras intelligentes apparaissant dans beaucoup de choses (voir ses archives sur la vision par ordinateur). Cependant, sans surprise, il utilise beaucoup le  » nous  »  sans le définir et sans consacrer du temps à la diversité des populations, des besoins, des privilèges et des préoccupations. Fondamentalement, de bonnes explications, de bonnes questions, mais cela devra se produire pour un éventail beaucoup plus large de personnes et de vies.

Il s’agit simplement de faire une comparaison statistique des ensembles de données. Alors, encore une fois, quel est votre ensemble de données ? Comment est-il sélectionné ? Qu’y a-t-il dedans que vous ne remarquez pas – même si vous le regardez ? Comment différents groupes humains peuvent-ils être représentés de manière trompeuse ? Et qu’y a-t-il dans vos données qui n’a rien à voir avec les gens et qui n’a aucune valeur prédictive, mais qui affecte le résultat ? […]

Mais l’apprentissage automatique ne donne pas de réponses par oui/non. Il donne des réponses  » peut-être « ,  » peut-être pas  » et  » probablement « . Il donne des probabilités. Ainsi, si votre interface utilisateur présente un « probablement » comme un « oui », cela peut créer des problèmes. […]

Mais, tout comme nous devions comprendre que les bases de données sont très utiles mais qu’elles peuvent être  » fausses « , nous devons aussi comprendre comment cela fonctionne, à la fois pour essayer d’éviter les erreurs et pour nous assurer que les gens comprennent que l’ordinateur peut encore avoir tort. […]

Il y a quelque chose dans l’automatisation elle-même que nous n’aimons pas toujours – quand ce qui a toujours été théoriquement possible à petite échelle devient pratiquement possible à une échelle massive.

Quelques lectures :

Databanks  in a Free Society 

The Politics of Privacy, Computers, and Criminal Justice Records: Controlling the Social Costs of Technological 

Electronic Nightmare: The New Communications and Freedom 

The Rise of the Computer State

La newsletter de Benedict Evans

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.