Publicités

Comment l’IA changera-t-elle votre vie ?

Comment l’IA changera-t-elle votre vie ?

Vraiment une très bonne interview couvrant plusieurs des inquiétudes et des problèmes concernant l’AI et l’éthique :Kate Crawford et Meredith Whittaker, fondatrices de l’AI Now Institute, expliquent.

En fin de compte, vous parlez de cultures de production de données et si ces données sont historiques, alors vous importez les biais historiques du passé dans les outils de l’avenir. […]

« D’accord, que pensons-nous des pratiques de construction de données ? Comment réfléchissons-nous à la façon dont nous représentons le monde et la politique de l’IA ? » Parce que ces systèmes sont politiques, ils ne sont pas neutres. Ils ne sont pas objectifs. Ils sont en fait fabriquées par des personnes qui se trouvent dans des pièces. C’est pourquoi il importe de savoir qui se trouve dans la pièce, qui crée le système et quels types de problèmes ils tentent de résoudre. […]

Comment mesurez-vous les avantages ? Et c’est l’un des domaines clés que nous devons examiner de plus près, n’est-ce pas ? Donc, en augmentant le rendement des cultures, cela pourrait être un énorme avantage, mais est-ce au détriment de la santé du sol ? Cela se fait-il au détriment de préoccupations écologiques plus larges ? Est-ce que cela déplace des communautés qui vivaient sur ces terres ? Je suis en quelque sorte en train d’inventer ces exemples comme des questions que vous voudriez poser avant de prétendre que ces technologies profitent à tout le monde. […]

Ces questions sont graves et elles sont prises au sérieux. Mais ce que nous ne voyons pas, c’est une véritable responsabilisation. Ce que nous ne voyons pas, ce sont des mécanismes de surveillance qui amènent les personnes les plus à risque dans la salle pour les aider à prendre ces décisions. […]

Ils ont des conversations différentes sur la protection de la vie privée, et ils se rendent compte qu’il ne s’agit pas seulement de la protection de la vie privée individuelle, mais aussi de notre vie privée collective. C’est le fait que, si vous prenez une décision dans un réseau de médias sociaux, cela peut également affecter la façon dont les données de tous vos contacts sont extraites. Je pense qu’il y a une augmentation du niveau d’alphabétisation, et c’est quelque chose de très important. […]

Les États-Unis ont de nombreux systèmes similaires qui sont en place ou sur le point de l’être au cours des deux prochaines années. Je suis sûr que vous avez lu dans les journaux qu’à New York, par exemple, les assureurs ont reçu l’autorisation d’examiner vos médias sociaux pour décider comment moduler vos tarifs d’assurance. Cela ressemble beaucoup au genre de choses qui nous préoccupent en Chine. […]

[🔥] Je dirais que ce domaine a été vénéré sur l’autel de la technique pendant près de 60 ans, et au détriment de la compréhension du social et de l’éthique. Nous voyons les fruits de cette priorisation. […]

Meredith Whittaker : Je pense qu’il se trompe sur toute la ligne. Je pense que la prémisse est erronée, mais c’est une grande distraction par rapport aux méfaits très réels des systèmes défectueux, brisés, imparfaits et rentables qui sont intégrés de façon mondaine et obscure à nos systèmes sociaux et économiques.

Kate Crawford : Nous avons appelé cela le problème des prédateurs de l’apex, et si vous êtes déjà un prédateur de l’apex et que vous avez tout l’argent et toute la puissance du monde, quelle est la prochaine chose à craindre ? « Oh, je sais ! Des machines super intelligentes, c’est la prochaine menace pour moi. » Mais si vous n’êtes pas un prédateur de pointe, si vous êtes l’un des nôtres, nous avons de vrais problèmes avec les systèmes qui sont déjà déployés, alors peut-être devrions-nous nous concentrer là-dessus.

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

%d blogueurs aiment cette page :