Publicités

FaceApp est l’avenir

FaceApp est l’avenir

Ce que l’application la moins importante de votre téléphone a en commun avec la plupart.

C’est déjà assez difficile de dire, après quelques semaines, comment nous en sommes arrivés là avec FaceApp. Après avoir été virale pour la deuxième ou la troisième fois aux États-Unis, l’application de nouveauté est devenue, en l’espace de quelques jours, un avatar des accords d’utilisation trompeurs, un acteur d’une conspiration mondiale insinuée et un récit avertissant sur le peu qu’il faut pour convaincre des dizaines de millions de personnes à abandonner leur image pour un traitement ressemblant. Le sénateur démocrate Chuck Schumer, de New York, a déclaré dans une lettre qu’il souhaiterait que le F.B.I. et le F.T.C. enquêtent, écrivant qu’il est « profondément troublant » que les données personnelles des Américains aient été transférées à une « puissance étrangère hostile ». Cette semaine, le sénateur Rick Scott de Floride, un républicain, a présenté un projet de loi qui obligerait les appstores à indiquer le pays d’origine des logiciels, citant FaceApp.

 

Il n’est pas difficile de comprendre pourquoi les gens sont tombés dans le panneau. Ses filtres faciaux sont souvent assez bons pour être plausibles, et assez nouveaux pour surprendre, donnant l’impression que cette intelligence artificielle particulière sait quelque chose que nous ignorons. C’est un exemple caricatural mais illustratif d’automatisation, en ce sens qu’il prend quelque chose de rare et de spécialisé – des portraits d’âge avancé – et les rend accessibles à tous sans frais initiaux. L’application a également mis en place une blague d’autodérision parfaite pour les innombrables célébrités attrayantes qui ont participé au FaceApp Challenge. (La directive du défi étant : postez votre FaceApp.)

Le tollé de FaceApp est plus compliqué. Les utilisateurs de l’application ont accepté d’accorder à l’entreprise une licence « perpétuelle, irrévocable, non exclusive, libre de droits, mondiale, entièrement payée » pour leurs photos, ce qui est en effet très coûteux. Tout comme l’application est devenue virale, certains des petits caractères l’ont été aussi.

Bien sûr, l’accord était une expression standard. Les hypothèses sur les motivations des développeurs russes n’étaient que cela ; alors que quiconque exploite une application qui demande les permissions accordées à FaceApp a un accès complet aux appareils des utilisateurs, l’analyse du trafic a révélé qu’il faisait, pour le moment, ce qu’il prétendait : collecter des millions de photos des utilisateurs chargées, les analyser et ensuite les rendre accessibles plus anciennes, plus jeunes, sexuellement modifiées, souriantes ou stylées.

Après quelques jours de panique brumeuse, il y a eu quelques tentatives pour rétablir la clarté : Il y a beaucoup d’applications que nous utilisons déjà qui sont au moins aussi invasives que FaceApp, et qui utilisent la reconnaissance faciale, et qui sont déjà connues pour avoir abusé de la confiance de leurs utilisateurs. En d’autres termes, les inquiétudes concernant FaceApp étaient disproportionnées par rapport à son importance. « Vous pensez que FaceApp fait peur ? Attendez jusqu’à ce que vous entendiez parler de Facebook « , peut-on lire en gros titre dans Wired. La situation était aussi, en partie, de notre faute : « Vous avez téléchargé FaceApp. Voici ce que vous venez de faire à votre vie privée « , a déclaré une autre personne de mauvais augure dans le Washington Post.

Il est vrai que des dizaines de millions de personnes ont téléchargé l’application. Et nous vivons dans un monde où les violations flagrantes de la vie privée sont la norme. Mais les appels réflexifs à se calmer, ou à voir la situation dans son ensemble, faisaient partie du processus lent et compliqué qui les rendait normaux.

Le fait qu’un processus sans friction apprécié entre amis, motivé par des raisons à la fois stupides et poignantes, implique l’octroi d’une licence légale aux médias contenant votre portrait est tout simplement absurde. Comment est-ce arrivé ? Ce n’est pas parce que les atteintes à la vie privée sont courantes qu’elles ont un sens ou qu’on les a demandées. Pas étonnant que notre étreinte et notre rejet de FaceApp semblent confus.

« Le modèle économique par défaut pour presque toutes les applications existantes consiste non seulement à prendre ce que vous lui donnez, mais aussi à prendre sa position privilégiée sur votre téléphone, dans votre ordinateur, à prendre secrètement beaucoup plus que ce que vous avez donné, et à l’utiliser d’une manière qui est finalement monétisable « , ajoute Mme Zuboff. Ce n’est pas ce que ces entreprises ont fait, ou n’ont pas fait, ou ce qu’elles pourraient faire à l’avenir. C’est ce qu’ils sont capables de faire et le peu d’influence que nous y avons.

En une génération, la reconnaissance faciale à grande échelle est passée d’une technologie qui pourrait faire l’objet d’abus de la part des gouvernements à une technologie qui l’est largement. C’est aussi légalement et pratiquement possible pour toute entreprise qui donne aux gens la possibilité de s’amuser quelques minutes sur leur smartphone.

La discussion sur les dangers d’une application comme FaceApp a tourné autour d’éventuelles violations futures concurrentes : des images d’utilisateurs vendues sous forme de photos d’archives ou utilisées dans une publicité ; un ensemble de données massif vendu à une entreprise avec des ambitions différentes ; un piratage. Mais la vraie violation est là, dans le concept et dans le nom.

FaceApp, pour faire la chose innocente qu’elle annonce, doit recueillir des données si personnelles que sa remise et sa saisie fréquentes pourraient bientôt mettre fin à la libre circulation anonyme sur Terre. C’est ce qu’exige l’économie applicative, souvent synonyme de nouvelle économie. Vous pouvez faire les suppositions les plus innocentes sur FaceApp et ses créateurs et arriver à la conclusion qu’il ne devrait pas exister, et pourtant le voilà, le jouet parfait pour smartphone, avec près d’un million de commentaires dans l’App Store, et une note de 4.7/5 étoiles. Ça a l’air dingue ? Essayez encore une fois de cette façon : Comment avez-vous fait cette photo ? Oh mon Dieu. FaceApp ? Je dois la télécharger. « Autoriser l’accès à vos photos » ? D’accord, « Allow. » « Permettre l’accès à la caméra » ? D’accord, « Enable ».

Si le vieil homme dans mon FaceApp pouvait parler, il pourrait crier : « FaceApp est la singularité ! FaceApp est la fin du monde. » Plus probablement, cependant, il ne se souviendrait pas du tout de FaceApp. Au contraire, il dirait probablement que FaceApp n’était qu’une application amusante dont les créateurs, après une mauvaise année ou deux, ont peut-être commencé à se demander combien valaient les choses auxquelles ils avaient déjà accès, et à qui, et qui, comme nous, ne ressentait pas vraiment le besoin de penser à quel point nous avions pris l’habitude de ne pas penser à comment, si une application échoue et disparaissait ou avait un succès incroyable, les données que nous lui avions données des années auparavant seraient utilisées à l’encontre de notre contrôle ou imagination.

L’histoire de FaceApp a été courte, confuse et spéculative, mais bien sûr elle l’a été. Le monde numérique qui l’a produit est configuré pour nous donner l’impression de perdre la tête. Son histoire, aussi facile qu’elle soit à rejeter, et aussi manifestement frivole que l’est son sujet, n’est pas excusée, mais plutôt mise en valeur par la façon dont elle rime avec les histoires beaucoup plus longues de Facebook et Google. C’était Facebook sur lequel nous téléchargions des photos, pour des raisons stupides et poignantes, il y a 15 ans. Et c’est Facebook qui a commencé à nous demander de les marquer, puis qui a commencé à les marquer lui-même. C’est Google qui a commencé comme une chose et est devenu beaucoup de choses, chacune plus grande que la première, portant avec elle toutes les données que nous lui avons données, et toutes les permissions que nous avons accordées à ses anciens moi méconnaissables. Et bien que les trahisons de Facebook, à la fois poursuivables et plus générales, soient à la fois mieux établies et beaucoup plus importantes que tout ce à quoi une application gimmick comme FaceApp pourrait aspirer, Facebook a aussi été un site gimmick, pendant un certain temps.

Le contrecoup de Facebook a été intense, confus et souvent critiqué comme étant malavisé, car il remonte les branches apparemment innombrables d’un arbre de diagnostic. Ce contrecoup, tout comme le contrecoup de FaceApp, s’inscrit dans le cadre industriel et juridique qui a produit ces applications en premier lieu. Une amende de 5 milliards de dollars que l’entreprise peut facilement payer en raison du traitement des données des utilisateurs par Facebook. Celui qui tient pour acquis que l’industrie a le droit d’utiliser à perpétuité des formes mal comprises de données personnelles. Et qui n’ose pas envisager la possibilité qu’il ait créé quelque chose qui, dans sa forme populaire, ne devrait tout simplement pas exister.

Via The New York Times

 

Publicités

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

%d blogueurs aiment cette page :