La polémique sur une manipulation possible de la Russie derrière le lancement de « FaceApp »

La polémique sur une manipulation possible de la Russie derrière le lancement de « FaceApp »

 

Les réseaux sociaux regorgent de défis visant à modifier des photos à l’aide de « filtres ». En mai dernier, Snapchat proposait un « filtre du genre » permettant aux internautes de découvrir à quoi ils ressembleraient en membre du sexe opposé. En juillet, le « filtre de vieillissement » de l’application russe FaceApp a connu un engouement similaire, atteignant plus de 100 millions d’utilisateurs. FaceApp devient alors l’application la plus téléchargée, mais également la plus controversée.

La viralité démarre le week-end du 13 et 14 juillet 2019, lorsque des célébrités et des millions d’internautes publient leurs visages ridés sur Instagram et Twitter, sous le hashtag #FaceAppChallenge. En quelques jours, l’application mobile se hisse en tête des téléchargements. En cause : des résultats très réalistes grâce à une technologie d’apprentissage profond (Deep Learning), basée sur un modèle de réseaux neuronaux – dont le fonctionnement est calqué sur celui des neurones du cerveau humain. Selon son PDG, Yaroslav Goncharov, FaceApp se différencie de la concurrence en n’appliquant pas de filtres, mais en modifiant directement la photo grâce à l’intelligence artificielle. L’application mise sur le photoréalisme, « plus intemporel que des effets divertissants ».

Le défi est à peine lancé qu’une polémique éclate sur la politique de confidentialité de la société russe. Les hypothèses sur les motivations de son PDG foisonnent sur les réseaux sociaux. Rumeurs, accusations et mises en garde font le tour du monde. Le milieu politique américain s’empare du sujet et réclame une enquête du FBI, tandis que la CNIL publie ses conseils sur l’utilisation d’applications de retouches photos.

 

Qui se cache derrière FaceApp ?

Yaroslav Goncharov, ingénieur russe de 40 ans, est le responsable et fondateur de FaceApp. Diplômé de la faculté de mécanique et de mathématiques de l’Université d’État de Saint-Pétersbourg, il débute sa carrière chez Microsoft, en tant que développer de logiciels sur Windows Mobile. Il rejoint ensuite la start-up SPB Software à Saint-Petersbourg – sa ville natale – en tant qu’associé et directeur technique. Spécialisée dans le développement d’applications et de jeux mobiles, SPB Software se fait rachetée en 2011 par Yandex, le « Google Russe », dans le cadre d’un contrat de 38 millions de dollars. Deux ans plus tard, Goncharov démissionne pour fonder sa propre société. Baptisée Wireless Lab, la société se spécialise dans le domaine de prédilection de Goncharov : les applications mobiles. Le PDG mise alors sur deux tendances : la valeur croissante des photos et vidéos, et le Deep Learning. Ainsi naît FaceApp en 2017.

Après huit mois de développement, l’application est lancée sur l’AppStore fin janvier 2017 et sur Android en février. Dès ses débuts, l’application connaît succès et polémiques. Développée par une équipe de 12 personnes – basée depuis 2018 à Stolkovo, la « Silicon Valley Russe » –, elle se hisse en quelques mois en tête des téléchargements sur l’AppStore dans de nombreux pays, dont les États-Unis et le Royaume-Uni. Mais au même moment, son filtre « sexy », dont la tendance est de blanchir la peau et d’affiner le nez des utilisateurs, est accusé de racisme. Goncharov présente ses excuses et renomme le filtre « étincelles » avant de le supprimer. En juin 2017, elle connaît un regain de popularité grâce à son filtre à sourires : les internautes l’appliquant à de vieilles peintures et à des personnalités politiques.

 

La polémique

La polémique prend d’abord racine dans de fausses accusations relayées sur les réseaux sociaux, concernant des pratiques d’intrusion, voire d’espionnage de l’application.

  • Le 15 juillet au soir, le développeur Joshua Nozzi accuse FaceApp de télécharger l’ensemble des images contenues dans les appareils, sans aucun accord préalable et dès lors qu’une connexion internet est disponible. Cette rumeur est vite démentie par de nombreux chercheurs et experts en cybersécurité et l’auteur présentera deux jours plus tard ses « excuses officielles et inconditionnelles aux créateurs de FaceApp et à Internet en général pour cette accusation sans fondement ». Mais la polémique enfle et le message twitter original continue à être partagé, jusqu’à sa suppression par l’auteur.
  • Dans le même thème, les utilisateurs d’Apple ont partagé sur Twitter leur étonnement concernant la possibilité pour l’application de proposer le téléchargement d’une photo sans même que l’utilisateur ne lui ait autorisé l’accès à sa bibliothèque au préalable. Or, les experts ont confirmé que cette liberté fut introduite pour toutes les applications par une API d’Apple sous iOS 11. FaceApp n’est donc pas responsable de cette pratique.

 

L’application a ensuite essuyé des critiques concernant sa politique de confidentialité et la protection des données personnelles des utilisateurs.

  • Les internautes ont largement relayé les conditions générales d’utilisation (CGU), qui énoncent qu’en recourant à l’application vous cédez à l’entreprise la possibilité de modifier, reproduire, réutiliser ou exploiter les photos et informations qui s’y attachent – dont les noms et pseudos –, de façon « perpétuelle, irrévocable et libre de droits ». Pour les experts en cybersécurité, c’est une pratique banale et ces conditions se retrouvent également dans Twitter ou Snapchat.

 

  • Une fois la photo à modifier sélectionner, FaceApp la charge sur ses serveurs à distance, le traitement des images s’effectuant dans le Cloud et non pas directement sur le périphérique de l’utilisateur – ce qui explique pourquoi l’application ne fonctionne pas si vous n’avez pas de réseau 3G ou Wi-Fi.

Interrogé sur le sujet par le site Techcrunch, FaceApp a répondu le 17 juillet à l’ensemble de ces préoccupations. Confirmant que la société pourrait stocker la photo téléchargée à des fins de « performances et de trafic », FaceApp affirme cependant que la plupart des images sont supprimées de leurs serveurs dans les 48 heures suivant la date de téléchargement. Ils invitent par ailleurs les utilisateurs le souhaitant à envoyer une demande de suppression de toutes leurs données. Enfin, concernant d’éventuels liens avec le gouvernement russe, FaceApp précise qu’ils utilisent les infrastructures cloud d’Amazon (AWS) et de Google, que les données ne sont ni partagées ni vendus à des tiers, et qu’aucune donnée utilisateur n’est « transférée en Russie ». Il semblerait que les différentes accusations ayant proliféré sur internet ont pour dénominateur commun : la nationalité russe de la société. La start-up, autofinancée par son créateur grâce à la vente de SPB Software, utilise les mêmes méthodes que tous les grands noms du numérique. Comment, en dépit d’arguments légitimes, la polémique a-t-elle pris une telle ampleur ?

 

Un article du New York Times au moment opportun

Le 13 juillet, au moment même où le buzz se crée, le New York Times publie un article signé Cade Metz, intitulé « la technologie de reconnaissance faciale se renforce, grâce à votre visage » (Facial Recognition Tech Is Growing Stronger, Thanks to Your Face). L’article dénonce un « vaste écosystème » mondial de diffusion de données faciales, compilées et partagées par des entreprises et des chercheurs, en vue d’alimenter les technologies de reconnaissance faciale. Les individus ne sont pas informés qu’ils figurent dans ces bases de données. Tout en exonérant les géants Facebook et Google de distribuer leurs données, l’auteur souligne que des rapports de recherche incriminent de nombreuses entreprises et universités ayant partagé leurs images avec des chercheurs, des gouvernements et des entreprises privées. Le partage s’effectue généralement sur demande, à des fins de recherche, y compris commerciale.

Cade Metz illustre ces propos par de nombreux exemples peu éthiques, en s’appuyant sur les travaux et expériences de deux activistes : le chercheur Adam Harvey, américain basé à Berlin et auteur du site internet MegaPixels.cc, qui répertorient plus de 300 bases de données faciales et 5000 articles scientifiques qui les citent – résultat de 9 années de travail ; et Liz O’Sullivan, directrice de la technologie chez S.T.O.P., qui a démissionné de chez Clarifai en janvier dernier – start-up spécialisée en intelligence artificielle –, pour protester publiquement contre le manque d’éthique de son ex employeur. L’article ne mentionne ni FaceApp, ni la Russie. Il n’est pas non plus au cœur d’une révélation puisque le projet MegaPixels d’Adam Harvey a déjà été mis en lumière en avril par le Financial Times, avant d’être relayé par de nombreux magazines. De même, l’activiste Liz O’Sullivan proteste publiquement depuis le mois de mars.

L’auteur semble s’intéresser aux bases de données faciales suite aux révélations du Washington Post une semaine plus tôt, concernant l’utilisation illégale par le FBI et le service des douanes américaines, de technologie de reconnaissance faciale sur des bases de données de photos de permis de conduire, afin d’identifier des immigrés sans papiers. Cependant, le jour même, les internautes font le lien entre cet article et leur passe-temps du jour : FaceApp. La polémique débute.

Cade Metz est un correspondant technologique du New York Times, couvrant l’intelligence artificielle, les voitures autonomes, la robotique, la réalité virtuelle et d’autres domaines émergents. Auparavant, il était rédacteur principal au magazine Wired, mensuel et périodique publié à San Francisco, qualifié par Philippe Grangereau de « techno-utopiens, qui voient dans la loi du marché et le progrès technique un moyen de libération de l’individu et l’avènement d’une société post-industrielle d’abondance transcendant les clivages politiques. ». A l’occasion de la campagne présidentielle de 2016, Wired avait soutenu la candidate démocrate Hillary Clinton.

 

L’usage de cet outil remis en question

Le parti démocrate prend le relai en s’opposant ouvertement à l’application FaceApp. En cause : la nationalité de l’application. A l’occasion de la campagne présidentielle de 2016, les messageries électroniques du comité démocrate national (DNC) avaient été piratées, entrainant la publication de milliers de courriels de responsables démocrates. Cette fuite avait discrédité la candidate Hillary Clinton. A la suite de son enquête, le procureur spécial Robert Mueller a accusé douze agents des services de renseignement russe d’être à l’origine du piratage informatique. Depuis, le parti démocrate est particulièrement attentif aux enjeux de cybersécurité et à tout risque d’espionnage politique venant de Moscou. Ainsi, le 17 juillet, le DNC a officiellement conseillé à ses candidats à la primaire, en vue de l’élection présidentielle de 2020, de ne pas utiliser FaceApp.

En complément, le sénateur Chuck Schumer a réclamé une enquête immédiate du FBI et de la FTC (l’entité qui protège les consommateurs aux États-Unis) afin d’évaluer les risques pour la sûreté nationale et la vie privée, considérant que des millions d’Américains ont utilisé l’application FaceApp. Dans une lettre publiée sur son compte Twitter, il ajoute qu’elle « appartient à une société basée en Russie et les utilisateurs sont tenus de fournir un accès complet et irrévocable à leurs photos et données personnelles ». Cette prise de position, largement relayée à travers le monde, n’empêche pas le chef de la minorité démocrate au Sénat d’être un grand défenseur de Facebook. Logique si l’on en croit les révélation du New York Post, qui affirme qu’il a reçu 50 000 dollars de donations de la part des employés de Facebook lors de sa campagne électorale, soit plus que tout autre sénateur.

La polémique est d’ailleurs intervenue au bon moment pour Facebook, dont l’amende de 5 milliards de dollars – un record pour une firme du secteur – pour avoir violé ses engagements en matière de protection de la vie privée de ses utilisateurs dans le scandale Cambridge Analytica, est passé un peu plus inaperçue.

 

L’enjeu économique

Les données faciales sont précieuses. Depuis trois ans, le marché de la reconnaissance faciale augmente de 20% par an. Le Market Research Future estime qu’il atteindra les 9 milliards de dollars d’ici 2022. Plus encore, le marché de données personnelles des seuls citoyens européens, s’élevait à 60 milliards en 2016 et devrait atteindre 80 milliards en 2020. La compilation de visages est donc motivée par « la course à la création de systèmes de reconnaissance faciale de pointe ». Plus la technologie analyse d’images numériques à l’aide de « réseaux de neurones », plus elle se perfectionne à l’identification. Des centaines de milliers d’images de visages sont nécessaires. Ils doivent être variés, de toutes formes, tailles, couleurs, âges et sexes, afin d’aiguiser la précision. C’est toute la technique de FaceApp, basée sur des algorithmes d’apprentissage profond. En 2017, le site TechCrunch estimait que certains filtres de FaceApp étaient plus réussis que d’autres, ajoutant qu’il « est évident que l’effet de vieillissement n’est pas réel ». Le sempiternel « si c’est gratuit, vous êtes le produit » prend ici tout son sens. L’application est gratuite et sa monétisation repose sur un abonnement premium de 4 euros par mois ou 20 euros par an, permettant un accès à tous les filtres disponibles et une utilisation de l’application sans publicités. Mais la technologie de FaceApp s’est visiblement améliorée grâce aux millions d’utilisateurs qui ont téléchargé leurs photos depuis deux ans.

 

Hélène d’Orgil