Dans cet extrait de « Your Face Belongs to Us » (Simon & Schuster, 2023), le journaliste Kashmir Hill rappelle l’émergence de Clearview AI, la société de technologie de reconnaissance faciale qui a fait irruption dans la conscience publique avec son logiciel d’intelligence artificielle (IA) qui pourrait soi-disant identifier à peu près n’importe qui avec une seule photo de son visage.
En novembre 2019, je venais de devenir journaliste au New York Times lorsque j’ai reçu une information qui semblait trop scandaleuse pour être vraie : une mystérieuse société appelée Clearview AI affirmait qu’elle pouvait identifier à peu près n’importe qui sur la seule base d’un instantané de son visage.
J’étais dans une chambre d’hôtel en Suisse lorsque j’ai reçu l’e-mail, lors du dernier voyage en avion international que je ferais pendant un certain temps parce que j’étais enceinte de six mois. C’était la fin d’une longue journée et j’étais fatigué mais l’e-mail m’a fait un choc. Ma source avait découvert une note juridique intitulée « Privilégié et confidentiel » dans laquelle un avocat de Clearview avait déclaré que la société avait récupéré des milliards de photos du Web public, y compris des sites de médias sociaux tels que Facebook, Instagram et LinkedIn, pour créer un application révolutionnaire.
Donnez à Clearview une photo d’une personne au hasard dans la rue, et il restituera tous les endroits sur Internet où il a repéré son visage, révélant potentiellement non seulement son nom mais aussi d’autres détails personnels sur sa vie. L’entreprise vendait ce super pouvoir aux services de police de tout le pays, mais essayait de garder son existence secrète.
Il n’y a pas si longtemps, la reconnaissance faciale automatisée était une technologie dystopique que la plupart des gens associaient uniquement aux romans de science-fiction ou aux films tels que « Minority Report ». Les ingénieurs ont d’abord cherché à en faire une réalité dans les années 1960, en essayant de programmer un premier ordinateur pour faire correspondre le portrait d’une personne à une base de données plus vaste de visages. Au début des années 2000, la police a commencé à l’expérimenter pour rechercher dans les bases de données de photos les visages de suspects criminels inconnus. Mais la technologie s’est révélée largement décevante. Ses performances variaient selon la race, le sexe et l’âge, et même les algorithmes de pointe avaient du mal à faire quelque chose d’aussi simple que faire correspondre une photo d’identité à une surveillance granuleuse d’un guichet automatique.
Clearview a affirmé être différent, vantant un « taux de précision de 98,6 % » et une énorme collection de photos contrairement à tout ce que la police avait utilisé auparavant.
C’est énorme, si c’est vrai, ai-je pensé en lisant et en relisant le mémo de Clearview qui n’avait jamais été censé être public. Je couvrais la vie privée et son érosion constante depuis plus d’une décennie. Je décris souvent mon rythme comme « la dystopie technologique imminente – et comment nous pouvons essayer de l’éviter », mais je n’avais jamais vu une attaque aussi audacieuse contre l’anonymat auparavant.
La vie privée, un mot notoirement difficile à définir, a été décrite de manière célèbre dans un article de la Harvard Law Review en 1890 comme « le droit d’être laissé tranquille ». Les deux avocats auteurs de l’article, Samuel D. Warren, Jr. et Louis D. Brandeis, ont appelé à ce que le droit à la vie privée soit protégé par la loi, au même titre que les autres droits – à la vie, à la liberté et à la propriété privée – qui avaient été définis. déjà été inscrit. Ils ont été inspirés par une technologie alors nouvelle – l’appareil photo portable Eastman Kodak, inventé en 1888, qui permettait de sortir un appareil photo d’un studio pour prendre des photos « instantanées » de la vie quotidienne – ainsi que par des gens comme moi, un membre intrusif de la presse.
« Les photographies instantanées et les journaux ont envahi l’enceinte sacrée de la vie privée et domestique », écrivent Warren et Brandeis, « et de nombreux dispositifs mécaniques menacent de confirmer la prédiction selon laquelle » ce qui est chuchoté dans le placard sera proclamé sur les toits des maisons. .' »
Cet article compte parmi les essais juridiques les plus célèbres jamais écrits, et Louis Brandeis a ensuite rejoint la Cour suprême. Pourtant, la vie privée n’a jamais bénéficié du type de protection qu’elle méritait, selon Warren et Brandeis. Plus d’un siècle plus tard, il n’existe toujours pas de loi générale garantissant aux Américains le contrôle des photos prises d’eux, de ce qui est écrit à leur sujet ou de ce qui est fait de leurs données personnelles. Pendant ce temps, les entreprises basées aux États-Unis – et dans d’autres pays dotés de lois sur la protection de la vie privée peu strictes – créent des technologies toujours plus puissantes et invasives.
La reconnaissance faciale était sur mon radar depuis un moment. Tout au long de ma carrière, dans des établissements comme Forbes et Gizmodo, j’ai couvert les nouvelles offres majeures d’entreprises milliardaires : Facebook identifiant automatiquement vos amis sur des photos ; Apple et Google permettent aux gens de regarder leur téléphone pour le déverrouiller ; des panneaux d’affichage numériques de Microsoft et d’Intel dotés de caméras détectant l’âge et le sexe pour diffuser des publicités appropriées aux passants.
J’avais écrit sur la façon dont cette technologie parfois maladroite et sujette aux erreurs excitait les forces de l’ordre et l’industrie, mais terrifiait les citoyens soucieux de leur vie privée. Alors que je digérais ce que Clearview prétendait pouvoir faire, j’ai repensé à un atelier fédéral auquel j’avais assisté des années plus tôt à Washington, DC, où des représentants de l’industrie, des représentants du gouvernement et des défenseurs de la vie privée s’étaient assis pour élaborer les règles de la route.
La seule chose sur laquelle ils étaient tous d’accord était que personne ne devrait déployer une application pour identifier les étrangers. C’était trop dangereux, disaient-ils. Un cinglé dans un bar pourrait prendre votre photo et savoir en quelques secondes qui étaient vos amis et où vous habitiez. Il pourrait être utilisé pour identifier les manifestants antigouvernementaux ou les femmes qui se sont rendues dans les cliniques Planned Parenthood. Ce serait une arme de harcèlement et d’intimidation. La reconnaissance faciale précise, à l’échelle de centaines de millions ou de milliards de personnes, était le troisième axe de la technologie. Et voilà que Clearview, un acteur inconnu dans le domaine, prétend l’avoir construit.
J’étais sceptique. Les startups sont connues pour faire des affirmations grandioses qui s’avèrent être de l’huile de serpent. Même Steve Jobs a simulé les capacités de l’iPhone d’origine lorsqu’il l’a révélé pour la première fois sur scène en 2007.*
Nous avons tendance à croire que les ordinateurs ont des pouvoirs presque magiques, qu’ils peuvent trouver la solution à n’importe quel problème et, avec suffisamment de données, finalement le résoudre mieux que les humains. Ainsi, les investisseurs, les clients et le public peuvent être trompés par des affirmations scandaleuses et des tours de passe-passe numériques de la part d’entreprises qui aspirent à faire quelque chose de grand mais n’en sont pas encore là.
Mais dans cette note juridique confidentielle, l’avocat de premier plan de Clearview, Paul Clement, qui avait été solliciteur général des États-Unis sous le président George W. Bush, affirmait avoir essayé le produit avec des avocats de son cabinet et « avait découvert qu’il renvoie des résultats de recherche rapides et précis. »
Clement a écrit que plus de 200 organismes chargés de l’application de la loi utilisaient déjà l’outil et qu’il avait déterminé qu’ils « ne violaient pas la Constitution fédérale ou les lois nationales existantes en matière de biométrie et de confidentialité lorsqu’ils utilisaient Clearview aux fins prévues ». Non seulement des centaines de services de police utilisaient cette technologie en secret, mais l’entreprise avait également engagé un avocat chevronné pour rassurer les policiers sur le fait qu’ils ne commettaient pas de crime en agissant ainsi.
Je suis rentré à New York avec comme date limite une naissance imminente. J’ai eu trois mois pour aller au fond de cette histoire, et plus je creusais, plus cela devenait étrange…
Les inquiétudes concernant la reconnaissance faciale se sont accumulées depuis des décennies. Et maintenant, le nébuleux épouvantail avait enfin trouvé sa forme : une petite entreprise avec des fondateurs mystérieux et une base de données insondable. Et aucune des millions de personnes qui composaient cette base de données n’avait donné son consentement. Clearview AI représente nos pires craintes, mais elle offre aussi, enfin, la possibilité d’y faire face.
*Steve Jobs en a lancé une rapide, cachant les problèmes de mémoire et les pannes fréquentes du prototype d’iPhone en demandant à ses ingénieurs de passer d’innombrables heures à trouver une « voie dorée » – une séquence spécifique de tâches que le téléphone pourrait effectuer sans problème.
Your Face Belongs to Us : La start-up secrète Dismantling Your Privacy de Kashmir Hill a été présélectionnée pour l’édition 2024. Prix du livre scientifique Trivedi de la Royal Societyqui célèbre les meilleurs écrits scientifiques populaires du monde entier.
