Le battage médiatique autour intelligence artificielle (IA) Les risques devenant incontrôlables à mesure que les affirmations autour de la technologie émergente dégénèrent dans le domaine de l’absurde. L’IA est une entreprise à grande taille, écrivez les auteurs du nouveau livre, « L’AI Con: comment combattre le battage médiatique de Big Tech et créer l’avenir que nous voulons« (2025), et la fanfare marketing que nous voyons est destinée à promouvoir les intérêts de Big Tech et à faire une chose: vendre des produits AI.
Dans ce nouveau livre, les auteurs Emily M. Benderprofesseur de linguistique à l’Université de Washington, et Alex HannaDirecteur de la recherche à l’Institut de recherche sur l’IA distribué, défier notre compréhension de ce qu’est l’IA – et de ce qu’il n’est pas. En fin de compte, ils tentent de voir à travers une grande partie des revendications excessives et du sensationnalisme pour comprendre le véritable impact que l’IA a sur la société.
Dans cet extrait, les scénaristes sont aux prises avec l’idée de l’intelligence générale artificielle (AGI), les origines de cette idée et ce que le terme signifie réellement. Dans cet extrait, ils soutiennent que les vraies définitions de l’AGI et une «superintelligence» hypothétique sont floues, au mieux, et en pratique ne servent qu’à nourrir la machine à battage médiatique de l’IA d’entreprise.
Si vous avez écouté des cadres et des chercheurs de grandes entreprises technologiques, vous penseriez que nous étions sur le point d’un soulèvement du robot. En février 2022, le scientifique en chef d’Openai, Ilya Sutskever, a tweeté « Il se peut que les grands réseaux de neurones d’aujourd’hui soient légèrement conscients ».
En juin 2022, le Washington Post a rapporté que l’ingénieur de Google Blake Lemoine était convaincu que le modèle linguistique de Google Lamda était sensible et avait besoin d’une représentation légale. Lemoine a été licencié sur cet incident – non pas pour ses fausses réclamations (ce que Google a nié), mais pour avoir divulgué des informations privées d’entreprise. Dans un article de blog d’août 2022, le collègue de Google VP Blaise Agüera Y Arcas a répondu à l’histoire de Lemoine, mais plutôt que de contrer les affirmations de Lemoine, il a suggéré que Lamda « comprend » les concepts et que le débat sur la question de savoir si Lamda avait ou non des sentiments n’est pas résoluable ou « scientifiquement significatif ».
En avril 2023, une équipe de Microsoft Research dirigée par Sébastien Bubeck a publié un article non révisé invisible intitulé « Sparks of Artificial General Intelligence: Early Experiments with GPT-4 », dans lequel ils prétendent montrer que le modèle de langue GPT-4 « peut solliciter des tâches nouvelles et difficiles qui s’étendent sur les mathématiques, le codage, la vision, la médecine, la loi, la psychologie » et montrent ainsi les premiers sparks.
Le mot «étincelles» évoque une image de quelque chose sur le point de prendre feu et de se propager de son propre gré. L’expression «intelligence générale artificielle» ici est censée se différencier des technologies ordinaires appelées «IA» et est particulièrement fréquente dans le discours moderne autour de la pensée, des machines sensibles ou conscientes.
Ces affirmations ne sont pas nouvelles. Il y a plus de 60 ans, les chercheurs, les dirigeants d’entreprise et les représentants du gouvernement faisaient des affirmations similaires sur la nature de l’intelligence informatique et le risque de renseignement surhumain supplantant les humains au travail, à la maison et, peut-être le plus alarmant, sur le champ de bataille.
Les origines sinistres de « l’intelligence générale »
Malgré les affirmations selon lesquelles les machines peuvent un jour atteindre un niveau avancé d ‘ »intelligence générale », un tel concept n’a pas de définition acceptée. (Openai a évité la question en suggérant qu’ils permettra à leur conseil d’administration de décider quand leurs algorithmes ont atteint l’intelligence générale artificielle.) Mais le projet d’identification de l’intelligence générale est intrinsèquement raciste et capable de son cœur, rendant au mieux le projet de chasser l’intelligence générale artificielle.
Le document « Sparks » de Microsoft contient une définition préliminaire de l’intelligence générale, qui n’a pas de références à des domaines qui peuvent avoir leur mot à dire dans une telle chose, comme la psychologie ou les neurosciences cognitives. Bien qu’il s’agisse d’un article affirmant que certains modèles statistiques ont montré les coups de «intelligence générale artificielle», il n’y a pas de définition bien transformée de ce que sont les composantes de l’intelligence générale.
Dans une version antérieure de l’article, les auteurs ont cité un éditorial du Wall Street Journal de 1994 signé par un groupe de 52 psychologues qui avait proposé cette définition: « Le groupe de consensus a défini l’intelligence comme une capacité mentale très générale qui, entre autres, implique la capacité de raisonner, de planifier, de résoudre des problèmes, de considérer l’abstrait, de comprendre les idées complexes, d’apprendre rapidement de l’expérience. »
Malheureusement, l’objectif de la création de l’intelligence générale artificielle n’est pas seulement un projet qui vit comme une hypothétique dans les articles scientifiques. Il y a de l’argent réel investi dans ce travail, en grande partie des capital-risqueurs.
Une grande partie de cela pourrait être des capital-risqueurs (VC) après la mode, mais il y a aussi un certain nombre de vrais croyants AGI dans ce mélange, et certains d’entre eux ont de l’argent à brûler. Ces milliardaires idéologiques – parmi lesquels Elon Musk et Marc Andreessen – contribuent à établir l’ordre du jour de la création d’Agi et du soutien financièrement, sinon un prosélytisme, une eugénique moderne. Ceci est construit sur la combinaison de la politique conservatrice, une obsession des politiques pro-naissance et une attaque de droite contre le multiculturalisme et la diversité, toutes cachées derrière une façade de progrès technologique.
Le battage médiatique de « superintelligence »
Pourquoi tant de personnes impliquées dans la construction et la vente de modèles de grandes langues semblent-elles être tombées dans l’idée qu’elles (pourraient être) sensibles? Et pourquoi tant de ces mêmes personnes passent autant de temps à avertir le monde du « risque existentiel » de « superintelligence » tout en y dépensant autant d’argent?
En un mot, les affirmations autour de la conscience et de la sensibilité sont une tactique pour vous vendre sur l’IA. La plupart des gens de cet espace semblent simplement viser à faire des systèmes techniques qui réalisent ce qui ressemble à l’intelligence humaine pour aller de l’avant dans ce qui est déjà un marché très encombré. Le marché est également un petit monde: les chercheurs et les fondateurs se déplacent de manière transparente entre quelques grands acteurs technologiques, comme Microsoft, Google et Meta, ou ils partent pour fonder des startups d’IA qui reçoivent des millions en capital-risque et en financement de démarrage de Big Tech.
Comme un point de données, en 2022, 24 chercheurs de Google sont partis pour rejoindre les startups de l’IA (tandis que l’un de nous, Alex, est parti pour rejoindre un organisme à but non lucratif de recherche). Comme un autre point de données, en 2023 seulement, 41,5 milliards de dollars d’offres de capital-risque ont été transférés à des entreprises génératrices d’IA, selon les données de Pitchbook. Le gain a été estimé pour être énorme. Cette année-là, McKinsey a suggéré que bientôt, l’IA génératrice pourrait ajouter « jusqu’à 4,4 billions de dollars » par an « dans l’économie mondiale. Des estimations comme celle-ci font bien sûr partie de la machine à battage médiatique, mais les VC ne semblent pas penser que le fait devrait en résoudre pour investir dans ces outils.
Ce battage médiatique s’appuie sur les tropes sur l’intelligence artificielle: les machines sensibles qui ont besoin de se voir accorder des droits de robot ou une superintelligence de style matrice constituant une menace directe pour les résistants humains à chiffon. Cela a des implications au-delà de la circulation des fonds parmi les VC et autres investisseurs, notamment parce que les gens ordinaires sont informés qu’ils vont être sans emploi.
