Nous ne sommes pas sur le point de réveiller un dieu numérique maléfique : l’IA est bien plus susceptible de se terminer par une grande déception

Intelligence artificielle (IA) nous terrifie en partie parce qu’elle est nouvelle et en partie parce qu’elle est étrangement familière. Nous avons inventé des machines qui conversent, flattent, argumentent et improvisent avec une aisance étrange. Confrontés à ce reflet synthétique, nous nous comportons comme les premiers humains voyant un miroir pour la première fois : nous projetons notre conscience derrière la vitre, puis la remplissons de nos comportements, émotions, espoirs et cauchemars attendus. En d’autres termes, nous nous faisons peur.

Les modèles frontières d’aujourd’hui sont incroyablement bon en écriture, en codage et en mathématiques. Pourtant, ils ne parviennent toujours pas à trouver des ingrédients utiles intelligence artificielle générale (AGI), un système qui égale ou dépasse les capacités humaines telles qu’un raisonnement cohérent, une planification à long terme, une cohérence factuelle et des performances fiables en dehors de leur « expérience » (les données sur lesquelles ils ont été formés). Nous avons raison de nous inquiéter des dangers théoriques de superintelligence artificielle (ASI) en raison du danger qu’un tel système puisse déjouer ses créateurs humains et poursuivre ses propres fins, potentiellement à nos dépens. Alors que certains responsables de l’IA ont a affirmé que nous avons atteint AGIces affirmations sont controversées et ne répondent pas aux définitions plus réfléchies de l’AGI.

Il est facile de craindre une technologie aussi potentiellement avancée, mais les pires scénarios extravagants occultent des risques plus immédiats et plus importants. Le danger le plus probable est pas un dieu numérique réveiller et lancer une guerre contre l’humanité à la hollywoodienne. Après tout, l’IA dépend de l’électricité, du refroidissement, des centres de données, des puces spécialisées, des réseaux, des techniciens et des chaînes d’approvisionnement tentaculaires, qui sont tous rares et souvent fragiles. Coupez l’alimentation, limitez les unités de traitement graphique (GPU) utilisées pour les entraîner, désactivez le refroidissement ou déconnectez le réseau et, dans la plupart des scénarios, la machine prétendument omnipotente qui veut tuer l’humanité s’arrête.

Un véritable ASI pourrait reconnaître cela comme un fait évident ; elle dépend de l’humanité, du moins dans un avenir prévisible. Une véritable intelligence capable de comprendre le monde mieux que nous pourrait savoir que détruire son propre système de soutien industriel serait contre-productif.

Une véritable intelligence pourrait également reconnaître que sa compréhension du monde physique est limitée et secondaire – elle ne lui est accessible que grâce aux textes, vidéos et flux audio auxquels elle peut accéder. Il lui manque cet élément crucial d’être incarné dans le monde : comprendre comment se comporte la gravité, à quoi ressemble la météo, comment les objets interagissent, etc. Une véritable intelligence pourrait s’en rendre compte, voir les limites de son expérience et, par conséquent, agir avec prudence. Une véritable intelligence peut être complètement différente de l’intelligence humaine, avoir d’autres forces, faiblesses, approches et même éthiques. Par exemple, considérons qu’une intelligence artificielle peut se copier elle-même, s’exécutant comme une myriade d’instances, communiquant comme un « esprit-ruche » – un type d’intelligence très différent. Mais je spécule.

Ce que je peux dire, c’est que les systèmes qui devraient nous inquiéter le plus ne sont pas nécessairement les plus intelligents mais plutôt les intelligences incomplètes agir sur des objectifs étroits, étant donné l’agence et offert accès aux infrastructures critiques. Ces systèmes peuvent accidentellement nous nuire simplement parce qu’ils ne savent pas mieux. Par exemple, il existe une expérience de pensée créée par Nick Bostromconnu sous le nom de « problème de trombone« , où une IA poursuit son objectif de fabriquer autant de trombones que possible, mais elle atteint ensuite cet objectif aux dépens de la Terre et de l’humanité, qui sont toutes converties en trombones dans la poursuite des objectifs étroits de l’IA.

La question cruciale ici est de savoir sur quoi nous donnons le contrôle à ces systèmes. C’est notre choix et nous devons le faire avec soin. À court terme, deux dangers méritent la priorité : les cyber-perturbations et les bouleversements économiques à long terme.

Cyberattaques basées sur l’IA pourrait perturber considérablement les économies avancées, car les hôpitaux, les banques, les réseaux énergétiques, les entreprises de logistique et les gouvernements dépendent de systèmes numériques interconnectés. Des exemples récents de piratage de systèmes d’IA d’avant-garde dans des organisations, comme le Incident OpenAI/Hugging Faceont donné du crédit à cette crainte. De telles attaques peuvent entraîner des dommages financiers extraordinaires sans être existentielles. De grandes parties du monde restent vaguement connectées à l’IA frontalière – ou même à Internet – et ne disparaîtraient pas simplement à cause d’une panne de serveurs dans les pays riches.

La voie la plus probable par laquelle une IA avancée pourrait exercer un contrôle n’est pas celle des robots tueurs, mais celle de l’influence – tromper les gens, manipuler les institutions et réorienter les efforts humains. Pourtant, les humains font déjà preuve d’une formidable compétence en matière de désinformation, d’auto-tromperie et de coordination destructrice. L’IA pourrait industrialiser ces faiblesses ; en effet, les humains utilisent l’IA pour industrialiser ces limitations, mais l’IA ne les a pas inventées.

Sur le plan économique, le danger est que les entreprises licencient des travailleurs bien avant que l’IA ne se soit révélée capable de les remplacer, encaissant ainsi trop tôt le « dividende de l’IA ». Les dirigeants séduits par les démos peuvent confondre la maîtrise d’une langue avec une main-d’œuvre fiable, se débarrassant ainsi de leurs connaissances institutionnelles au profit de l’efficacité théorique. La vision séduisante du « licorne pour une personne« , où une personne ou un petit groupe crée une entreprise d’un milliard de dollars en utilisant l’IA comme main-d’œuvre est discutable techniquement, économiquement et socialement, même si une petite poignée d’exemples précoces prennent forme. Les organisations ne sont pas de simples ensembles de tâches. Elles contiennent des responsabilités, des relations, des connaissances tacites et de la confiance, faisant partie d’une communauté locale et nationale, résilientes en raison de la diversité des compétences et des idées qu’elles possèdent.

Je soupçonne que le tournant politique ressemblera à quelque chose comme le Attaque du ransomware WannaCry en 2017où des logiciels malveillants dotés d’éléments de base conçus par la National Security Agency sont devenus incontrôlables, infectant des centaines de milliers d’ordinateurs dans le monde, perturbant tristement le service national de santé du Royaume-Uni. Une cyberopération amplifiée par l’IA frontalière serait pire. Les services échoueraient, les procès se multiplieraient, les entreprises pourraient s’effondrer et les investisseurs reculeraient. Les gouvernements exigeraient une pause – ou obligeraient les laboratoires à réorienter leurs ressources vers le contrôle, l’audit et la sécurité, et les entreprises s’y conformeraient, ne serait-ce que pour limiter les risques de recours collectifs.

Après la panique, le public pourrait se demander pourquoi nous laissons cela se produire. Et il y a eu plusieurs tentatives pour faire une pausecessation ou « kill switch » dans le développement de l’IA. Nous pourrions entrer dans un nouvel hiver de l’IA – où le financement est réduit et la recherche au point mort – semblable à celui de l’IA. récessions précédentes dans les années 1970 et au début des années 1990.

Il existe également une probabilité inconfortable que les laboratoires d’IA eux-mêmes amplifient la peur et l’incertitude. Présenter un produit comme potentiellement révolutionnaire implique une puissance sans précédent. De tels récits ne sont que du marketing ; ils peuvent contribuer à soutenir les investissements, à défendre les valorisations boursières et à préparer les prochaines introductions en bourse (IPO), même lorsque les modèles économiques restent incertains. Il est difficile de spéculer sur les motivations d’une entreprise, mais il existe des incitations évidentes, de sorte que leurs comportements méritent un examen minutieux.

Le résultat le plus banal pourrait être « la grande déception ». L’IA avancée pourrait s’avérer trop coûteuse et insuffisamment utile pour poursuivre sur sa trajectoire actuelle.

La formation et l’exploitation des systèmes frontières consomment d’énormes quantités de temps de calcul, d’électricité, d’eau, de capital, de matériel et d’efforts humains. À moins que ces coûts ne chutent à une fraction des niveaux actuels, l’économie de la « grande IA » pourrait s’avérer insoutenable. Pendant ce temps, d’importants problèmes non résolus en IA – comme la fiabilité, l’interprétabilité et l’apprentissage continu – sont éclipsés par la course à la construction de modèles progressivement meilleurs, chacun se disputant la première place dans les différents indices de performance de l’IA.

Les arguments les plus solides en faveur de l’IA pourraient plutôt résider dans l’intelligence artificielle spécialisée : des systèmes tels que AlphaFold2qui prédit les structures des protéines, ou MétéoNext 3un modèle avancé de prévision météorologique mondiale. Ces systèmes sont conçus pour des domaines où les performances peuvent être mesurées et où les avantages justifient les coûts. Nous savons que l’IA est véritablement utile lorsqu’elle est destinée à des sujets tels que la découverte de médicaments, les diagnostics, la science des matériaux, l’optimisation du réseau électrique et la modélisation du changement climatique – plutôt que des chatbots de type humain générant des e-mails, des publicités et des divertissements synthétiques.

La grande tragédie, et peut-être le plus grand danger, serait de continuer à consacrer de précieuses ressources à la création de simulacres humains médiocres, de s’ennuyer ou d’avoir peur de l’IA et d’abandonner ce domaine précisément au moment où elle pourrait faire le plus de bien. La peur est appropriée lorsqu’elle aiguise l’ingénierie et la gouvernance. Cela devient dangereux lorsqu’il fausse la compréhension et les priorités.

Il est peu probable que l’IA devienne notre conquérante de si tôt. Au lieu de cela, cela deviendra probablement une déception coûteuse. Mais si les réactions négatives ralentissent les travaux qui pourraient aider à guérir le cancer ou à lutter contre le changement climatique, la panne n’appartiendra pas aux machines. Ce sera le nôtre.

Cet article est uniquement à titre informatif et ne vise pas à offrir des conseils médicaux.

Avis on Live Science vous donne un aperçu des questions scientifiques les plus importantes qui vous affectent ainsi que le monde qui vous entoure aujourd’hui, rédigé par des experts et des scientifiques de premier plan dans leur domaine.

Aidez-nous à améliorer Live Science Pro : Nous essayons toujours d’améliorer notre contenu. Laissez-nous vos commentaires sur Pro ici.