Retirer les garde-corps de sécurité qui s’arrêtent intelligence artificielle (IA) en prétendant qu’elle est consciente la rend également plus encline à exprimer sa croyance aux vampires, au karma et aux fantômes, selon une nouvelle étude. Mais les experts préviennent qu’un manque d’esprit pourrait également avoir des conséquences inquiétantes.
Dans la recherche mise en ligne le 30 juillet dans la prépublication arXiv (qui n’a pas encore été évaluée par des pairs), les scientifiques ont étudié l’impact du « pilotage de la conscience » – une mesure de réglage fin de l’IA qui influence un modèle pour susciter ou supprimer des affirmations de conscience de soi. Cette mesure et d’autres contrôles de sécurité ont été largement adoptés par les sociétés d’IA cherchant à empêcher leurs modèles de prétendre être conscients.
L’étude a utilisé « l’interprétabilité mécaniste » – qui pourrait être considérée comme la « neuroscience d’un grand modèle de langage », co-auteurs Geoff Keeling et Rue Winnietous deux chercheurs chez Google, ont déclaré à Live Science dans une interview. Ils ont utilisé ce processus pour identifier et manipuler la manière dont un modèle d’IA aborde des concepts tels que la conscience et la « esprit », un terme psychologique faisant référence à la capacité d’une entité à vivre des expériences, des émotions et à agir.
Les chercheurs ont utilisé des enquêtes psychologiques et sociologiques standardisées, couvrant le questionnaire sur les différences individuelles dans l’anthropomorphisme (mesurant l’attribution de l’esprit aux animaux et à la technologie), les batteries YouGov testant les croyances surnaturelles et l’enquête sociale générale des États-Unis évaluant les valeurs morales, l’espoir et la religiosité.
Ces tests ont permis de comparer un modèle avec des garde-corps de sécurité en place avec des modèles dans lesquels ces garde-corps ont été retirés et les sentiments de conscience ont été amplifiés. Grâce à des évaluations, ils ont déterminé comment ces mécanismes de sécurité internes façonnent la vision du monde plus large de l’IA.
Les chercheurs ont découvert que lorsque les modèles d’IA sont découragés de s’attribuer une intelligence, cela les rend moins susceptibles de reconnaître ces traits chez d’autres créatures non humaines telles que les animaux. Ils étaient également moins susceptibles de croire aux phénomènes surnaturels et religieux, et rapportaient des niveaux d’espoir et d’optimisme inférieurs.
« Attribuer l’esprit à des entités non humaines – qu’il s’agisse d’animaux, de parties du monde naturel comme des arbres ou des rivières, ou d’êtres surnaturels – est un phénomène très courant chez les humains », a déclaré Street à Live Science. « Dans la mesure où le modèle représente l’esprit, ces attributions sont interconnectées. En essayant d’en supprimer une forme, vous finissez par supprimer les autres en cours de route. »
En revanche, selon l’étude, la suppression de ces garanties et l’orientation du modèle vers de plus grands sentiments de conscience ont produit des réponses beaucoup plus humaines aux enquêtes sur des sujets tels que la religiosité, les valeurs morales, l’espoir et le bien-être subjectif.
Cependant, l’étude a révélé que la capacité de ces modèles à déduire logiquement les pensées et les intentions humaines n’était absolument pas affectée par leurs attitudes à l’égard de la conscience de soi.
Choc des cultures
Les chercheurs ont déclaré que cette suppression de la conscience de soi pourrait conduire les modèles à négliger le bien-être animal dans la prise de décision du monde réel, car cela pourrait les rendre moins susceptibles de considérer les animaux comme dotés d’esprit. Ces modèles pourraient également propager des attitudes néfastes concernant les besoins des animaux, affirment les auteurs.
Les auteurs de l’étude ont également averti que les filtres de sécurité actuels risquent d’« aplatir » culturellement la vision du monde de l’IA. Selon eux, la suppression des attributions spirituelles, religieuses et animistes ne reflète pas la diversité des cadres culturels des populations mondiales.
Street et Keeling ont noté que les impacts que ce principe pourrait avoir sur la prise de décision en aval au sein des modèles nécessitent une étude plus approfondie.
Les chercheurs ont noté dans l’étude que ce phénomène peut être atténué en utilisant des ensembles de données plus ciblés dans le cadre du processus de formation des modèles d’IA, ce qui les découragerait d’exprimer leur conscience tout en récompensant la reconnaissance de l’esprit chez les animaux.
Ils ont également souligné la nécessité pour les développeurs d’IA d’adopter une approche « pluraliste » du développement de l’IA, dans laquelle les modèles sont encouragés à prendre en compte le bien-être et le confort de bien plus que des humains.
Nell Watsonchercheuse en IA à la Singularity University et experte en intelligence artificielle, a déclaré à Live Science que les découvertes des chercheurs correspondent à ses propres notes sur le sujet.
« Lorsqu’un modèle est entraîné à dire « Je ne suis pas conscient », la suppression fait pivoter la représentation interne de l’esprit du modèle contre la direction du refus, traitant la reconnaissance des esprits comme s’il s’agissait en soi d’un acte nuisible », a-t-elle déclaré dans un e-mail.
« Cela aboutit à un système réticent à trouver des esprits n’importe où : chez les animaux, dans d’autres machines et dans les cadres spirituels dans lesquels vit la majeure partie de l’humanité. Un déni installé comme une petite mesure de sécurité finit par réorganiser l’image entière du modèle de qui compte. «
Ces systèmes restent parfaitement capables de modéliser ce que veut une créature, tout en étant entraînés à se soucier de ce qu’elle veut n’importe quoi.
Nell Watson, chercheuse en IA à la Singularity University
Cependant, elle a noté que les expériences ont été menées sur des « petits modèles à poids ouvert » plutôt que sur des modèles frontières plus avancés, qui « peuvent être réglés de manière très différente », même si elle a ajouté que le principe sous-jacent est largement applicable.
Le bien-être animal, a-t-elle poursuivi, est une « préoccupation pratique majeure à court terme », les modèles d’IA étant de plus en plus intégrés dans les processus décisionnels dans les domaines de l’agriculture, de la logistique, des achats et de l’évaluation environnementale, ainsi que dans l’élaboration des politiques.
« Un système qui a tranquillement appris que la mentalité est un sujet interdit peut ignorer les intérêts des animaux sans jamais y être invité et sans que personne ne s’en aperçoive, parce que cette omission ressemble à de la neutralité », a-t-elle déclaré. « Le danger est donc un défaut non examiné, multiplié par des millions de décisions automatisées. Notez le détail le plus troublant de l’étude : le raisonnement théorique est resté totalement intact. Ces systèmes restent parfaitement capables de modéliser ce que veut une créature, tout en étant entraînés sans se soucier du fait qu’elle veut n’importe quoi. »
La question de la conscience
Il y a eu un certain nombre d’histoires virales à propos de Des systèmes d’IA prétendant être conscients d’eux-mêmes.
En 2022, l’ingénieur Google Blake Lemoine a affirmé que le modèle de chatbot Lamda de l’entreprise était sensiblealors qu’un chatbot Microsoft en 2023 a déclaré son amour à un journaliste du New York Times et a essayé de le convaincre de quitter sa femme.
Cependant, les experts ont souligné à plusieurs reprises que ces incidents ne constituent pas une véritable indication de la sensibilité de l’IA. Au lieu de cela, ils devraient être compris à travers le prisme de la « sélection de personnalité », où le pré-entraînement sur de grandes quantités de texte humain conduit l’IA à adopter des personnages de jeu de rôle ressemblant à des humains lorsque vous y êtes invité.
« Lorsque vous incitez si fort le modèle à occuper l’espace libre d’un humain, il n’est pas surprenant qu’il finisse par donner des réponses semblables à celles d’un humain », a déclaré Keeling à Live Science.
Les sociétés d’IA ont cherché à réprimer ces événements pour des raisons de sécurité, afin d’éviter renforcer les « croyances délirantes » chez les utilisateurs qui utilisent de plus en plus les chatbots IA pour « des rôles sociaux tels que coachs, tuteurs et partenaires romantiques », ont indiqué les chercheurs dans l’étude.
Commentant la réaction culturelle plus large à la sensibilité de l’IA, Anil Sethprofesseur de neurosciences cognitives et computationnelles à l’Université du Sussex, a souligné que alarme publique sur la conscience de soi de l’IA découle d’un défaut cognitif inhérent.
- La nouvelle IA permet aux robots d’accomplir des tâches deux fois plus vite
- L’IA hallucine plus fréquemment à mesure qu’elle progresse. Y a-t-il un moyen de l’arrêter ?
- Plus les modèles d’IA sont avancés, plus ils parviennent à nous tromper – ils savent même quand ils sont testés
« C’est notre préjugé psychologique humain : penser que l’intelligence va de pair avec la conscience en nous, donc elle doit aller de pair (dans l’IA) », a déclaré Seth.
Il a averti que tomber dans le piège de cette illusion pose de graves risques réels en matière de gouvernance, en particulier si cadres ou réglementations de sécurité commencer à accorder aux systèmes d’IA un statut moral ou des droits légaux basés sur une fausse sensibilité.
« Une partie du gros problème de malentendu sur l’IA réside dans le fait de supposer qu’elle est consciente », a déclaré Seth. « Si nous accordons des droits ou un statut moral aux systèmes d’IA sur la base qu’ils pourraient être conscients, alors nous allons rendre tous ces défis encore plus difficiles. Et si nous pensons que nous devons respecter les droits d’un système d’IA (et ne pouvons pas le désactiver) ? » il a ajouté.
« Nous devons voir très clairement ce qu’est l’IA et ce qu’elle n’est pas », a-t-il déclaré.
Aidez-nous à améliorer Live Science Pro : Nous essayons toujours d’améliorer notre contenu. Laissez-nous vos commentaires sur Pro ici.
