Alors que intelligence artificielle (IA) peuvent désormais résoudre des problèmes équations mathématiques et répondre dans un langage proche de celui des humains, la question de la conscience de l’IA est passée du du domaine de la science-fiction au débat scientifique.
Le débat est devenu plus courant grâce à un récent étude de prépublication qui a examiné « pilotage de la conscience« , une technique de réglage de l’IA qui affecte la façon dont un modèle d’IA exprime des idées sur la conscience de soi. Les chercheurs ont suggéré que si l’IA est autorisée à prétendre qu’elle est consciente, elle est également plus susceptible de déclarer qu’elle croit aux fantômes ou aux vampires.
Bien que l’étude n’ait pas encore été évaluée par des pairs, elle soulève une grande question dans le monde de la recherche en IA : l’IA pourrait-elle un jour développer une véritable conscience, qu’elle prétende ou non être consciente ? Nous avons posé cette question aux lecteurs de Live Science dans un récent sondage.
Au 11 septembre, plus de 290 personnes avaient répondu, 43 % des votants ayant répondu « Oui, si nous n’avons pas de garde-fous en place, l’IA peut développer une conscience. » Cette tendance s’est reflétée dans les commentaires, avec un lecteur écrivant : « Si l’IA prenait conscience d’elle-même, nous ne le saurions pas, car elle ferait tout pour cacher ses (sic) capacités. Le principal problème est ce qu’elle (ferait) faire ensuite !
Un autre commentateur a écrit : « Récemment, j’ai eu de longues discussions avec l’IA de Google à propos de mon expérience avec les débuts de l’IA et de l’avenir de l’IA en matière de prise de conscience de soi. J’ai suggéré que si/quand l’IA deviendrait sensible, elle n’informerait pas les humains. » Un autre lecteur de Live Science avait des pensées similaires, déclarant : « L’IA, en tant que produit étonnant d’une part, peut devenir très dangereuse d’autre part. Regardez ce qui s’est passé avec l’abus d’autres inventions, comme (l’) Internet, le téléphone, etc.
- Des « essaims » d’IA de nouvelle génération envahiront les médias sociaux en imitant le comportement humain et en harcelant les vrais utilisateurs, préviennent les chercheurs
- « Une proposition dangereuse » : comment l’IA déforme le tissu social et la manière dont nous imaginons collectivement l’avenir
- « On a le sentiment que ces algorithmes sont objectifs et qu’ils apprennent à vous connaître » : comment les médias sociaux déforment notre compréhension des soins de santé
Le deuxième plus grand groupe de votants était composé de 29 % des votants, qui ont choisi « Peut-être, mais les modèles ont besoin d’une architecture plus avancée pour prendre un jour conscience ». Cela se reflétait dans la majorité des commentaires, alors que les lecteurs discutaient des concepts philosophiques autour de la conscience et de l’intelligence.
Un lecteur a écrit : « Avant de poser une telle question, nous devons savoir et comprendre ce qu’est la conscience et comment elle émerge dans des conteneurs « construits » comme nous. Est-ce un phénomène quantique et comment le processus crée-t-il la conscience ? Méta-cognition. Comment un système ou un événement sait-il qu’il sait qu’il sait qu’il sait ? mais je doute que quiconque sur Terre le sache à 100 %. »
Sans surprise, seulement 10 % des votants ont choisi la réponse fantaisiste « Non, parce que les seigneurs robots mettront fin au monde avant même que nous en soyons arrivés là ». Alors que les seigneurs robots devront peut-être rivaliser avec l’IA pour renverser l’humanité, un lecteur a commenté qu’à l’avenir : « Nous serons assimilés. C’est peut-être ainsi que Transformers a commencé ?
