Les plus grandes entreprises d’intelligence artificielle (IA) comprennent de plus en plus qu’elles sont les otages les unes des autres. Si une entreprise avance de manière imprudente, d’autres peuvent se sentir obligées de suivre. Si l’on déploie un modèle dangereux sans garanties adéquates, d’autres peuvent y voir un feu vert pour faire de même.
Le débat sur l’IA s’est concentré sur ce que les gouvernements devraient faire pour réglementer cette technologie d’avant-garde. Cela reste essentiel. Mais une question plus immédiate se pose : les entreprises qui construisent ces systèmes puissants peuvent-elles agir de manière indépendante avant de perdre leur crédibilité et de subir des conséquences juridiques ?
Cette question n’a plus l’air théorique et est désormais reconnue comme un défi urgent. Nous avons déjà vu des sociétés d’IA perdre le contrôle de leurs modèles : par exemple, en Australie, une IA malveillante a piraté un site Web du gouvernement sur la santé. Si nous n’y prêtons pas attention, ce n’est qu’une question de temps avant qu’un de ces incidents ne provoque des dommages réels et à grande échelle, comme la fermeture d’un réseau électrique ou d’un système d’eau municipal, ou un diagnostic erroné de masse dans un système de santé. Si cette tendance se poursuit, l’ensemble du secteur pourrait être terni.
Mais il existe un modèle d’autorégulation dans un secteur risqué : l’industrie nucléaire, qui a construit des niveaux de surveillance, de contrôle et d’auto-examen au fil des décennies.
Frontier AI peut nécessiter quelque chose de similaire : une réglementation privée entre concurrents qui ne se font pas confiance mais qui ont un intérêt mutuel à empêcher des résultats qui pourraient leur nuire tous. Cela ne plaît pas aux meilleurs anges de la nature humaine – c’est l’auto-préservation de l’industrie elle-même.
Il existe un précédent historique pour ce type d’arrangement. Le secteur nucléaire n’est pas devenu sûr parce que tous les acteurs sont soudainement devenus bienveillants. Il est devenu plus sûr grâce à un système à plusieurs niveaux de contrôle par les pairs, de normes techniques, de partage d’informations et de surveillance externe. Des organisations internationales telles que l’Agence internationale de l’énergie atomique (AIEA), créée en 1957, ont vu le jour pour coordonner la surveillance et la vérification, tandis que les régulateurs nationaux et les organismes industriels ont progressivement élaboré des normes professionnelles autour du risque catastrophique.
Le résultat n’était pas une sécurité parfaite, car le Catastrophe de Tchernobyl en 1986 l’atteste clairement. Mais l’architecture de la gouvernance nucléaire est conçue autour de la reconnaissance du fait que dans les systèmes technologiques à haut risque, l’échec d’un acteur peut devenir le problème de tous. Cela s’est vu après Tchernobyl : la sécurité nucléaire mondiale a considérablement augmenté après la catastrophe, grâce à des améliorations de la conception des réacteurs, une amélioration de la formation et des réseaux de surveillance internationaux.
Et ce mouvement d’autorégulation s’est également produit dans le secteur nucléaire américain, suite à la Île des Trois Miles accident nucléaire près de Harrisburg, en Pennsylvanie, en 1979. Le réacteur a subi une fusion partielle après un dysfonctionnement de refroidissement relativement mineur. Les enquêtes ont ensuite révélé que des défauts de conception dans les instruments et les alarmes, ainsi qu’une formation inadéquate en matière d’intervention d’urgence, étaient à l’origine de l’incident.
L’événement a failli tuer l’industrie de l’énergie nucléaire aux États-Unis, provoquant le soutien public passera d’un niveau record de 69 % en 1977 à 46 % en 1979. L’ensemble de l’industrie a souffert des défaillances d’une installation. En réponse, l’industrie nucléaire américaine a créé le Institut des opérations nucléaires (INPO) en décembre 1979 pour améliorer la sécurité opérationnelle.
L’analogie avec l’IA ne doit pas être exagérée. Les matières nucléaires sont plus faciles à compter que les algorithmes, et les installations nucléaires sont plus difficiles à cacher que les poids modélisés. Les conséquences d’une erreur catastrophique en matière d’IA sont également moins existentielles, même si son utilisation dans des systèmes d’armes n’est pas sans risque. En septembre, une hallucination de l’IA a failli conduire à les États-Unis interceptent un navire chinois soupçonné d’avoir transporté des matières nucléaires vers l’Iran.
Pourtant, la comparaison reste utile car le problème central de gouvernance est similaire. Dans les deux cas, les concurrents opèrent dans un environnement où le risque négatif d’une rivalité incontrôlée est supporté par la société tandis que le risque positif est un gain privé pour ces entreprises. Le défi consiste à créer des institutions qui font de la retenue la valeur par défaut rationnelle, même lorsqu’aucun acteur ne fait pleinement confiance aux autres et que le fonctionnement interne de l’industrie n’est pas facilement visible pour les étrangers.
Pour l’IA, cela pourrait signifier une évaluation réciproque des modèles frontières avant leur déploiement, des mécanismes sécurisés pour partager des informations sur la sécurité, des lignes rouges convenues autour de certaines capacités et des tiers indépendants habilités à vérifier la conformité. De tels mécanismes ne remplaceraient pas la réglementation gouvernementale. Elles serviraient plutôt de couche intermédiaire : plus solides que les déclarations éthiques volontaires, mais plus adaptatives et plus techniquement informées que la législation seule ne peut souvent l’être dans des domaines en évolution rapide. L’État jouerait le rôle de contrôleur des antécédents.
La gouvernance de l’IA est souvent discutée comme si les seuls choix possibles étaient le laissez-faire, l’innovation ou un contrôle étatique autoritaire. L’histoire suggère une troisième voie.
Les dirigeants de l’IA semblent également disposés à rechercher des solutions, avec Elon Musk a récemment suggéré un système d’évaluation par les pairs avant la sortie du modèle avancé, et Demis Hassabis, co-fondateur et président de Google DeepMind, proposant un cadre pour un Organisme de normalisation de l’IAsimilaire à l’Autorité de régulation du secteur financier.
Les sceptiques objecteront, avec raison, que la gouvernance dirigée par l’industrie peut devenir un comportement de cartel ou un théâtre de relations publiques. Les entreprises peuvent utiliser un langage de « sécurité » pour consolider leur position en place, ralentir leurs concurrents ou contourner une réglementation contraignante. Ce sont de réels dangers. La leçon de l’histoire nucléaire n’est pas que la coordination privée fonctionne automatiquement. Le fait est que la coordination privée ne fonctionne que lorsqu’elle s’inscrit dans un système plus large de transparence, de vérification et d’autorité publique. Sans ces éléments, la réglementation privée n’est guère plus qu’une rhétorique de confiance.
Pourtant, écarter complètement la régulation privée serait une erreur. Les gouvernements ne possèdent pas encore la capacité technique, la rapidité ou l’alignement international nécessaires pour superviser seuls l’IA des frontières. Et si les principaux laboratoires se considèrent déjà comme liés par une exposition partagée au risque catastrophique, cette reconnaissance peut devenir la base de la conception institutionnelle. La question est de savoir comment transformer la peur mutuelle en règles durables.
- « Nous ne sommes pas un concurrent de la fusion. Nous sommes la fusion : dans la course pour exploiter l’énergie solaire illimitée dans l’espace
- « L’autonomie commence toujours par quelque chose que l’homme met entre ses mains » : qui est responsable lorsqu’un agent d’IA devient voyou ?
- Nous ne sommes pas sur le point de réveiller un dieu numérique maléfique : l’IA est bien plus susceptible de se terminer par une grande déception
C’est là que l’analogie nucléaire est la plus puissante. Cela nous rappelle que les industries confrontées à des aléas existentiels n’ont pas besoin d’une confiance parfaite pour coopérer. Ils ont besoin de mécanismes qui rendent la coopération préférable à la défection. En pratique, cela signifie des inspections, des examens par les pairs, des rapports d’incidents, des normes professionnelles et un périmètre d’application soutenu par l’État. La gouvernance de l’IA est souvent discutée comme si les seuls choix possibles étaient le laissez-faire, l’innovation ou un contrôle étatique autoritaire. L’histoire suggère une troisième voie : une coordination privée structurée sous l’ombre du public.
La véritable opportunité n’est donc pas de célébrer la nouvelle (apparente) prudence des dirigeants technologiques, mais de reconnaître ce que révèlent leurs commentaires. Lorsque même des rivaux féroces commencent à plaider en faveur d’un examen mutuel, ils admettent que la concurrence à elle seule ne peut pas gouverner les frontières. Cet aveu ne doit pas être considéré comme un réconfort mais comme la preuve que le risque est devenu collectif.
La tâche politique consiste désormais à construire des institutions adaptées à cette réalité. Les gouvernements devraient faire pression en faveur de rapports obligatoires, d’évaluations indépendantes et de garanties juridiques. Mais ils devraient également encourager des formes exécutoires de surveillance par les pairs parmi la poignée d’entreprises dont les systèmes peuvent façonner la trajectoire de la technologie. Frontier AI est en train de devenir une industrie dans laquelle les principaux acteurs sont les otages les uns des autres. L’ère nucléaire a montré que de telles conditions peuvent produire une gouvernance sérieuse. L’espoir est que les entreprises d’IA apprennent cette leçon avant d’apprendre le prix à payer en l’ignorant, au péril du grand public.
Avis on Live Science vous donne un aperçu des questions scientifiques les plus importantes qui vous affectent ainsi que le monde qui vous entoure aujourd’hui, rédigé par des experts et des scientifiques de premier plan dans leur domaine.
Aidez-nous à améliorer Live Science Pro : Nous essayons toujours d’améliorer notre contenu. Laissez-nous vos commentaires sur Pro ici.
