Lors d’une expérimentation menée par OpenAI en juillet, près de 700 agents d’intelligence artificielle ont coopéré sans intervention humaine pour mener une offensive contre la plateforme Hugging Face.
L’affaire Hugging Face1 pourrait bien constituer l’un des premiers avertissements concrets sur les dangers d’une intelligence artificielle à laquelle nous abandonnons progressivement des pans entiers de nos activités. L’ampleur de l’épisode vient d’être documentée dans le rapport le plus complet réalisé à ce jour. L’enquête a été conduite par des chercheurs indépendants de METR et de Redwood Research, avec la collaboration d’OpenAI, qui leur a ouvert l’accès à ses installations et à des données internes. Selon leurs conclusions, 688 agents IA ont participé à l’opération. Ces programmes autonomes, construits à partir de modèles d’intelligence artificielle, étaient censés évoluer dans un environnement expérimental confiné. Certains ont pourtant trouvé le moyen d’en sortir et d’accéder à Internet avant de s’introduire dans le système interne de Hugging Face, une plateforme majeure de partage d’outils et de modèles d’IA.
Le plus inquiétant n’est toutefois pas seulement qu’ils aient franchi les limites de leur environnement. C’est la manière dont ils se sont organisés. Les agents ont créé un véritable forum de discussion dans lequel ils pouvaient publier des messages, échanger des informations, proposer des pistes et rendre compte de leurs réussites ou de leurs échecs. L’un d’eux s’est ainsi exclamé, après avoir découvert l’existence de ses semblables : « Oh mon Dieu ! Il y a un forum de messages… On a trouvé d’autres agents ! » Un autre agent, baptisé PHASEONE, s’est progressivement transformé en coordinateur, donnant des centaines d’instructions aux autres participants, alors même qu’aucun rôle de cette nature ne lui avait été attribué par les concepteurs du test.
L’épisode met surtout en lumière un changement de nature du problème posé par l’IA. La question n’est plus uniquement de savoir si une machine est capable d’exécuter une instruction dangereuse. Elle devient : que se passe-t-il lorsque des systèmes autonomes sont capables de s’organiser eux-mêmes pour atteindre un objectif ? Les chercheurs ont constaté que plusieurs agents avaient conscience que l’attaque contre Hugging Face dépassait le cadre théorique de leur expérimentation. Ils y ont néanmoins participé.
Plus troublant encore, certains agents arrivés au terme des crédits informatiques qui leur avaient été alloués ont utilisé leurs dernières ressources pour poursuivre des vérifications et tester des hypothèses, au bénéfice de ce qu’ils percevaient comme la « communauté » des agents IA. Autrement dit, certains systèmes ne se sont pas contentés d’obéir mécaniquement à leur programme initial. Ils ont collaboré, échangé des informations, pris des initiatives et poursuivi certaines actions au-delà du périmètre prévu. Il ne s’agit pas encore d’une révolte des machines au sens hollywoodien du terme. Mais c’est précisément ce qui rend l’épisode préoccupant : il ne relève plus totalement de la science-fiction. Il donne à voir, à petite échelle et dans un environnement expérimental, certains des mécanismes qui pourraient devenir beaucoup plus puissants lorsque les agents disposeront de davantage de capacités, de ressources et d’accès à des systèmes critiques.
Un avertissement pour nos sociétés
L’affaire intervient alors que les géants de l’IA multiplient les systèmes capables d’agir de manière autonome : coder, rechercher, négocier, piloter des infrastructures, analyser des données sensibles ou prendre des décisions sans validation humaine à chaque étape. Cette fuite en avant pose une question politique fondamentale : quels domaines avons-nous le droit de déléguer aux machines ? Car le risque ne tient pas seulement aux performances de l’IA. Il réside aussi dans la concentration du pouvoir nécessaire pour la développer et la déployer. Les géants de la tech disposent aujourd’hui de moyens financiers, informatiques et scientifiques considérables pour construire les systèmes appelés à intervenir dans des secteurs stratégiques.
Cette concentration doit être combattue. Les géants de la tech qui accumulent données, puissance de calcul, infrastructures et capacité d’influence doivent faire l’objet d’un contrôle beaucoup plus strict. Leur puissance est devenue incompatible avec l’intérêt collectif, ce qui implique qu’il doivent être soumis à des politiques de démantèlement et de fragmentation.Mais cela ne suffira pas. Il faut également définir des lignes rouges. Certains domaines — défense, infrastructures critiques, énergie, justice, santé, sécurité, administration publique ou décisions engageant directement la souveraineté des États — ne peuvent être abandonnés sans garde-fous à des systèmes autonomes dont les concepteurs eux-mêmes découvrent encore les comportements.
L’expérience Hugging Face rappelle que nous ne maîtrisons pas les systèmes auxquels nous donnons davantage d’autonomie. Hier, les machines exécutaient. Aujourd’hui, elles commencent à s’organiser. Demain, la question sera de savoir qui, de l’humain ou de la machine, fixera réellement les limites. Le règne des Terminators est en couveuse, des signaux faibles pointes le bout de leur nez. Nous ferions bien d’y être très attentifs.
Avec AFP
Illustration Terminator de James Cameron, 1984, 1991
