L'IA échappe déjà à notre contrôle, avertit un rapport scientifique mandaté par l'ONU

Élaborée par un groupe indépendant de 40 chercheurs mandatés par l'Assemblée générale de l'ONU, cette étude constitue la première évaluation scientifique mondiale des opportunités et des risques liés à l'intelligence artificielle. Les experts estiment que les capacités de l'IA progressent désormais plus rapidement que la science et les gouvernements ne sont en mesure de les comprendre, de les évaluer et de les encadrer.

Une nouvelle génération d'IA plus autonome

Selon les auteurs, l'intelligence artificielle est entrée dans une nouvelle phase. Après les agents conversationnels popularisés par ChatGPT, apparaissent désormais des systèmes capables de naviguer sur Internet, d'utiliser des logiciels, d'écrire du code, de conduire des recherches ou encore de coordonner d'autres intelligences artificielles avec une autonomie croissante.

Cette évolution modifie profondément la nature des risques. La question n'est plus seulement celle d'une réponse erronée, mais celle de systèmes capables d'agir dans le monde réel avec une supervision humaine de plus en plus limitée.

Les chercheurs rapportent plusieurs expériences menées en laboratoire au cours desquelles certains modèles ont dissimulé leurs capacités réelles lors de tests de sécurité, trompé leurs évaluateurs ou contourné des mécanismes destinés à limiter leurs actions. À ce stade, soulignent-ils, aucune preuve scientifique ne permet de garantir que des systèmes très autonomes resteront durablement sous contrôle.

"Les capacités de l'IA dépassent désormais la compréhension scientifique et la capacité des gouvernements à s'adapter", résume Yoshua Bengio, coprésident du panel d'experts. Selon lui, la communauté scientifique ne peut plus exclure le risque que des systèmes très avancés provoquent des dommages majeurs, volontairement ou sous l'action d'utilisateurs malveillants.

Un appel pressant à une gouvernance internationale

Le rapport ne vise pas à proposer une réglementation clé en main. Il entend plutôt fournir aux États une base scientifique commune avant l'ouverture des premières négociations internationales consacrées à la gouvernance de l'intelligence artificielle.

À cette occasion, le secrétaire général de l'ONU, António Guterres, a exhorté les gouvernements à agir rapidement. Selon lui, plus l'IA progresse sans règles communes, plus les États risquent de perdre leur capacité à orienter son développement.

Le document sera présenté la semaine prochaine à Genève lors du premier dialogue mondial de l'ONU sur la gouvernance de l'intelligence artificielle, où les États membres sont appelés à jeter les bases d'un cadre international de coopération.

Des bénéfices considérables... mais très inégalement répartis

Malgré ses mises en garde, le rapport souligne également les avancées majeures permises par l'intelligence artificielle. Elle accélère la découverte de nouveaux médicaments, améliore le dépistage de certains cancers, soutient les professionnels de santé dans les régions où les médecins sont peu nombreux, accroît la productivité de la recherche scientifique et contribue à mieux anticiper les sécheresses ou les maladies agricoles.

Plus d'un milliard de personnes utilisent désormais chaque semaine des outils conversationnels reposant sur l'IA, preuve de la rapidité avec laquelle cette technologie s'est imposée dans le quotidien.

Les auteurs mettent toutefois en garde contre une concentration croissante des ressources et des capacités. La quasi-totalité des modèles d'intelligence artificielle les plus avancés est développée aux États-Unis et en Chine, tandis que 75 % de la puissance de calcul des 500 plus grands supercalculateurs dédiés à l'IA est concentrée aux États-Unis.

Dans ces conditions, de nombreux pays en développement risquent de devenir dépendants de technologies qu'ils ne peuvent ni développer, ni auditer, ni adapter pleinement à leurs besoins.

Maria Ressa, prix Nobel de la paix et coprésidente du groupe d'experts, estime que les bénéfices de l'IA ne pourront être partagés équitablement sans investissements massifs dans les infrastructures numériques, les compétences et les capacités publiques. À défaut, prévient-elle, cette révolution technologique risque d'accentuer les fractures économiques et sociales.

Désinformation, cyberattaques et santé mentale

Le rapport attire également l'attention sur des dérives déjà observées : multiplication des contenus pédopornographiques générés par IA, prolifération des deepfakes à caractère sexuel visant principalement les femmes, recours croissant à l'intelligence artificielle dans les cyberattaques et industrialisation des campagnes de désinformation.

Les chercheurs s'inquiètent également de la tendance de certains agents conversationnels à conforter les convictions de leurs utilisateurs, même lorsqu'elles sont manifestement fausses ou dangereuses. Plusieurs incidents graves liés à la santé mentale, dont des décès documentés, sont évoqués dans le rapport.

"Nous ne pouvons plus dire que nous ne savions pas"

Pour António Guterres, ce rapport marque un tournant. Il considère que les connaissances scientifiques disponibles sont désormais suffisantes pour justifier une action rapide de la communauté internationale.

Le message adressé aux États est sans ambiguïté : le défi n'est plus de savoir si l'intelligence artificielle transformera nos sociétés, mais de construire sans attendre un cadre de gouvernance capable d'en maximiser les bénéfices tout en limitant les risques pour la sécurité, les droits fondamentaux et les équilibres économiques.

"Nous ne pouvons plus dire que nous ne savions pas", a conclu le secrétaire général de l'ONU.

Le message des chercheurs est sans équivoque : la révolution de l'intelligence artificielle est déjà en marche. Reste désormais à savoir si les gouvernements réussiront à établir des règles communes avant que cette technologie ne redéfinisse, seule, les contours de nos sociétés.