Le chef de l'ONU appelle à une gouvernance mondiale "pensée et organisée" de l'IA

 "Le choix qui s'offre à nous n'est (...) pas entre la confiance aveugle dans l'IA et la peur de celle-ci. Il est entre une gouvernance pensée et organisée, ou une dérive laissée au hasard", a affirmé Antonio Guterres dans un discours à l'ouverture du premier Dialogue mondial sur la gouvernance de l'IA à Genève.

 Ce nouveau forum intergouvernemental coordonné par les Nations unies vise à permettre à tous les Etats membres et à la société civile de coordonner l'encadrement du développement et de l'utilisation de l'IA.

 La patron de l'ONU a averti que ces systèmes, désormais capables d'écrire du code, d'agir en ligne et de prendre des décisions avec de moins en moins de supervision humaine, évoluent "à une vitesse effrénée", plus vite que les institutions chargées de les contrôler.

 "Nos institutions ont été conçues pour encadrer des machines qui exécutent des ordres. Elles ne sont pas prêtes à gouverner des machines qui prennent des décisions. Et certaines limites, une fois franchies, ne peuvent plus être rétablies", a-t-il expliqué.

 "Le vibe-coding (création de code informatique par des non initiés, NDLR) peut faire des merveilles, mais on ne peut pas vibe-coder la vérité. On ne peut pas +vibe-coder+ l'avenir de l'humanité", a-t-il insisté.

 Trois risques majeurs se présentent aujourd'hui selon lui : la rapidité du développement de l'IA, la concentration des capacités entre les mains d'un petit nombre d'entreprises et de pays, et la menace que représentent les contenus générés par l'IA pour l'intégrité de l'information et la confiance dans les faits.

 "La question est de savoir si nous allons façonner ensemble cette transformation, ou la laisser nous façonner", a-t-il interpellé face aux représentants de gouvernements, acteurs du secteur privé ou des milieux universitaires réunis pendant deux jours à Genève.

 "Fracture de l'IA" 

 Tout en saluant le potentiel de ces technologies pour accélérer le développement, améliorer les soins de santé ou l'accès à l'éducation, M. Guterres a plaidé pour une gouvernance reposant sur quatre priorités : la sécurité, le respect des droits humains et le renforcement des capacités des pays en développement et la transparence.

 Il a notamment proposé de soumettre prochainement aux Etats un Engagement pour la sécurité des enfants face à l'intelligence artificielle, visant à imposer des tests de sécurité avant tout déploiement d'une IA accessible aux enfants, interdire la génération d'images sexuelles d'enfants par ces systèmes et garantir qu'un enfant en situation de détresse soit orienté vers une aide humaine.

 "Les enfants sont trompés par des machines qui se font passer pour des amis (...) Aucun enfant ne devrait servir de cobaye à une IA non réglementée", a insisté M. Guterres.

 Le secrétaire général de l'ONU a également annoncé qu'il soumettrait prochainement à l'Assemblée générale des recommandations en faveur d'un Fonds mondial pour l'IA destiné à renforcer les capacités des pays en développement.

 "Nous ne pouvons pas laisser la fracture numérique se transformer en fracture de l'intelligence artificielle", a-t-il insisté.

 "Ce Dialogue mondial ne porte pas simplement sur la réglementation d'une technologie. Il s'agit de définir une vision commune dans laquelle le progrès technologique va de pair avec la dignité humaine, l'équité et le développement durable", a affirmé de son côté la présidente de l'Assemblée générale de l'ONU Annalena Baerbock.

"Moralement répugnant" 

 En echo à son discours du 23 juin à la London Climate Action Week, M. Guterres a aussi appelé les grandes entreprises du secteur à publier l'empreinte environnementale complète de leurs systèmes et à alimenter tous leurs centres de données avec des énergies renouvelables d'ici 2030.

 Il a aussi insisté sur le péril de l'usage militaire de l'IA, en particulier le recours aux systèmes d'armes létales autonomes.

 "Des machines qui sélectionnent leur cible, l'attaquent et ôtent la vie sans contrôle ni jugement humains, c'est moralement répugnant. C'est politiquement inacceptable. Et cela doit être interdit par le droit international", a-t-il ajouté, exhortant les États à agir.

 Le monde abrite probablement selon lui "la dernière génération capable de définir les conditions de la coexistence entre l'humanité et les machines". Gouvernements, entreprises et scientifiques doivent agir rapidement afin que l'IA soit "plus sûre, plus équitable, plus accessible et plus éthique".

 Tenu lundi et mardi, le Dialogue mondial sur la gouvernance de l'IA sera suivi à Genève par le sommet "AI for Good" consacré aux applications de l'intelligence artificielle au service du développement.