Genève, Suisse — L'Union internationale des télécommunications (UIT), l'agence des Nations unies spécialisée dans le domaine des technologies numériques, a franchi une étape importante jeudi dernier en annonçant l'instauration d'un nouveau groupe d'experts. Cette initiative vise à définir des cadres internationaux pour assurer l'identité numérique et la fiabilité des agents d'intelligence artificielle (IA) autonomes. Présentée lors du Sommet « AI for Good » à Genève, cette démarche intervient dans un contexte d'évolution rapide des systèmes d'IA, qui deviennent de plus en plus capables d'opérer de manière indépendante au nom des utilisateurs.
Si ces avancées technologiques promettent des gains substantiels en matière de productivité, l'UIT met en garde contre de nouvelles menaces. Parmi celles-ci figurent l'usurpation d'identité, qu'il s'agisse de personnes ou d'organisations, ainsi que l'exécution d'actions non autorisées au sein de systèmes complexes et interconnectés. Pour y faire face, le nouveau groupe de travail, intitulé “Focus Group on Trust and Identity for Humans and Agentic AI”, aura pour mission d'élaborer des référentiels communs. L'objectif principal est de garantir un contrôle humain effectif sur les décisions prises par ces agents, notamment dans des secteurs critiques comme les transactions financières ou les infrastructures essentielles.
La secrétaire générale de l'UIT, Doreen Bogdan-Martin, a souligné l'importance capitale de la confiance pour l'avenir de l'IA. Elle a insisté sur la nécessité d'une collaboration étendue, impliquant les gouvernements, les entreprises, les chercheurs et la société civile, afin de renforcer cette confiance dans les systèmes émergents. Les travaux du groupe couvriront un large éventail de sujets, incluant la mise en place d'une terminologie partagée, la conception d'architectures de référence pour l'identité numérique, le développement de mécanismes d'interopérabilité, la création de modèles d'assurance tout au long du cycle de vie des agents, ainsi que l'établissement de critères de sécurité pour une évaluation continue de leur comportement.
Les coprésidents du groupe, Debora Comparin et Amir Banifatemi, ont mis en avant l'urgence d'établir des fondations internationales communes. Celles-ci permettront d'identifier précisément les agents d'IA, de déterminer les conditions sous lesquelles ils peuvent être jugés fiables, et d'assurer que l'autorité humaine demeure prépondérante sur leurs actions. Ouvert aux experts techniques, aux spécialistes des politiques publiques, du droit et de la réglementation, ce groupe rendra compte de ses avancées au Groupe d’études 17 de l’UIT, en charge des normes de sécurité. Ses premières réunions sont d'ores et déjà planifiées : la première se tiendra à Paris en novembre 2026, suivie d'une deuxième à Genève en janvier 2027.
L'UIT perçoit ces groupes de réflexion comme un mécanisme efficace pour accélérer l'élaboration de normes internationales dans des domaines technologiques en perpétuelle mutation. Cette approche a déjà été appliquée avec succès à d'autres aspects de l'IA, comme son intégration dans les villes intelligentes, les réseaux de communication ou les systèmes embarqués. Cette initiative marque ainsi une volonté forte de l'organisation d'encadrer le développement de l'IA autonome pour qu'elle serve l'humanité en toute sécurité et avec une confiance renouvelée.