Un collectif d’organisations non gouvernementales et de figures influentes profite de l’assemblée générale des Nations unies, en cours jusqu’au 29 septembre, pour promouvoir l’adoption urgente d’un cadre international visant à encadrer les dérives potentielles de l’intelligence artificielle. Leur initiative s’inscrit dans une volonté de prévenir les « risques les plus catastrophiques » associés à cette technologie, dont les progrès rapides soulèvent des inquiétudes croissantes quant à leur impact sur la société, la sécurité ou même la survie de l’humanité.
Les porteurs de ce projet insistent sur la nécessité de définir des « lignes rouges » claires, notamment pour interdire les applications de l’IA jugées trop dangereuses, comme les systèmes autonomes capables de manipuler l’opinion publique à grande échelle ou de développer des armes létales sans contrôle humain. Ils mettent en garde contre l’absence actuelle de régulation globale, qui laisse le champ libre à des acteurs étatiques ou privés pour exploiter ces outils sans garde-fous éthiques ni juridiques. L’objectif serait d’éviter une course effrénée aux innovations, où la compétition économique ou géopolitique primerait sur la sécurité collective.
Pour concrétiser cette démarche, les ONG proposent la création d’un organe international dédié, inspiré des modèles existants comme l’Agence internationale de l’énergie atomique (AIEA), qui superviserait le développement et le déploiement des technologies d’IA. Ce mécanisme inclurait des protocoles de transparence, des audits indépendants et des sanctions en cas de non-respect des règles établies. Les initiateurs du projet soulignent cependant les défis politiques, certains États, comme les États-Unis ou la Chine, étant réticents à limiter leur souveraineté technologique ou à partager des informations sensibles sur leurs avancées en la matière.
L’appel s’appuie sur des précédents historiques, comme les traités sur les armes chimiques ou la non-prolifération nucléaire, pour démontrer la faisabilité d’une gouvernance internationale en matière de technologies disruptives. Les signataires espèrent que l’ONU, en tant que forum multilatéral, pourra servir de catalyseur pour rallier un maximum de pays à cette cause, malgré les divergences d’intérêts. Ils rappellent que l’urgence est d’autant plus grande que les capacités de l’IA progressent plus vite que les cadres légaux, laissant planer le spectre d’une perte de contrôle aux conséquences imprévisibles.
Enfin, l’initiative vise aussi à sensibiliser l’opinion publique et à mobiliser les citoyens, souvent peu informés des enjeux réels de l’IA, pour qu’ils exiger des comptes à leurs gouvernements. Les ONG estiment que seule une pression combinée des États, des experts et de la société civile permettra d’éviter que cette technologie ne devienne une menace existentielle, tout en préservant ses bénéfices potentiels pour l’humanité. Le succès de cette démarche dépendra cependant de la capacité à dépasser les clivages géopolitiques et à instaurer un dialogue constructif entre tous les acteurs concernés.