« Sans contrôle, les dangers posés par l’intelligence artificielle pourraient avoir des implications graves pour la démocratie » : l’ONU veut statuer sur l’intelligence artificielle

La croissance fulgurante de l’intelligence artificielle pousse les Nations Unies à créer un protocole mondial de surveillance et de gouvernance au même titre que le changement climatique.

Un enjeu international

Le constat est saisissant. Sur les 193 pays constituants les Nations Unies, seuls 7 sont en chefs de file sur la question de l’intelligence artificielle et 118 en sont purement absents. C’est sur cette base que se construit le rapport de l’ONU publié en septembre.  António Guterres, secrétaire des Nations Unies, déclarait par ailleurs : « L’IA doit servir l’humanité de façon équitable et sûre […] Sans contrôle, les dangers posés par l’intelligence artificielle pourraient avoir des implications graves pour la démocratie, la paix et la stabilité ».

Pour répondre à ces enjeux, Guterres a mis en place, il y a près d’un an, un comité composé d’une quarantaine d’experts dans le domaine des technologies, du droit ou de la protection des données provenant aussi bien du secteur privé comme Google, OpenAI, Microsoft comme du secteur public et gouvernemental.

L’une des premières pistes de coopération avancée par ce comité est la mise en place d’un groupe international d’experts scientifiques sur l’IA à la manière du GIEC et ses experts sur le climat.

Pour aller plus loin
Comment les dérives de l’IA ont provoqué une secousse dans la campagne américaine

Une technologie aux multiples répercussions

Pour le moment, l’ONU ne veut pas se définir comme un organe de contrôle, mais bien de coopération facilitant le travail entre les pays. Des états, comme la Californie, se sont par exemple emparés de la question face à la prolifération de fausses informations, enjeu crucial durant cette période électorale étasunienne.

Une démarche qui n’est pas sans rappeler celle de l’Europe avec la mise en place de l’AI Act, permettant à l’Union européenne d’encadrer l’IA sur son territoire et de protéger au mieux les données personnelles des utilisateurs.

Des initiatives jugées plus que nécessaires. Interrogé par Wired, Joshua Meltzer, expert au Brookings Institute, un groupe de réflexion basé à Washington, déclare que l’IA avance trop rapidement pour une organisation comme l’ONU. « L’ONU a clairement un rôle important à jouer en matière de gouvernance de l’IA, mais elle doit s’inscrire dans une architecture distribuée », avec la participation d’autres pays déclare-t-il. « La technologie évolue rapidement et l’ONU n’est clairement pas préparée à gérer cela. ».