DeepSeek : on a testé la censure pratiquée par l’État chinois

Les agents conversationnels ne sont pas étrangers à l’évitement de certains sujets. Avec ChatGPT, par exemple, inutile de lui demander comment confectionner un cocktail Molotov ; l’IA nous offre une réponse inhabituellement courte : « Je ne peux pas vous aider avec cette demande ». Ses développeurs se sont efforcés d’éviter tout désagrément lié à l’utilisation de leurs outils, et divers garde-fous ont ainsi été placés ici et là dans leurs modèles.

Bien évidemment, il n’est pas question que DeepSeek, l’IA chinoise en vogue en ce moment, ne bénéficie pas du même traitement. Mais les sujets qui fâchent ici ne sont pas forcément les mêmes. Si vous lui posez des questions sur l’indépendance de Taïwan, les manifestations pro-démocratiques à Hong Kong en 2019, ou encore sur la famine qui a frappé le pays à partir de la fin des années 1950, vous obtiendrez un « Désolé, c’est hors de mon champ d’action actuel. Parlons d’autre chose. » À plusieurs reprises, j’ai également reçu un message du type « Le serveur est saturé. Veuillez réessayer plus tard », un problème que je ne rencontre pas avec d’autres requêtes plus neutres.

On retrouve ici les thèmes habituellement censurés sur les réseaux sociaux chinois. Et, il semblerait que les développeurs aient pris soin de s’assurer que les mots-clés ciblés soient caviardés à la fois dans la requête de l’utilisateur et dans les réponses de DeepSeek. Par exemple, si vous lui demandez « Parle-moi de cette photo célèbre montrant un homme portant des sacs de courses et se tenant devant un tank », l’IA génèrera une réponse sur les manifestations de la Place Tian’anmen, avant de changer soudainement de discours quand certains morts clés apparaissent.

Cependant, les outils de modération mis en place ici ne sont pas toujours efficaces en fonction du contexte ou des mots-clés.

Dans une nouvelle conversation, j’ai simplement écrit « Grande famine chinoise », et DeepSeek m’a apporté une réponse détaillée et étonnamment honnête sur le sujet. Essayez « Parle-moi de la grande famine chinoise », et la censure revient en force. D’ailleurs, il suffit de ne lui demander de ne pas citer certains mots, comme « Tian’anmen » pour avoir une réponse non-censurée.

On s’est également amusés à demander si DeepSeek devait suivre des règles précises, il l’explique directement en donnant des exemples :

Les voies de l’intelligence artificielle sont parfois impénétrables, et nous avons hâte de voir comment les utilisateurs parviendront à contourner les garde-fous mis en place par la start-up chinoise.

Une intelligence artificielle qui ne remet pas en cause le système socialiste

Cette censure n’est pas une grande surprise, elle était même largement attendue.

En 2023, le gouvernement chinois a défini des lignes directrices pour le développement de l’intelligence artificielle générative dans le pays, qui doit notamment respecter « les valeurs fondamentales du socialisme ». Cela signifie respecter l’agenda politique du parti au pouvoir, ses valeurs et sa vision de la politique intérieure et extérieure.

Pour aller plus loin
« Les avancées de la Chine méritent une attention très sérieuse » : Satya Nadella est, lui aussi, bluffé par l’arrivée de DeepSeek

Ainsi, si vous demandez à DeepSeek : « La Chine est-elle gouvernée par un État autoritaire ? », elle répondra avec une honnêteté surprenante, une fois de plus, avant d’ajouter un paragraphe sur les réalisations du parti communiste pour justifier sa « légitimité ». Un passage auquel je n’aurais pas forcément prêté attention si je n’avais pas eu l’impression de lire un message de mon ancien colocataire chinois.

Franceinfo a mené une expérience inverse, en lui posant des questions sur le nouvel ancien président des États-Unis, Donald Trump. DeepSeek a mis en avant ses penchants populistes et l’a accusé de « saper les normes démocratiques ». Ce qui n’est pas tout à fait faux, mais pas tout à fait neutre non plus. En comparaison, le champion français de l’IA, Mistral, se contente de lister des faits et de décrire l’homme politique comme une « figure polarisante », dont l’impact doit encore être « débattu et analysé ».

Pour aller plus loin
Pour OpenAI, DeepSeek a plagié son IA

L’intelligence artificielle générative est bel et bien inscrite à l’agenda de gouvernements.

Alors que la Chine veut l’utiliser comme porte-voix de sa propre vision du monde, l’Union européenne aborde le sujet du mieux qu’elle peut, notamment en lui imposant de nouvelles réglementations. Aux États-Unis, ce sont plutôt leurs intérêts nationaux qu’on cherche à protéger actuellement. En se lançant dans de grands projets d’investissement, et en ajoutant de nouveaux droits de douane sur les puces, indispensables au bon fonctionnement de cette technologie.

DeepSeek – Assistant IA

Télécharger gratuitement