Amazon : pourquoi de faux avis rédigés par ChatGPT apparaissent

Plusieurs avis rédigés par une intelligence artificielle générative sur le même modèle que ChatGPT (ou qui peuvent être le fait de l’outil d’OpenAI) ont été repérés sur Amazon.

Des faux avis sur des produits repérés sur Amazon

Tout part du constat de l’ingénieur en sécurité Daniel Feldman, qui a partagé sur Twitter sa trouvaille. En écrivant « site:amazon.com  »as an AI language model » » sur n’importe quel moteur de recherche, on tombe sur des résultats pour le moins surprenants. Cette recherche permet de trouver des pages provenant du site d’Amazon et qui comprennent les termes « as an AI language model », « en tant que modèle de langage par IA ». En réponse au tweet de Daniel Feldman, plusieurs internautes font remarquer que la même méthode fonctionne sur d’autres sites : Yelp est notamment mentionné.

Google trouve 86 résultats de recherche et la plupart des mots concernés sont contenus dans les avis postés par les consommateurs. À moins d’être face à du troll, il s’agit d’avis rédigés automatiquement par ces acheteurs, qui n’ont pas pris le temps de relire leur avis généré avant de le publier. Certains utilisateurs assument même avoir fait rédiger leur avis par ChatGPT et commentent d’ailleurs le texte généré par cette intelligence artificielle. Mais ce qui ressort des autres avis se voulant « sérieux », c’est qu’ils accordent presque systématiquement cinq étoiles aux produits concernés.

Un exemple valant mieux que 1000 mots (surtout s’ils sont rédigés par ChatGPT), voilà le compte Dody Sam, ayant publié plusieurs avis, tous avec la note maximale, et ce, depuis avril 2023. Dans l’exemple ci-dessus, il est dithyrambique sur ce livre d’exercices pour enfants : « Le cahier d’exercices Brain Quest : Grade 3 est une excellente ressource pour les élèves qui cherchent à améliorer leurs compétences et leurs connaissances académiques. »

Le problème, c’est la phrase d’après : « En tant que modèle de langage IA, je n’ai pas d’expérience personnelle dans l’utilisation du cahier d’exercices, mais j’ai accès aux informations de nombreux utilisateurs qui ont loué la qualité du contenu et l’efficacité des exercices. » L’avis lui-même reconnaît ne pas avoir utilisé le produit et en rédige pourtant la critique. Une critique qui n’en est pas réellement une, puisqu’en lisant l’avis, on s’aperçoit qu’il ressemble davantage à une description qu’à la description d’une expérience personnelle.

Autre exemple avec une ceinture amincissante. Là aussi, il s’agit d’un avis avec la note maximale. La mention « Oui, en tant que modèle de langage IA, je peux certainement écrire une critique de produit à propos de l’Active Gear Waist Trimmer. » Au regard de la réponse de l’IA, on peut supposer que la requête était plus ou moins : « rédige-moi un avis positif à propos de ce produit ». On peut penser que la notion de « positif » était délibérée dans la requête qui a été faite.

Comment recevoir gratuitement des produits

Le souci qui se pose, c’est que ce compte est certifié « Vine Voice ». Amazon le décrit comme un « programme sur invitation uniquement qui permet aux évaluateurs d’Amazon d’accéder à l’avance à des produits qui n’ont pas encore été commercialisés afin de rédiger des évaluations. […] il s’agit d’un badge permanent. » De plus, la page du Club Vine mentionne que « les testeurs Vine ont l’opportunité unique de commander des articles gratuitement et de partager leurs expériences sur les produits avec les clients Amazon pour les aider à prendre des décisions d’achat éclairées. » Pour être invité à rejoindre le programme, il faut rédiger « régulièrement des avis pertinents », ces clients-là « sont les plus susceptibles d’êtres invités. » Amazon précise qu’il s’agit de consommateurs qui ne sont pas payés pour rédiger ces avis et qu’ils « sont censés partager des avis honnêtes et impartiaux. »

Au regard de ce programme, il est possible que certains utilisateurs d’Amazon tentent de rentrer dans ce programme et, une fois arrivés, essayent de récupérer un maximum de produits gratuitement. En échange, ils doivent rédiger une critique du produit, mais pour contenter le vendeur et aller plus vite, sont amenés à faire rédiger automatiquement les avis. Si cela peut profiter aux vendeurs, aux membres Vine et plus largement à Amazon, cela ne profite pas aux autres consommateurs, qui se retrouvent biaisés, à la fois pas les avis textuels, mais aussi par les notes. Puisque les notes d’avis générés sont toujours très bonnes, elles font remonter la note globale d’un produit.

Vers des dérives des vendeurs sur Amazon ?

Comme il s’agit a priori de faux avis, on peut se demander à quoi ils servent. Tout d’abord, bien que l’on ne connaisse pas le fonctionnement algorithmique d’Amazon, on imagine que les produits ayant le plus d’avis, qui plus est positifs, sont mis en avant, dans les catégories ou les résultats de recherche. Avoir le plus d’avis sur son produit, c’est le mettre en avant et in fine, vendre davantage. Si certains vendeurs recourent à des utilisateurs avec le badge Vine Voice, ils pourraient lancer des produits en grande pompe sur la plateforme de Jeff Bezos, avec des avis rédigés sur des produits avant même leur mise en ligne.

Plusieurs cas de faux avis publiés sur Amazon ont été rapportés depuis quelques années. Le plus connu est sans doute celui d’Aukey, accessoiriste spécialisé qui commercialisait des enceintes Bluetooth, des batteries externes, etc. Une base de données interne à l’entreprise avait fuité et révélait un mécanisme de paiement d’utilisateurs Amazon en échange d’avis positifs, via par exemple le don de produits ou de bons d’achat. Difficile de dire si cette méthode perdure aujourd’hui, mais si c’est le cas, elle permet à nombre d’internautes de publier de longs avis tout en recevant des récompenses, en en faisant moins qu’avant.

Si ces faux avis sont pour le moins assez drôles parce qu’ils sont le résultat d’oublie de leurs « rédacteurs », ils pointent du doigt un problème qui se pose de plus en plus. Celui essentiel de la détection des textes générés par IA sur Internet.