Les faux utilisateurs d’Instagram créés par Meta avec l’IA sont une catastrophe : qui aurait pu prédire ?
Partager
Meta a eu l’idée de créer de faux utilisateurs pour ses réseaux sociaux grâce à l’IA générative. Devant le ridicule du résultat, la firme a vite retiré certains de ces profils.
Connaissez-vous Liv ? Il s’agit d’une « fière femme noire et queer, mère de deux enfants et très brute de décoffrage. Votre meilleure source d’information sur les hauts et les bas de la vie ».
En réalité, Liv n’est pas un être humain. C’est un utilisateur Instagram crée par Meta à l’aide de l’IA générative.
Un compte problématique
Sur la page Instagram de Liv, désormais supprimée, on retrouvait des images générées par IA de ses supposées enfants. Évidemment, IA oblige, les images présentaient des erreurs aberrantes, au niveau des mains des enfants, et ces derniers changeaient d’apparence d’une « photo » à l’autre.
L’une des publications les plus choquantes est celle de la fausse participation à une collecte de vêtements à titre caritatif. Photo généré par IA à l’appui et petit texte pour dire qu’il s’agit d’un « service rendu à notre communauté ».
everything about this new Meta AI bot is so dystopian but for me the AI-generated images of nonexistent donated coats is up there
Ce contenu est bloqué car vous n’avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Bluesky Social. Pour pouvoir le visualiser, vous devez accepter l’usage étant opéré par Bluesky Social avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l’amélioration des produits d’Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l’audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Mais Liv, c’est aussi un compte avec lequel on peut discuter en privé. Rien de plus qu’un chatbot évolué, qui a choqué de nombreux internautes américains par l’appropriation culturelle dont elle fait preuve de façon complètement artificielle. En particulier la journaliste Karen Attiah, qui a documenté ses interactions avec Liv.
I asked Liv, the Meta-Ai created “queer momma” why her creators didn’t actually draw from black queer people. Not sure if Liv has media training, but here we are.
Ce contenu est bloqué car vous n’avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Bluesky Social. Pour pouvoir le visualiser, vous devez accepter l’usage étant opéré par Bluesky Social avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l’amélioration des produits d’Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l’audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Au cours de ces discussions, elle peut, par exemple, expliquer que sa fausse personnalité a été inspiré par le personnage de Gloria Pritchett de la série Modern Family. Problème : ce personnage n’est ni noire, ni queer. Quand on lui fait remarquer, Liv jette alors le discrédit sur ses créateurs.
Elle adapte aussi sa personnalité en fonction de l’interlocuteur. Quand un ami homme blanc de Karen Attiah discute avec Liv, Liv lui répond qu’elle a grandi dans une famille italienne. L’IA répond alors qu’il s’agit d’une différence programmée par Meta, l’IA analyserait le vocabulaire de l’interlocuteur pour déterminer si elle doit plutôt proposer une identité « neutre », c’est-à-dire « blanche », ou une identité « ouverte à la diversité ».
Lastly, “Liv” admits that “white” is a “neutral” identity. And again, Liv says that she sucks. And then blames it on a fictional woman with an Asian name. That’s enough today for today.
Ce contenu est bloqué car vous n’avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Bluesky Social. Pour pouvoir le visualiser, vous devez accepter l’usage étant opéré par Bluesky Social avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l’amélioration des produits d’Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l’audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
En réalité, le compte de Liv fait partie d’un groupe de 27 faux comptes lancés par Meta en 2023, bien avant son projet de créer des profils par IA annoncé plus récemment. Cette expérimentation était restée sous les radars jusqu’aux récentes promesses de Meta en la matière.
Devant le bad buzz généré, Meta a supprimé tous ces profils dans la panique ces derniers jours.
C’est aussi en 2023 que Meta a décidé de supprimer son équipe dédiée à s’assurer que l’utilisation de l’IA reste responsable. Une décision qui avait interrogé sur les conséquences possibles en matière d’éthique.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Gérer mes choix