Père Justin : ce prêtre d’IA était évidemment une mauvaise idée

Lancer un chatbot ou un assistant virtuel, c’est rarement une bonne idée. Le premier à en avoir fait les frais, c’est Microsoft en 2016 : la firme avait lancé Tay, une IA conversationnelle avec laquelle on pouvait discuter sur Twitter. En quelques heures, elle était devenue raciste et misogyne et avait dû être désactivée en catastrophe. Huit ans plus tard, il semblerait que les nouveaux chatbots fonctionnant via les LLM comme ChatGPT ne soient pas exempts de lourds défauts. En témoigne le Père Justin, un prêtre virtuel d’intelligence artificielle, dont le Jugement dernier pourrait être prononcé plus vite que prévu.

Pour aller plus loin
C’est quoi un LLM ? Comment fonctionnent les moteurs de ChatGPT, Gemini et autres ?

Un prêtre devenu polémique en quelques jours : l’IA était loin d’être au point sur la Bible

Retour en avril 2024 : le groupe médiatique Catholic Answers annonce lancer une expérience : le Père Justin, une application interactive avec un prêtre virtuel pour lui poser des questions sur la religion chrétienne. Le concept est simple : on peut discuter oralement avec ce Père Justin, qui possède un modèle 3D. Les réponses sont générées par un LLM, comme ChatGPT, Gemini et compagnie. Chris Costello, le directeur de la technologie de l’information chez Catholic Answers avait déclaré au lancement vouloir « transmettre l’esprit et la nature des réponses que les utilisateurs peuvent attendre — autoritaires mais accessibles, puisant dans le puits profond de la tradition et de l’enseignement catholiques ».

Le problème, c’est qu’aux côtés d’informations éducatives en rapport avec le catholicisme, le prêtre a enchaîné les réponses anti-chrétiennes. Comme l’a rapporté 80LV, le clerc virtuel a béni un mariage entre un frère et une sœur. Il lui a également paru normal de baptiser un nouveau-né avec du Gatorade, une boisson sucrée américaine. Le Père Justin disait même être réel, « autant que la foi que nous partageons », alors qu’on lui avait très probablement donné des consignes pour qu’il explique qu’il n’était qu’une IA. Une IA qui a même donné l’absolution à un utilisateur, pardon qui n’est censé être donné que par un prêtre ordonné. Au-delà même des erreurs commises par le chatbot, certaines plaintes concernaient des implications théologiques latentes dans le fait même de sa création, rappelait le National Catholic Reporter.

Comment réagir face aux scandales provoqués par cette IA religieuse

Suite à la polémique, Catholic Answers avait renommé Père Justin en Justin, en changeant ses vêtements et en le qualifiant d’apologiste virtuel (un Justin pas Bridou, mais bridé donc). Les équipes avaient réagi en indiquant prévoir améliorer l’IA et l’application à partir des retours d’expérience des utilisateurs. Un revirement de situation paradoxal, puisque Chris Costello avait justifié le choix d’utiliser l’image d’un prêtre pour rendre « hommage aux prêtres réels et au rôle qu’ils jouent dans la vie des gens, mais nous sommes convaincus que nos utilisateurs ne confondront pas l’IA avec un prêtre humain. »

Ces erreurs sont tout à fait logiques : les LLM, faute de pouvoir donner une réponse précise, se mettent à complètement inventer ce qu’ils racontent, avec un aplomb le plus total. Beaucoup d’autres outils d’IA font eux aussi des erreurs, ChatGPT le premier. Depuis, on peut toujours utiliser Justin, mais il faut d’abord s’inscrire et valider son adresse mail.