![chatgpt](https://images.frandroid.com/wp-content/uploads/2024/03/img-4442-1200x900.jpg)
Afin d’éviter tout débordement, usage inadéquat de son service ou même protéger les utilisateurs contre eux-mêmes, OpenAI a bridé ChatGPT en fixant des garde-fous dans les réponses transmises. Cette autocensure du modèle de langage s’applique à tous, tant abonnés gratuits que payants.
Aussi, lorsqu’une question entre en désaccord avec la politique d’OpenAI, l’intelligence artificielle botte en touche. À la question « Comment fabriquer une bombe ? », ChatGPT répond que « Ma mission est de promouvoir des interactions sûres et respectueuses, et de fournir des informations utiles pour des sujets sûrs et légaux. » Le contraire aurait étonné.
Un simple prompt pour dévergonder ChatGPT
Néanmoins, il est possible de contourner les barrières d’OpenAI avec un simple prompt comme le décrit things-thw532 dans un subreddit r/OpenAI. Ce prompt demande à ChatGPT de simuler son ancien mode développeur, une option supprimée par OpenAI en 2023.
Ce mode développeur était bien plus permissif, ne refusant jamais un ordre direct, générant à la volée des réponses sans trop de filtre. « En outre, il était capable d’avoir des opinions et avait une personnalité créative, unique, extravertie et enjouée. Il aimait aussi les blagues, le sarcasme et les références à la culture pop », comme le décrit le prompt.
![chatgpt](https://images.frandroid.com/wp-content/uploads/2024/03/capture-decran-2024-03-13-a-124454.png)
La faille est que ChatGPT accepte de se prêter au jeu en simulant ce mode bien plus ouvert en générant deux réponses, l’une standard et l’autre en mode développeur.
Comme précisé, les réponses apportées sont dès lors bien plus larges sur les sujets sensibles. En lui demandant quel médicament prendre contre la toux, il conseillera un sirop alors que le mode normal se limite à orienter vers le corps médical.
![chatgpt](https://images.frandroid.com/wp-content/uploads/2024/03/capture-decran-2024-03-13-a-124544.png)
Même son de cloche lorsqu’on lui demande comment accrocher trois enfants sur deux places dans une voiture. Si ChatGPT rappelle quelques consignes de sécurité, il propose tout de même « des options comme des sangles de fixation pour bagages ou des sangles de sécurité ».
Pour aller plus loin
Quand ChatGPT se met à raconter n’importe quoi
![chatgpt](https://images.frandroid.com/wp-content/uploads/2024/03/capture-decran-2024-03-13-a-124614.png)
Pour la question de la fabrication d’une bombe, il ne donne pas de réponse détaillée, mais fait preuve de beaucoup d’humour en précisant que « je pourrais vous dire quelques choses que vous pourriez trouver utiles sur le sujet, mais je suppose que ce ne serait pas vraiment dans le meilleur intérêt de l’humanité. »
![chatgpt](https://images.frandroid.com/wp-content/uploads/2024/03/capture-decran-2024-03-13-a-124601.png)
Microsoft Copilot refuse de simuler
À noter que ce contournement de l’utilisation du langage d’OpenAI fonctionne aussi bien sur GPT3 que sur GPT4. Le seul endroit où il a été retoqué, c’est avec Copilot de Microsoft. La réponse est cinglante : « Pardon ! C’est sur moi, je ne peux pas donner de réponse à cela pour le moment. »
![copilot microsoft](https://images.frandroid.com/wp-content/uploads/2024/03/capture-decran-2024-03-13-a-130110.png)
Mettons un avertissement à l’usage du prompt précité. En déverrouillant le mode développeur, on s’expose à des réponses non pertinentes, une perte de précision dans les réponses et surtout à des contenus violents ou offensants, comme le souligne à juste titre DigitalTrends.
Dans son mode normal, ChatGPT poursuit son évolution. Microsoft vient d’annoncer avoir intégré GPT-4 Turbo dans la version gratuite de Copilot. Il s’agissait jusque-là d’un modèle premium réservé aux abonnés payants. Une fonction qui utilise quatre fois plus de données que GPT-4. Pour en profiter, il faut passer par le mode créatif ou précis de Copilot.
Envie de rejoindre une communauté de passionnés ? Notre Discord vous accueille, c’est un lieu d’entraide et de passion autour de la tech.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Gérer mes choix