Minecraft : ce bot apprend à jouer tout seul grâce à GPT-4

Plusieurs modèles d’intelligence artificielle existent pour Minecraft : ils ont pour but de créer de véritables programmes qui jouent au jeu tous seuls, ce qui demande des connaissances techniques poussées et beaucoup de ressources de développement. Parmi eux, un nouveau fait son apparition : Voyager, alimenté en partie par GPT-4, le grand modèle de langage qui se cache derrière ChatGPT.

Un bot Minecraft qui apprend tout seul grâce à l’intelligence artificielle

Comme l’écrit Jim Fan, membre de l’équipe MineDojo, dans un fil sur Twitter, « Voyager s’améliore continuellement en écrivant, en affinant, en validant et en récupérant le code d’une bibliothèque de compétence. » Minecraft représente pour lui et son équipe un terrain de jeu très important : en tant que jeu vidéo dit « bac à sable », le nombre d’actions à réaliser et de décisions à prendre est presque infini.

En lisant le descriptif du programme, on apprend qu’il est divisé en trois éléments principaux :

• « Un mécanisme d’incitation itératif qui incorpore le feedback du jeu, les erreurs d’exécution et l’auto-vérification pour affiner les programmes » ;
• « Une bibliothèque de compétences de code pour stocker et récupérer des comportements complexes » ;
• « Un programme automatique pour maximiser l’exploration ».

Dans la pratique, Voyager tente tout d’abord d’atteindre un objectif précis, ce qu’il n’arrive pas au premier coup d’essai (ou très rarement). À cela, un programme fait un retour à Voyager pour qu’il apprenne. Chaque connaissance supplémentaire du jeu est ajoutée à une base de données. Les compétences les plus complexes ont été simplifiées en une division de tâches plus simples : on pense notamment à la création d’objets qui demande la création d’autres objets intermédiaires.

D’un point de vue technique, le bot ne « voit » pas, il reçoit les informations directement du jeu via une API : position des blocs, des animaux, etc. Dans le futur, les équipes ayant travaillé sur Voyager voudraient intégrer un vrai modèle d’IA de vision.

Ce qu’apporte GPT-4 à ce programme pour Minecraft

Ce n’est pas GPT-4 qui décide directement des mouvements de Voyager ou qui indique de faire un clic droit. En réalité, c’est cette troisième partie de Voyager qui propose des tâches d’explorations « appropriées en fonction du niveau de compétence actuel de l’agent et de l’état du monde ».

C’est le modèle de langage développé par OpenAI qui résonne à partir des données qu’on lui donne en entrée. Cela peut par exemple être des objets dans l’inventaire du faux joueur, qui lui permettent de suggérer de fabriquer un objet à partir de ces premiers.

Tout cela permet à Voyager de mener une partie et même d’accomplir quelques réalisations : fabriquer une épée en diamant, construire une maison ou encore un portail vers une autre dimension. S’il s’apparente encore beaucoup à un joueur débutant, ses progrès sont déjà grands.