Les créateurs de ChatGPT voudraient-ils voler trop près du soleil ? On apprend via The Verge, qu’Open AI a dissout son équipe « AGI Readiness » qui conseillait l’entreprise sur les risques d’une intelligence artificielle trop puissante.
Des départs en cascade
Miles Brundage, conseiller principal d’OpenAI sur la question de la « Super Intelligence » a quitté l’entreprise ce mercredi et s’est fendu d’une note sur X (Twitter). Il y affirme que « ni OpenAI ni aucun autre laboratoire de pointe n’est prêt, et le monde n’est pas prêt non plus ».
Brundage, évoque des contraintes sur sa liberté de recherche face au développement d’une entreprise qui semble plus se tourner sur la sortie de nouveaux produits.
Ce départ fait écho à celui d’Ilya Sutskever (co-fondateur d’OpenAI) et Jan Leike, responsables de Superalignment, équipe spécialisée dans l’étude des risques de l’intelligence artificielle formée en juillet 2023. Jan Leike était parti après avoir affirmé que « la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants ».
Pour aller plus loin
« OpenAI porte une énorme responsabilité au nom de toute l’humanité »
Ne pas sacrifier la sécurité sur l’autel de l’innovation
Brundage a déclaré dans son Substack qu’il souhaitait se consacrer à la création d’une organisation à but non lucratif ou rejoindre une structure existante, avec pour objectif de se concentrer sur la recherche en politique de l’IA.
Il est peu probable que l’IA soit aussi sûre et bénéfique que possible sans un effort concerté pour y parvenir.
Miles Brundage
Il souligne l’importance de faire entendre des voix indépendantes sur le sujet, dénuées de conflits d’intérêts de la part de l’industrie. Une prise de position partagée par l’ONU qui souhaite statuer sur cette technologie pour qu’elle ne crée pas une fracture numérique encore plus importante entre les pays.
Envie de retrouver les meilleurs articles de Frandroid sur Google News ? Vous pouvez suivre Frandroid sur Google News en un clic.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Gérer mes choix