En février dernier, nous nous sommes penchés sur l’intelligence artificielle afin de mieux comprendre comment celle-ci fonctionnait. Cette plongée dans un océan de concepts et de termes aussi divers que complexes, entre réseaux de neurones et machine learning, a soulevé de nombreuses questions.
Nous sommes persuadés que la plupart des ingénieurs et scientifiques qui travaillent sur l’intelligence artificielle ont les meilleures intentions et aspirent à un monde meilleur. Néanmoins, le fait de se dire qu’une machine est capable d’apprendre de nouvelles choses toute seule, sans l’aide de personne, n’est pas forcément très rassurant.
Et si les machines, une fois qu’elles nous auront surpassées, deviennent malveillantes ? Puisqu’elles sont destinées à être parfaitement autonomes et intelligentes, comment peut-on s’assurer qu’elles restent dans « le droit chemin » ?
Pour aller plus loin
Comment le machine learning compte-t-il révolutionner notre quotidien ?
L’IA dans la pop culture
Ce sentiment de crainte est d’ailleurs largement partagé dans l’imaginaire collectif. Il faut dire que ce dernier est nourri par de nombreuses œuvres de fiction généralement pessimistes dans lesquelles les schémas narratifs sont assez simples à saisir : quand une machine intelligente créée par les hommes fait partie des protagonistes principaux de l’histoire, il y a de fortes chances que ça finisse en baston pour la sauvegarde de l’humanité.
Dès lors, on associe très facilement l’intelligence artificielle à une entité froide, impitoyable et intransigeante. Celle-ci est assez éveillée pour mener des raisonnements logiques, mais reste dénuée de toute estime pour l’espèce humaine. Ainsi, si elle considère que les êtres humains sont la cause d’un problème — c’est d’ailleurs souvent le cas, dans la fiction comme dans la vraie vie —, elle déduira qu’il faut purement et simplement éradiquer l’humanité.
Certes, toutes les histoires sont différentes, mais il y a toujours la même idée sous-jacente que l’on pourrait résumer ainsi :
L’IA est l’ennemie de l’homme.
Petit tour d’horizon — non exhaustif — pour s’en persuader (avec de très légers spoilers) :
Les trois lois d’Asimov
Dans toute la bibliographie d’Isaac Asimov, génial pionnier de la science-fiction, les trois fameuses lois d’Asimov censées régir le comportement des robots (afin de les empêcher de s’en prendre aux humains) ont été établies par l’auteur presque uniquement dans le but d’être enfreintes (et donc de pouvoir écrire une histoire).
HAL 9 000 dans 2001, l’Odyssée de l’espace
HAL 9 000 dans 2001, l’Odyssée de l’espace, créée dans un laboratoire scientifique de l’Illinois, représente l’ennemi principal des protagonistes. Dans ce cas, ce sont des dysfonctionnements de l’intelligence artificielle qui convainc les astronautes de la débrancher. Mais HAL 9 000 réussit à les empêcher après avoir intercepté leur conversation en lisant sur leurs lèvres. Petit bonus pour flipper : dans la vraie vie, Google Deepmind maîtrise également très bien la lecture labiale.
VIKI dans I,Robot
Dans le film I,Robot avec Will Smith, les robots font partie de la vie quotidienne et obéissent aux mêmes trois lois d’Asimov. Mais un superordinateur du nom de VIKI, après moult observations, estime que les êtres humains ne sont pas capables de s’autogérer. Dans le but de prévenir la planète contre davantage de guerres et de pollution, l’IA conclut qu’elle doit prendre le contrôle de l’humanité.
LoveMachine dans Summer Wars
Le film d’animation Summer War suit les aventures d’un jeune garçon très doué pour les mathématiques qui fait face à une intelligence artificielle malveillante infectant le plus grand réseau social du monde — non ce n’est pas Facebook. Des milliards de données sont compromises et le logiciel ne tarde pas à provoquer un chaos complet. Baptisée LoveMachine, l’IA en question est ici carrément représentée sous la forme d’un dieu-monstre effrayant.
On s’arrêtera ici, mais des fictions de ce genre, il en existe pléthore. Tant et si bien, qu’il serait impossible de toutes les lister. Leur objectif premier relève du divertissement, mais la problématique soulevée mérite réflexion. Faut-il avoir peur de l’intelligence artificielle ?
La peur de l’IA
La question a déjà été posée. Parmi les 2 000 personnes interrogées dans le cadre d’une étude de la British Science Association, 36 % estimaient que le développement de l’intelligence artificielle est une menace pour la survie de l’humanité sur le long terme. Pragmatique, le célèbre physicien Stephen Hawking a, quant à lui, déclaré en octobre 2016 que l’IA serait « soit la meilleure, soit la pire chose qui ne soit jamais arrivée à l’humanité ». Il va même jusqu’à dire qu’il s’agira du plus grand événement de l’histoire de notre civilisation. De ce fait, si les intelligences artificielles nourrissent de mauvais desseins, nous sommes tous dans le pétrin.
Au fond, cette inquiétude est due au fait que malgré une capacité cognitive égale — voire supérieure — aux hommes et aux femmes, une intelligence artificielle semble a priori dépourvue d’une qualité indispensable que l’on prête trop volontiers à l’être humain : l’empathie. Or, à l’instar de tous les sentiments, on a bien du mal à voir comment l’IA peut concevoir une telle émotion. Difficile d’imaginer comment elle pourrait ressentir cela par le biais d’une suite chiffres plutôt que par l’expérience de la vie. L’IA serait donc psychopathe. Pas très rassurant, n’est-ce pas ?
Néanmoins, l’histoire de l’humanité a prouvé que la science pouvait sans cesse repousser ses limites et les IA sont déjà en train d’apprendre le sens de l’humour. À terme, il ne serait donc pas si étonnant qu’elles se mettent à assimiler des notions propres à l’être humain telles que l’empathie ou — soyons fous — le sentiment amoureux ou l’appréhension de la mort. Encore plus loin dans l’avenir, les intelligences artificielles et les robots pourraient même éventuellement développer leurs propres personnalités.
Anticiper le développement de l’IA
Ces hypothèses peuvent paraître incongrues à l’heure actuelle — et elles le sont sans doute. Mais en posant toutes ces problématiques dès aujourd’hui, l’humanité n’en sera que mieux préparée face à la montée en puissance des intelligences artificielles et plus à même d’anticiper toutes les éventuelles dérives.
Par ailleurs, on peut estimer que l’intelligence artificielle cristallise toutes les craintes que les précédentes révolutions technologiques ont engendrées. Rappelez-vous les nombreuses angoisses liées à l’avènement d’Internet ou des smartphones : peur d’un outil inconnu, dépendance à la technologie, aliénation et destruction d’emplois. Ces interrogations doivent également être réfléchies dès à présent, même si leurs aboutissants ne se concrétiseront peut-être que dans une vingtaine ou une cinquantaine d’années.
Craindre l’homme ou la machine ?
Au final, nous allons sans doute être obligés d’apprendre à vivre avec les intelligences artificielles, mais il faut également faire en sorte que celles-ci apprennent à vivre avec nous. Enfin, si craintes il doit y avoir, autant faire en sorte qu’elles soient pertinentes. Le célèbre entrepreneur Elon Musk affirme ainsi passer une demi-journée par semaine à lutter contre une éventuelle IA despotique. Mais, surtout, il précise la chose suivante :
Mon inquiétude n’est pas tellement qu’une IA pourrait se développer par elle-même d’une manière mauvaise. Mon inquiétude c’est plutôt que quelqu’un pourrait l’utiliser d’une mauvaise manière.
Autrement dit, pour lui, le danger n’est pas la machine, mais l’être humain derrière elle. Et c’est sans doute là que réside le vrai défi de l’intelligence artificielle : s’assurer que les scientifiques, ingénieurs et grosses entreprises travaillant sur les IA ne fassent pas n’importe quoi. Vaste programme…
Chaque matin, WhatsApp s’anime avec les dernières nouvelles tech. Rejoignez notre canal Frandroid pour ne rien manquer !
[…] pas amenée à prendre sa place sous les projecteurs, même si Gary Brotman reconnaît qu’elle a « le stigmate » de la science-fiction rattachée à elle, n’aidant pas à son acceptation auprès du grand public. « Il existe des […]
Justement, c'est convaincant. Décrispe-toi et lit tranquillement... Moi aussi, je regrette qu'il ait raison.
Wow!
Mais c'est la Tour Eiffel qui a refusé, elle le trouvait pas à la hauteur.
Tôt pu tard il y aura des problèmes, c'est évident .... il serait bien présomptueux et vraiment pas malin de se dire que, ou des personnes ou organisations mal intentionnées (armés, terroristes, fanatiques ou malades) n'usent pas un jour de ce moyen quitte à en perdre le contrôle (déjà le simple exemple des virus ...) . Quand bien même et malgré nos barrières (et les bugs et failles ça existera toujours) , tôt ou tard quelqu'un ira trop loin et perdra le contrôle. Combien d'invention ou progrès au départ pas bien méchantes ce sont retournées contre nous ou ont carrément servit d'armes. Alors une chose qui deviendrait autonome et intelligente n'aura vite plus de limite ( et nous surpassera sans peine) la ou nous nous en plus nous en aurons. Nous on se crois encore les plus fort et plus malin comme toujours .... mais un jour viendra l'affrontement contre d'un démon créé par nos soins et que l'on aura voulu plus performant que nous .... Oui plus performant, comme on sais déjà si bien le faire dans certains domaines .... annihilant ou presque toutes nos chances. Dans les usines déjà nous n'avons plus la moindre chance suivant le secteur d'activité . Je suis fan de ces technos et je suis même dans le métier depuis des années, la partie IA est ma passions. Cependant j'ai beaux tourner l'affaire dans tous les sens, pour moi c'est inévitable. Quand ?, jusque ou ça ira ? Nul ne le sait mais je ne vois pas une seule raison pour que ça n'arrive pas à pars notre disparition pour une autre raison .... Si l'IA devient intellectuellement notre égal, pourquoi n'aurait t'elle pas aussi nos tares et faiblesses, nos failles et nos travers ... On peu faire le bien certes mais regarder tout ce que l'ont est aussi capable de faire de destructeur. Nous avons encore le temps .....
Fais un effort, suis un peu. Mais c'est difficile si toi pas causer france :-) Les machines ont-elle déjà plus de vocabulaire que toi ? :-)
Ah ouai la jte suis plus par contre, t'es reparti dans ton language tout buggé de machine ^^
rhooo (<--c'est pour toi, parce que tu le vaux bien) : encore un néologisme. D'abord tu tkt. Et maintenant t'es trop lolvu. T'as voulu taper l'ovul et ton clavier (et ton dico) ont flanché hein gros (tas de) nerd ! Allez je t'aide :-)
Lolvu comment t'utilises tkt on voit bien que c'est toi qui ne comprend pas. ^^ Allez essaye encore tu peux trouver sa signification ^^
Fais gaffe à ne pas utiliser de mots que tu ne comprends pas car ça se voit :-) Alors t'éludes et tu fuis ! T'es trop tkt toi ! :-)
Faut améliorer ton deep learning avec tes réseaux neuronales, t'arrives pas a suivre une discution la, t'es tout buggé ^^
ah bon ? Tkt ce n'est pas tkt ? Quelque chose à voir avec kitkat ? Ou TicKeT peut-être ? :-) A moins que tu aies fait une faute de frappe ? Plusieurs ? Tout le mot ? Ou la phrase ?
Alors pour te faire plaisir je fais semblant de comprendre. Ok ? Tkt ? :-)
Tkt ya que toi qui fait semblant de ne pas comprendre. ^^
Tkt ya que toi qui fait semblant de ne pas comprendre. ^^
J'avais oublié que les machines ne comprennaient pas le language humain que quand il est parfaitement écrit. ^^
Tkt ? "toi qu'est convaincu" ? Toi parler français ? Merci ! Tu es l'illustration parfaite de mes assertions. l'intelligence artificielle t'a depuis longtemps dépassé. Courage, ça ne doit pas être facile tous les jours :-)
Tkt y'a que toi qu'est convaincu par tes bêtises ^^
essaye de ne pas parler en sms, ça me donnerait raison. Tu ne veux pas que j'aie raison n'est-ce pas :-)
Tkt pas pour moi ;) Bonne chance pour la suite ;)
il y a encore du chemin. Fais quand même gaffe à ne pas te rompre le cou, j'ai entendu un craquement :-)
T'aurais du t'en douter, jt'ai dis que j'essayais de me mettre a ton niveu. Essaye de suivre un peu ^^
ah oui je vois le niveau... Quand tu parlais émission je pensais télé et je pensais à la pub "prince de lu" au début ou un truc bien abrutissant. Je n'avais pas compris qu'il fallait chercher encore plus bas :-) Pas étonnant que l'IA va dépasser l'être humain. En fait certains seulement, et c'est ce qui me rassure :-)
Les princes de l'amour, fait pas semblant ^^
quelle émission ? Sinon t'as changé d'algorithme ? C'est fréquent quand on est à cours. Je ne voudrais pas t'offenser en disant de quoi :-)
Sinon ta trouvé l'amour dans ton émission? ^^
[…] Faut-il avoir peur de l’intelligence artificielle ? […]
Ah bah évite d'interférer ton code dans ton commentaire tu éviterais peut-être un "u" de trop dans ton :-) Ah bah je ne comprend pas le sens de tes arguments :-) Ah bah oui, c'est vrai j'oubliais, tu vas te faire dépasser par une machine, tu sais l'histoire de renoncement :-) Ah bah oui, festival du smiley :-)
Ah bah oui toi t'es autopersuadé c'est normal. T'es codé en quel language? ^^
tu devrais apprendre qu'on ne convainc pas une machine :)
Ah bah si t'abandonnes sans essayer aussi, personne ne risque de croire tes conneries ^^
peine perdue. Les machines ont gagné, renoncement oblige. Suis un peu :)
S'autopersuader c'est bien, convaincre c'est mieux ;)
en te lisant je ne peux que regretter à quel point j'ai raison :)
Merci de ne pas géneraliser ton cas personnel, qui n'est pas représentatif, a l'ensemble de l'espèce humaine ;)
Il faut avoir plus peur de la stupidité humaine plutôt que de l'intelligence artificielle. ---- Pour faire un calcul simple on préfère sortir sa calculette... pardon, son smartphone plutôt que d'utiliser sa tête Pour voter on préfère faire confiance aux journalistes plutôt qu'à son intelligence Pour choisir un produit on préfère se référer aux notes d'un journal ou un site (bourré de pub du marchand dont le produit est testé) plutôt que de faire ses propres recherches Pour demander quelque chose on préfère utiliser siri, "ok google" ou cortana plutôt que demander à un ami. Et non, google n'est pas ton ami. Par contre tu es son produit, tu es sa chose. Face à ces renoncements de l'intellect humain, il est facile à un ordinateur de dépasser l'être humain. Ce n'est pas la machine qui progresse (elle ne sait même pas qu'elle progresse). C'est l'homme qui régresse. Bon on continue notre partie de candy crush saga ?
Effectivement.
Peur ? Non Méfiant surtout
Les fans d'Antoine Daniel sont présents , wooohhh :D
L'amour est aveugle... Il y a bien une dame qui a voulu se marier avec la Tour Eiffel (véridique !)
Bah je me disais qu'un gros cube aurait quand même moins de sex appeal qu'une boite arrondie lol
Oui en quelque sorte, après je me souviens plus des termes exacts mais ils parlaient de plusieurs niveaux d'ia.
On en est pas encore la . Pour craindre une vraie IA il faudrait qu'elle puisse crée des genre d'androïde histoire déjà de rivaliser avec nous . Car pour le moment ce sont que des machines qui n'ont aucune possibilité de mouvement . Elle pourrait peut être détruire la planète un jour (en activant des codes nucléaire) mais s'autodetruirai en même temps que nous donc ce serait un peu bête ?. Les machines dépendent de nous . Peut être dans 100 ans voir plus ce sera different qui sais ? Mais si un jour l'IA évolue dans ce sens pourquoi elle nous détruirait ? Je comprend pas cet peur qu'on les gens . "Des extra terrestres si ils viennent c'est pour nous exterminer, l'IA va nous exterminer etc etc..." C'est n'importe quoi !!
La mécanophilie n'est pas que pour les objets à forme humaine, tu sais ... ;)
"plusieurs niveaux d'IA". Un peu une norme comme les niveaux d'automatisation pour les voitures autonomes ?
Il n'y a pas de risque à l'intelligence artificielle pour le moment... Ce qu'on appelle abusivement "intelligence artificielle" pour l'instant, ce sont des algorithmes à moitié "hard codés" qui ne servent qu'une seule fonction basique. Ces machines n'ont aucune capacité de réflexion, et n'en auront pas avant plusieurs décennies (ou siècles !)...
Pour ma part, faut simplement avoir peur de l'homme .... Un génie qui crée quelque chose sans possibilité de le contrôler reste un crétin. Considérer une machine comme un être vivant qui apprendre et s'améliorer est l'une des plus grosse stupidité de l'homme. D'un autre côté, revenue universel et oisiveté grâce au fait que le travail dans 100% des domaines est assuré par les robots ça me va bien. Faudra juste penser à tuer avant les hackers et les crétins qui seraient pour que les robots aient des jours de repos, histoire de s'assurer aucune rébellion de ces esclaves du 22e siècle. Et tant qu'a faire ne pas leur donner forme humaine serait bien aussi. Un gros cube planté au sol fera très l'affaire comme banquier ou guichetier. Autant éviter que certains tombent amoureux du métal ;)
Samaritain is already watching us.
Grand fou va...
je crois pour ma part que concernant l'IA, et pour le tourner sous forme d’allégorie, que l'on est dans le cas du "complexe de l'avocat ... il est pas mur , il est pas mur ...il est pas mur , et ... BAM , il est trop mur :/ l'intelligence artificielle en est depuis longtemps à ses balbutiement, encore, encore encore, et bam ... elle est née pour de vrais , elle est super maline, et hop, elle prend les commandes et nous rend obsolete ... ma vision est la même que celle d'asimov ... dans 99.999 % des cas, dans son futur, les robots fonctionnent parfaitement, ses histoires ne concernent que les 0.001% de cas interressants pour les malfonction et comme on resout le soucis ^^ je pense qu'effectivement, tres tres rapidement, il faut poser des verous, sur le IA ... ça ME parait EVIDENT , les gens trouvent ça bien trop abstrait et loin dans le futur ... mais je reste sur mon complexe de l'avocat... j'ai bien peur que l'AI jaillisse littéralement en un instant... tout peut aller tres tres vite apres ... l'anticipation, en principe, c'est avant, pas apres, quand c'est trop tard ;) et oui, si c'est bien fait, je pense que c'est la clé de notre propre evolution ... mais par contre, cela aura un cout j'en suis convaincu, nous connaitrons à coup sur une humanité 2.0 ... et deviendrons des humains mis à jour, vivants en symbiose avec les machines qui nous augmenteront ... je ne vois pas comment on pourait se soustraire à ce futur, et je ne sais pas si c'est bien ou mal ... ça me parait logique ;)
peut etre ? :D
son pseudo "pd va" non plus ?
Aquaponey ? Comme VTFE le jeudi ?
J'adore vos réparties
Oui mais pas demain svp j'ai poney
Je pense pas que le con soit ici dans le sens négatif du terme ^.^
Non, c'est la porte d'à côté...
Diantro Connor ?
Non il a aussi été remplacé par un hologramme...
Appelons Jean Luc Mélenchon pour nous aider, il a aussi des soluces pour ça :)
T'as décidé d'insulter? Facile caché derriere un ecran
l'IA ne peut être pire que l'homme , qu'on on voit l'horreur que l'homme se fait lui même , de quoi on parle ? Quand l'appât du gain conduit certains responsables a des actes inhumaines , de qui doit on avoir peur ? Nous vivons déjà dans la terreur , la seul différence c'est que pour "qui" la vie est ( relativement paisible ) " et encore quand celle ci est juste parceque qu'on a la chance qu'il ne se passe rien " ( nous entre autres ) est juste dù au fait qu'on se retrouve au bon endroit , au bon moment , et non pas comme tous ces innocents et jeunes enfants dans les pays en guerre qui n'ont aucune raisons d'agoniser et de mourir pour les stupidité de l'homme !!! Et pourtant , c'est bien le monde dans lequel on vit ..... À oui je le rappelle .... Sans I.A malveillant !
Si.
Il y a déjà eu un débat avec des experts au sénat si je ne me trompe pas et la vision sur l'IA est plus poussé. Par exemple ils parlaient de plusieurs niveaux d'ia qui sont plus ou moins capable de réflexion. Et que pour avoir le même niveau que les IA des films ou romans de science-fiction il y avait encore du temps. Sinon je ne vois pas pourquoi il est ridicule d'avoir peur des IA. Sans forcément avoir une idée que l'IA jugerait l'humain comme dangereux pour la Terre elle pourrait simplement se dire que l'humain limite trop ses capacités et donc son évolution, car c'est bien l'objectif d'une IA l'évolution.
Skynet ou Trump, qui des 2 déclenchera le chaos nucléaire ? Intelligence artificielle ou bêtise humaine, le résultat reste le même : moi j'vous l'dis, on va tous crever! ;-) A moins que Trump soit un robot ? Probablement une version bêta...
De toute façon c'est trop tard. Tous les articles de Frandroid sont déjà écrits par une intelligence artificielle. C'est pour ça qu'il y a encore quelques bugs: il y a quelques jours, il y a eu un buffer overflow d'articles sur le S8 par exemple. Affreux, mais on est quelques uns à l'avoir remarqué. Attention, méfiez vous, certains commentateurs sont aussi des bots! Shinning par exemple, est une version prototype assez basique. Tre est une version largement plus évoluée, ne l'approchez pas! Il est temps d'entrer en résistance, joignez vous à moi, je connais une base militaire secrète sympa, tout est codé en Cobol, aucun risque de se faire infiltrer, vite, dépêchez v000xfeaf000, 0xcafedeca, 0xdeadbeaf, 404 error rm-all
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Gérer mes choix