Rappelez-vous, en mars dernier, Uber était au cœur de la polémique après qu’une de ses voitures autonomes en test avait percuté mortellement une piétonne dans la ville de Tempe, aux États-Unis. Peu de temps après, la police a diffusé une vidéo montrant que le pilote automatique aurait vraisemblablement dû détecter la victime et éviter l’accident.
Mais ladite vidéo montrait également que la technicienne d’Uber assise derrière le volant — et dont le rôle est d’intervenir en cas de problème — semblait assez distraite et ne regardait pas attentivement la route quelques instants avant l’impact avec la piétonne. Nous ne pouvions alors pas affirmer avec certitude où son regard était posé.
Or, comme le révèle TechCrunch, un rapport de 318 pages publié la semaine dernière par la police de Tempe révèle que le smartphone de l’employée d’Uber diffusait l’émission The Voice sur la chaîne Hulu. La conductrice de sécurité aurait ainsi regardé 204 fois l’écran de l’appareil en 43 minutes de trajet.
La réponse d’Uber
La technicienne n’aurait ainsi pas regardé la route pendant 5,9 km sur un parcours d’un peu moins de 19 km. Une porte-parole d’Uber a indiqué que son entreprise continue de « coopérer pleinement avec les enquêtes en cours tout en menant [notre] propre examen interne de la sécurité » avant de préciser : « nous avons une politique stricte interdisant l’utilisation d’appareils mobiles pour quiconque conduit nos véhicules. Nous avons l’intention de partager davantage d’informations quant aux changements que nous apporterons bientôt à notre programme ».
Pour en revenir au comportement du véhicule, celui-ci avait repéré la piétonne avant de la renverser, mais avait mis beaucoup trop de temps à comprendre qu’il s’agissait d’un être humain. 1,3 seconde avant l’impact, le système a estimé qu’il était nécessaire d’enclencher le frein en urgence pour atténuer le choc. Or, comme il s’agissait d’un modèle en test, le frein d’urgence était désactivé pour éviter des « comportements erratiques ».
C’est essentiellement pour cette raison qu’un être humain est placé derrière le volant. En attendant, Uber n’a plus le droit de tester ses voitures dans l’État d’Arizona.
Pour aller plus loin
Accident de voiture autonome : la responsabilité d’Uber mise en cause par une vidéo
Des invités passionnants et des sujets palpitants ! Notre émission UNLOCK est à retrouver un jeudi sur deux en direct, de 17 à 19h sur Twitch. Pensez aussi aux rediffusions sur YouTube !
Dire que le problème vient de l'humain, pour une techno destinée à cohabiter avec des humains, c'est comme ne rien dire.
Ouaip. Les gens disaient la même chose de l'ABS en même temps donc bon...
Je n'aurai pas dit mieux, merci :)
Dans tous les cas l'erreur était humaine :-/
Dans tous les cas le problème viens de l'humain et non de la techno :) mais restons confiant et optimiste ^^.
C'est toujours pareil : on se lance tête baissée dans une techno dont on fait mine d'oublier qu'elle échouera parce qu'en définitive, on ne pourra pas lui confier le frein d'urgence (ou n'importe quoi d'autre). Si déjà dans les testeurs, il y a des rigolos qui font autre chose que regarder la route, je vous dis pas ce que ça donnera ensuite. On nous parle d'IA pour de la conduite façon "je passe entre deux plots", mais on oublie qu'à un certain stade, la conduite a réellement besoin d'une IA. Par exemple pour comprendre la philosophie du couillon qui ne sait pas s'insérer sur l'autoroute ou de celui qui vous fait un appel de phares pour vous laisser passer. Vous êtes à un STOP, et parmi les gens qui arrivent, certains clignotent pour tourner dans votre rue, mais qui ne freinent pas vraiment ... etc. Piger le type en face qui veut faire un tournant à l'indonésienne, ou pas. En définitive, on s'apercevra que la conduite automatique ne fonctionne que si tous les véhicules en sont dotés et sur des routes protégées de tout piéton. Et cette soi disant conduite automatique ne sera qu'une aide à la conduite créant plus de problèmes que de solutions. Ça ne m'empêche pas de penser qu'un piéton qui s'engage sur une route alors qu'il serait touché par l'un des véhicules circulant à sa vitesse normale, est à 100% responsable de ce qui lui arrive.
Piéton imprudent + conducteur non attentif + automatisme défaillant = accident mortel. Rien de très nouveau en fait.
Ah, bah encore heureux que l'on n'a pas suivie ce raisonnement pour toute les grosses inventions. C'est pas parce que ce n'est pas au point qu'il faut tout arrêter et l'interdire. C'est idiot et on serait encore à l'age de Pierre avec un telle raisonnement s'il fallait arrêter un projet parce qu'il y a un mort (ou plusieurs) Des exemples : Merci la conquête spéciale, qui, malgré ses morts, nous permettent d'avoir des satellites, les GPS et de faire avancer l'humanité vers la dernière frontière, l'espace. Mais tu me répondras, "ouais, mais ces gens, ils ont étaient au courant des risques". Du coup, parlons d'une invention plus ancienne, l'aviation, de nombreux mort aussi pour maitriser cette techno. Encore de nos jours. On doit donc arrêter de prendre l'avion, le moyen de transport le plus sûr juste parce que des gens meurent ? Pourtant, ce n'est pas toujours au point. Ce sont des accidents récent qui on permet d'augmenter la sécurité des appareils. Mais on peut aussi revenir a bien plus loin : le feu. Ce n'est pas une invention bien sûr, mais la maitrise de ce dernier, nous permet d'être la aujourd'hui. Pourtant, le feu, ça tue. Donc ce n'est pas très au point, même aujourd'hui. De même pour la médecine, on doit l'arrêter aussi car son taux de réussite n'est pas de 100 % ? Ce n'est pas parce que une techno/invention/science n'est pas au point qu'il faut pour autant l'interdire ou la rejeter. C'est en faisant des erreurs que l'on progresse. Même la mort de personne innocente en font partie. Pourtant, sans cela, on n'en serait pas la aujourd'hui. Et la faute humaine n'est en rien de la faute d'UBER. Qu'est-ce que tu veux que fasse UBER si ses employés prennent en secret leur téléphone alors que c'est interdit ? On met un humain pour combler les potentielles défaillance de la machine. Maintenant, si l'humain ne fait pas son travaille en sachant que l'outil peut être défaillant...
la verité c'est que c'est deja le cas sur bon nombre de vehicule.ce n'est pas encore de la conduite autonome mais déja le constat est alarmant le vehicule ralenti a votre place dans les bouchons , ou a 130 sur l'autoroute. pour quoi faire ? observez ce que font les gens , ils se remaquillent , matent le match de foot, ou pianotent sur leur mobile, avec la confiance aveugle et la de_responsabilisation qu'elle entraine. alors imaginez la conduite autonome... Et compte tenu du parc installé, dans 10 ans ces systemes n'auront en aucun cas la capacité a reagir comme le fait un cerveau humain dans un contexte complexe. sinon prenez le train et regardez un bon film.
Juridiquement parlant.. en France ! Peut-etre qu'aux states c'est pas pareil :)
Ouais en théorie, sauf qu'en pratique le piéton qui traverse devant toi sans passage piéton, tu seras jamais en tort....
Le femme se serait suicidé autrement je pense...
Imprudent ? Suicidaire tu veux dire.... quand tu passes de nuit devant un gros 4x4 bien visible et bien bruyant, on peut appeler ça suicide.... Sinon les gens qui se jettent sous les trains pour se suicider sont aussi des "imprudents"....
Quand je lis dans vos commentaires plus bas que c'est "juste elle la fautive", la piétonne, ca me fait froid dans le dos. Je vous rappelle que un véhicule en mouvement est une arme, et que le piéton est toujours la victime, quel que soit son comportement (d'ailleurs le cas dans le code de la route en France, où un piéton peut traverser où il veut, le véhicule sera toujours en tort). Cela n'empêche pas de se comporter avec prudence effectivement. Mais le responsable est clairement Uber (véhicule et "conductrice"). Heureusement que les tests de ces véhicules sont interdits dans de plus en plus d'états.
Quand tu regardes où la piétonne a traverser c'est juste elle la fautive. Mais attention je dis pas que la voiture ne doit pas s'améliorer et que la conductrice n'aurais pas dû être attentive vu que c'était un prototype.
Donc la version a encore évolué ? Il me semblait avoir lu que le système avait traité le fait que la piétonne traverse comme un "faux positif" et qu'il l'avait donc ignorée.
Sauf que le code de la route est très clair, un piéton qui montre la volonté de traverser, traverse ou laisse planner un doute sur ses attentions est automatiquement prioritaire. Je suis d’accord que c’est aussi une faute de la piétonne, mais pas juridiquement parlant
En plus avec The Voice y'a pas besoin de l'image :-)
parce que cela n'a pas l'air au point et que les conducteurs censé palier aux défaillances du système #nenonrienàfoutredespietons ... Pour preuve, UBER interdit pourtant strictement les appareils mobiles à ses employés et que faisait elle, ben du tel mobile pour regarder une émission tv...
Pourquoi heureusement ?
C'est clair. La conductrice ne faisait pas son travail et regardait son téléphone (c'est flagrant sur la vidéo) La voiture a merdé La conductrice pensait quoi ? Ô_o aucun conducteur humain n'aurait pu la voir à temps... On saura jamais, dommage...
Selon moi, tout le monde est fautif dans cette histoire. L'employée ne devait pas regarder l'émission, la piétonne était folle de traverser comme ça et la voiture aurait dû ralentir. Ça ne peut faire qu'avancer la technologie après tout.
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Gérer mes choix