En quoi la voiture autonome pose-t-elle des problèmes éthiques et moraux ? Aujourd’hui, un conducteur humain ne peut pas choisir en une fraction de seconde la meilleure option pour éviter un accident. Il fait ce qu’il peut, et personne ne le condamnera pour avoir fait le mauvais choix. La morale n’intervient pas. Les voitures autonomes, elles, ont le temps de décider, mais il faut leur édicter des règles de conduite. Nous devons donc répondre à des questions complexes que seuls les philosophes se posaient jusqu’à maintenant.
Lesquelles ? Nous travaillons sur les cas où le zéro victime est impossible. Alors qui faut-il sauver ? Le plus grand nombre ? Mais faut-il, pour cela, tuer un piéton qui n’était pas impliqué dans l’accident ? Lorsque des piétons traversent devant vous alors qu’ils ne devraient pas, faut-il privilégier les passagers ? Et si ce sont des enfants qui déboulent pour rattraper leur ballon ? Ce sont des exercices de pensée qui étaient jusque-là donnés aux étudiants en philosophie pour leur montrer que dans certains cas, il n’y a pas de bon choix. Et personne n’était pressé d’y répondre. Mais aujourd’hui, on ne peut plus éluder la question.
Qui doit y répondre ? Personne ne le sait. Le marché va plus vite que les politiques. Les constructeurs se posent la question depuis longtemps. Mais il y a quelques mois, un scandale a éclaté lorsqu’un manager de Mercedes a annoncé que leurs voitures protégeraient leurs passagers. Les constructeurs ont alors compris que quoi qu’il arrive (que la voiture protège ses passagers au détriment du plus grand nombre, ou bien qu’elle sacrifie son propriétaire pour réduire le nombre de victimes) leur image serait mauvaise. Alors ils comptent sur les régulateurs pour leur dire quoi faire. Il est essentiel que les responsables politiques, des représentants de la filière automobile, des chercheurs, des juristes, se penchent sur la question.
Des réflexions sont-elles déjà en cours ? Une commission allemande a rendu ses conclusions cette année, mais elles sont très complexes. Les seules recommandations à peu près claires disent qu’il faut sauver les humains en priorité, qu’une voiture conçue pour sauver le plus grand nombre – ce qui fait globalement consensus – ne devra pas le faire au prix de la vie de gens qui n’étaient pas impliqués dans l’accident, et que les caractéristiques individuelles comme l’âge ou le sexe ne doivent pas être prises en compte. En France, on évoque la mise en place d’un comité pour l’éthique des véhicules autonomes. Mais l’idéal serait d’arriver à des normes internationales.
La notion de morale varie beaucoup selon les cultures… En effet. Nous menons en ce moment des études dans une centaine de pays. Et l’algorithme, qui n’a pas d’idée géographique, politique ou culturelle sur les pays, dessine clairement des régions cohérentes et montre que les préférences morales sont différentes selon que l’on se trouve dans un pays en voie de développement, un état occidental développé, ou l’ex-bloc soviétique.
Le jour où une voiture tuera deux enfants pour sauver deux personnes âgées, ce sera un scandale absolu.
Votre étude en ligne inclut des facteurs comme l’âge, la morphologie, le métier des victimes. Certaines vies valent-elles plus que d’autres ? On ne devrait probablement pas prendre ces éléments en compte, mais on le fait quand même pour anticiper les accidents qui vont créer le plus de scandale. On se rend compte, par exemple, que les gens préfèrent massivement sauver des enfants plutôt que des personnes âgées. Et que le jour où une voiture tuera deux enfants pour sauver deux personnes âgées, ce sera un scandale absolu.
Vous parlez beaucoup d’image, de scandale, d’opinion publique… Oui. Mon objectif n’est pas de vendre des voitures autonomes. Mais on estime qu’elles diviseront par cinq le risque d’accident. Or, celui qui vous dit que la voiture autonome doit sauver le plus grand nombre dit aussi qu’il n’achètera pas un véhicule qui le sacrifiera. Il est important de comprendre les facteurs rédhibitoires pour les gens, parce qu’il ne faudrait pas que ces dilemmes, dont la probabilité est infime, pèsent plus dans la décision d’acheter une voiture que la réduction des risques dont ils pourraient bénéficier.
À quelle échéance faut-il s’emparer du sujet ? On a un peu de temps. Le véhicule totalement autonome ne circulera pas en ville avant 30-40-50 ans…
Pour faire le test en ligne : moralmachine.mit.edu/hl/fr
À lire également : notre état des lieux sur les transports du futur à Toulouse