Les dilemmes éthiques des voitures autonomes

6 novembre 2018

Une étude du MIT Media Lab cartographie les choix éthiques mondiaux pour permettre aux constructeurs de programmer les véhicules autonomes.

Vous êtes-vous déjà demandé s’il valait mieux tuer un vieillard qu’un enfant ? Une joggeuse à la place d’une femme obèse ? Ou trois passagers plutôt que deux piétons ? 2,3 millions d’internautes résidant dans 233 pays différents se sont très sérieusement posé ces questions sur le site Moral Machine, la plateforme d’une enquête menée par trois scientifiques du Massachusetts Institute of Technology pour explorer l’éthique des robots. Des dilemmes théoriques pour un enjeu concret : apporter des réponses aux entreprises chargées de programmer les intelligences artificielles qui piloteront demain les véhicules autonomes.

Iyad Rahwan, Jean-François Bonnefon et Azim Shariff, chercheurs au MIT Media Lab (le laboratoire du MIT dédié aux projets associant design, multimédia et technologie) ont lancé en 2016 une enquête en ligne présentant 13 scénarios d’accidents mortels sur la route. Dans chaque cas, l’internaute doit choisir qui sauver et qui épargner, en basant son choix sur les caractéristiques des victimes potentielles : âge, santé, nombre, position au moment de l’accident… Objectif : cartographier l’opinion humaine sur la façon dont les machines doivent prendre des décisions morales.

Conclusion ? Votre choix dépend en grande partie de votre géolocalisation, selon les résultats de l’étude publiés le 24 octobre dans la revue Nature. Rien d’universel dans nos choix moraux : les scientifiques ont divisé le monde en trois grandes zones possédant chacune son idée de l’éthique et de la réponse que les véhicules autonomes devraient apporter à ces dilemmes. Les pays de l’Ouest (Europe sauf la France et Amérique du Nord), de culture individualiste, de l’Est (Asie et Moyen-Orient), plus portés sur la communauté, et ceux du Sud (Amérique du Sud et pays sous influence française), qui accordent une importance toute particulière à la survie des femmes et des personnes en bonne condition physique.


Lire aussi : Au programme du CES 2018 : IA, véhicules autonomes et protection des données

Certaines tendances sont globales, comme celle qui consiste à sauver le plus grand nombre de personnes possible, de privilégier les humains aux animaux ou d’écraser plutôt un vieillard qu’un bambin. D’autres moins : du piéton ou du passager, un Iranien choisira le premier, tandis qu’un Brésilien épargnera plutôt le second. Les chercheurs ont mis en ligne les résultats de leur étude sous la forme d’un graphique interactif permettant de comparer les préférences par zone géographique.

Devra-t-on pour autant assigner une nationalité aux véhicules autonomes ? « Une discussion à l’échelle internationale est nécessaire afin de pouvoir exprimer nos préférences aux entreprises productrices d’algorithmes moraux, ainsi qu’aux décideurs politiques qui auront à charge de les réguler », répondent les chercheurs. Avant que les intelligences artificielles ne nous imposent leur propre feuille de route.

La rédaction HOW

par L'ADN

Linkedin

A lire aussi

La communauté des leaders de l'innovation

Innovating in good company

Rejoignez-nous