Une lecture de Hansson, S.O., Belin, MÅ. & Lundgren, B. Self-Driving Vehicles—an Ethical Overview. Philos. Technol. (2021). https://doi.org/10.1007/s13347-021-00464-5

La majeure partie des réflexions éthiques sur les véhicules autonomes portent sur la problématique de l’accident, et en particulier sur les cas limites et souvent un peu théoriques de choix particuliers, entre deux victimes par exemple (version remise à jour du dilemme du tramway). Cet article vise à la fois à examiner un spectre beaucoup plus large de sujets, et à envisager des situations plus réalistes.

Le texte commence néanmoins par la question de la responsabilité, mais en utilisant la distinction entre devoir (task responsibility) et faute (blame responsibility) et en notant à la fois qu’il peut y avoir un écart entre les deux, et que dans le contexte des véhicules autonomes, l’attribution des responsabilités sera nécessairement amenée à changer par rapport au fonctionnement actuel.

Par exemple si actuellement un accident de la route intervient devant une école, le chauffeur peut être en faute, et jugé comme tel, et on peut attribuer à la collectivité ou à la puissance publique généralement un devoir, disons de mieux protéger les abords de l’école. Ici, les deux types de responsabilités sont attribués à deux acteurs et non pas à un seul. L’équilibre entre ces responsabilités est susceptible de changer dans le temps, indépendamment de la problématique des véhicules autonomes, en fonction des priorités de la société. Si un véhicule entièrement autonome est impliqué dans un accident, cet équilibre sera forcément amené à changer : il n’y a dans le véhicule que des passagers, aucun chauffeur, et le passager ne peut être tenu pour responsable de l’accident. L’hypothèse la plus probable est qu’on assignera une responsabilité aux fabricants ou à ceux qui gèrent les systèmes informatiques, ceux du véhicule ou ceux qui forment l’infrastructure numérique utilisée par le véhicule (données GPS, systèmes intégrés dans de futures « routes intelligentes », etc.).

Mais il ne s’agit pas alors d’individus, et si le chauffard de l’exemple classique peut aller en prison, les responsabilités de toute cette chaîne d’acteurs collectifs sont d’une autre nature ? Il devient très difficile d’attribuer une faute individuelle. En même temps, les problématiques de devoir et de faute sont en fait plus rapprochées, puisque regroupées dans des acteurs identiques dont on peut imaginer à la fois qu’ils pourraient compenser les victimes (plutôt que d’envoyer un chauffard en prison) et être tenus de modifier leurs processus pour limiter la reproduction de l’incident.

Les auteurs notent ensuite que les attitudes du public à l’égard de ces systèmes ne sont pas fixées, mais qu’on peut faire quelques hypothèses. Par exemple que la tolérance du public à l’accident sera bien moindre qu’avec des chauffeurs humains. Au point de peut-être un jour être éthiquement discutable : si une baisse des accidents mortels de 50% est prouvée, mais que le public rejette l’extension de ces systèmes tant que le pourcentage n’atteint pas 80%, est-ce éthique ? Plus généralement, les auteurs notent que s’il est certain que l’introduction des véhicules autonomes sera l’occasion de tensions dans la société, le degré de ces tensions reste incertain. On peut imaginer un rejet sur fond de peur de la nouveauté et de technophobie qui retarde de plusieurs décennies l’introduction de solutions de ce type. On peut imaginer aussi des rejets sociaux, par exemple si pour des raisons de sécurité des routes sont dédiées à ces véhicules que les véhicules pilotés ne peuvent pas emprunter.

Il est probable au final que les questions de sécurité tiennent le devant de la scène dans les débats publics à l’avenir. Mais en réalité il y a toujours un équilibre à trouver entre la sécurité et d’autres objectifs. Par exemple on peut limiter la vitesse de ces véhicules jusqu’à garantir qu’un choc avec un piéton ne sera pas mortel, mais au risque de mécontenter tous les utilisateurs de ces véhicules, les entreprises qui ont besoin de livraisons rapides, etc. Il y a des solutions pratiques à ces questions, par exemple la ségrégation du trafic piéton et du trafic automobile, la piétonnisation complète de certaines zones, un fonctionnement, dans certains espaces, en « caravanes » de véhicules autonomes coordonnés, qui se suivent de très près à plus grande vitesse. Caravanes qui potentiellement ont beaucoup moins d’accidents, mais plus grave, ce qui nécessite de nouveaux arbitrages, qui ne sont pas sans parallèle avec l’aviation, où la sécurité prime, où les accidents sont très rares, mais où ils sont graves.

L’article, qui procède par cercles concentriques, élargit encore un peu plus son intérêt pour s’intéresser aux contrôles externes au véhicule. On en fait tous l’expérience quand on utilise par exemple Google Maps : vous avez un trajet défini, un embouteillage apparaît, GMaps vous propose un nouvel itinéraire. On pourrait imaginer que le véhicule suive par défaut et de façon autonome le nouvel itinéraire. Ça peut être positif pour, par exemple, une ambulance, qui doit arriver à destination le plus rapidement possible. La police pourrait-elle rediriger un véhicule sur le bas-côté, prenant la main à la place de son chauffeur-passager ? Ce serait plus sécurisé qu’une course-poursuite, certainement, mais quels seraient les droits du passager dans ce cas ?

Cercle suivant : au fond, ces véhicules sont des ordinateurs sur roues, qui collectent des quantités de données privées, à commencer par vos déplacements bien sûr. D’autant que les auteurs font remarquer à juste titre qu’on pourrait arriver à un moment où ces véhicules sont assez importants pour que leurs besoins de communication et de coordination soient pris en compte et qu’en conséquence les autres véhicules, non autonomes, soient aussi équipés de systèmes leur permettant de communiquer leurs position, vitesse, etc. aux véhicules autonomes, pour améliorer la sécurité de tous. Le potentiel d’intrusion dans des données privées est important : dans une société libérale, le droit de se déplacer sans être surveillé, par un gouvernement, une entreprise ou un individu, est un droit assez fondamental.

Pour ce qui concerne leur empreinte écologique, les auteurs notent que le jury n’a pas rendu son verdict : les véhicules eux-mêmes seront peut-être plus efficients, mais ce gain pourrait être compensé par un kilométrage plus important, un impact négatif sur les transports publics et collectifs, etc. Questions éthiques et politiques.

Pour ce qui concerne les personnes, l’article, c’est tout à fait son point fort, soulève tout un tas de questions d’éthique appliquée passionnantes : un enfant peut-il voyager seul dans un véhicule autonome ? À partir de quel âge ? Pourrait-on imaginer un système où sur une route entièrement « gérée » (car avec l’avènement des véhicules autonomes, la route elle aussi devient « intelligente » et gérée) certains véhicules sont privilégiés en cas de trafic dense ? Une ambulance ou un camion pompier ? Un véhicule utilisé par un passager « client de catégorie 4 étoiles » ? 3 étoiles ? 1 étoile ?

Enfin, ces nouveaux véhicules sont, comme toutes les nouveautés, une opportunité pour les criminels. C’est un nouveau moyen de transport : on pourrait y mettre de la drogue, qui est livrée sans personne au volant. Ou une bombe, qui est acheminée sur le lieu de l’explosion sans personne au volant. Le système peut bien sûr être hacké dans le cadre, par exemple, d’un kidnapping : la victime est enfermée dans un véhicule tout simplement redirigé vers une autre destination. Ces hypothèses doivent être prises en compte dans la conception des systèmes.

Cet article ne prétend répondre de façon définitive à aucune des questions posées. Par contre, comme son titre l’indique, c’est une excellente vue d’ensemble des problèmes d’éthique appliquée posés par l’émergence des véhicules autonomes, dont la liste permet de mieux se rendre compte de l’ampleur des modifications sociétales que leur introduction est susceptible d’amener.