Les voitures sans conducteur rouleront bientôt dans nos villes. Pour la première fois dans l’histoire de l’humanité, une machine décidera seule qui sauver, sans que l’humain ait le temps de vérifier sa décision. L’algorithme choisira en fonction des choix moraux que nous lui aurons inculqués. Mais sommes-nous sûrs de notre propre morale ? 

Jean-François Bonnefon est docteur en psychologie cognitive et directeur de recherche à la Toulouse School of Economics, et l’un des spécialistes mondiaux des dilemmes moraux posés par l’intelligence artificielle.

Humensciences – 183 pages – 19 euros.

L’assaut des voitures autonomes sur les routes : une épreuve humaine avant tout !

Ce livre, c’est un livre qui éveille sur une question épineuse. Même si une voiture autonome promet une rapidité d’action exemplaire face aux réflexes humains, il y aura toujours cet instant fatidique contre lequel la machine ne pourra rien faire pour éviter un drame. C’est là-dessus que le sujet de ce livre met le doigt. Que faire devant une situation, qui sera dramatique, quoi qu’il arrive ? Vaut-il mieux sauver des adultes, des enfants, des sans-abris ou des personnes occupant un poste important ? Voilà des questions posées au monde entier, pour tenter de mener la première enquête la plus hors norme de l’histoire.

Un groupe de chercheurs a eu l’idée du siècle. Une idée majeure et primordiale, malgré la fébrilité des constructeurs automobiles et leur humour douteux. Ce sont deux visions du monde qui s’affrontent. Les uns qui prônent la sécurité routière, et les autres qui souhaitent vendre leurs véhicules pour maximiser les profits. Alors quand vient la question de savoir s’il vaut mieux sacrifier les personnes dans le véhicule, ou des piétons, cela laisse songeur. Comment vendre une voiture programmée pour tuer ses passagers lorsqu’une circonstance précise l’impose ? Imaginez une publicité vantant les mérites de votre nouvelle voiture, qui pourrait un jour devenir votre propre ennemi mortel. Ce livre met en lumière des éléments de réflexion bien au-delà de mes ressentis personnels sur cette affaire.

Une expérience scientifique ingrate et pourtant bien nécessaire avant de passer ce nouveau cap technologique…

Il y a quelques années, ce sujet de la voiture autonome a fait beaucoup parler de lui. Qui tuer ? Qui sauver ? J’avais même voulu participer au projet, à l’aide de leur site internet, avant de m’y résoudre. Qui peut juger de la vie de quelqu’un d’autre ? L’auteur explique avec minutie tous les détails de son enquête, ainsi que toutes les difficultés qui se sont mises en travers de son chemin. Il a été difficile de faire accepter par la communauté scientifique une telle expérience, pour le moins novatrice. En tout cas, j’ai vite compris que la vie de chercheur pouvait être calamiteuse et ponctuée d’échecs et d’erreurs qui peuvent tout remette en cause à chaque instant. Mais ils savaient qu’ils devaient tenir bon pour offrir une opportunité morale à la voiture de demain. Des personnes se sont réunies pour débattre de ce sujet, en Allemagne, pour mettre en place les règles de base de la voiture autonome en cas de drame inévitable. Mais qui sont-ils pour imposer leurs idées face à celles du peuple ?

Les chercheurs ont été loin dans leur réflexion, et c’est en cela que je trouve ce livre intéressant au possible. Leur expérience pourrait avoir mis en avant la possibilité d’un échec commercial de la voiture autonome. Si elle pouvait sauver ne serait-ce qu’une faible part de la population, ce serait normalement suffisant pour pouvoir implanter ces véhicules sur le marché automobile. Mais, étrangement, c’est bien plus complexe que cela. Vu que les conducteurs estiment mieux conduire par rapport à tous les autres conducteurs, ils s’estimeraient donc bien plus compétents face à une machine. L’égo humain serait donc en passe de nuire au progrès, et à la baisse de la mortalité. Ce livre est étonnant par tous les sujets qu’il aborde, autant sur l’expérience en elle-même, que sur ses à-côtés informatiques et littéraires. Je me suis posé beaucoup de questions, et je me suis forgé une opinion sur la voiture autonome. Maintenant, je sais de quoi je parle. Cet univers de la morale intégré aux intelligences artificielles est un sujet des plus complexes depuis l’avènement des machines !

Ma note : 5/5