Ne sous-estimons pas le facteur humain

Serions-nous prêts à confier nos vies à des véhicules autonomes si un doute subsistait quant à leur infaillibilité ? Probablement pas… Pourtant, l’erreur est bien souvent humaine… Une tribune de Michel Lévy-Provençal.Que faisiez-vous le 25 juillet 2000 vers 17h00 ? Pour ma part, je me rappelle parfaitement de cet instant. J’étais au sous-sol du centre d’affaire Regus de l’avenue Kleber à Paris. A l’époque j’étais dans les bureaux de la startup que j’avais rejoint : la première place de marché française de cotation alternative à Euronext. Je me remémore parfaitement de cette date, et de cet instant, car les télévisions qui entouraient nos bureaux ont brusquement interrompu leur programme pour annoncer le crash du Concorde sur un hôtel de Gonesse. La catastrophe avait fait 113 morts…

Cet accident tragique a été un coup fatal pour le Concorde. Lancé en 1976, le premier avion commercial supersonique aura volé 27 ans, pour ensuite être retiré du marché en 2003. Certes, son exploitation était déficitaire car trop coûteuse en maintenance et en énergie, mais il est clair que l’impact psychologique de l’accident sur le marché a été catastrophique puisqu’entre 2000 et 2003 le carnet de commande s’est brusquement tari !

Depuis quelques années, plusieurs projets privés issus de la Silicon Valley semblent vivre l’aventure qu’a connu le Concorde à la fin des années 70. Regardez SpaceX qui avance une révolution dans le domaine spatial et promet un vol habité sur Mars au cours de la prochaine décennie et un tour de Lune dans une capsule autonome pour deux touristes l’an prochain ! Regardez encore les annonces stupéfiantes de TESLA qui chaque semestre confirme la démocratisation imminente des véhicules autonomes partout, sur nos autoroutes, routes, avenues, boulevards et rues de nos cités !

Ce tsunami d’annonces n’est pas sans danger pour ces projets. En effet, que se passerait-il si par malheur, le vol autonome habité vers la Lune subissait un accident et se soldait par la mort des touristes spatiaux ? Que se passerait-il si demain, plusieurs familles trouvaient la mort dans des voitures autonomes ? Evidemment, toutes les études prouvent que des vols ou des trajets effectués par des intelligences artificielles sont, ou seront, bien plus sûrs que ceux effectués par un humain. Evidemment, on sait depuis des décennies que la grande majorité des crashs d’avions ont pour cause des erreurs humaines. Pourtant l’idée que notre vie soit entre les mains d’une machine ou d’un algorithme nous effraie bien plus que si elle était entre celles d’un humain. En effet, rouleriez-vous dans une voiture autonome ou voleriez-vous dans un avion dont vous n’avez pas l’assurance à 100% de ne pas subir de défaillance ? Probablement pas. Pourtant il vous arrive très souvent de prendre un risque bien plus important quand un humain est aux commandes… Ce phénomène, à savoir « le facteur humain », est le frein le plus important à la démocratisation de l’usage de l’intelligence artificielle dans la prochaine décennie.

Les ardeurs démiurgiques d’Elon Musk et de ses pairs ne feront qu’aggraver la situation. Ces Christophe Colomb des temps modernes font abstraction de cette donnée sous prétexte qu’elle n’est pas rationnelle ! Ils l’ignorent en espérant qu’elle se résume à un problème technologique alors qu’elle est avant tout un défi psychologique. Comment expliquer cette tache aveugle ? La plupart de ces révolutionnaires, que l’on soupçonne de plus en plus atteints du syndrome d’Asperger, sont dotés de capacités intellectuelles supérieures mais ont de réelles difficultés à appréhender les processus spécifiquement humains : relations interpersonnelles, émotions et comportement non rationnels.

En sous-estimant le facteur humain et en donnant trop d’importance au QI, la Silicon Valley préparerait-elle sans le savoir une révolte qui pourrait annihiler des années d’évolution scientifiques et d’avancées technologiques ?