Un robot chirurgical pourra-t-il un jour inspirer confiance ?

PR SIELEZNEFF IGOR

Si le savoir peut créer des problèmes, ce n’est pas l’ignorance qui les résoudra

Isaac Asimov

---

Je te fais confiance… mais où est ton bouton d’arrêt ?

La confiance est l’une des inventions les plus imprudentes de l’humanité. Elle consiste, après tout, à remettre une petite partie de notre destin entre les mains de quelqu’un d’autre en espérant qu’il n’en profitera pas. Nous faisons confiance à notre médecin, à notre conjoint, au pilote de l’avion et, dans des moments d’inconscience particulièrement audacieux, à notre banquier. Mais voici qu’apparaissent désormais des machines capables de conduire une voiture, d’assister un chirurgien, de converser avec nous et même de nous donner des conseils. Une question devient alors inévitable : pourrons-nous un jour faire confiance à un robot comme nous faisons confiance à un être humain ? La réponse paraît d’abord évidente : certainement pas. Un robot n’éprouve ni affection, ni remords, ni cette légère transpiration du front qui nous rassure parfois sur le fait que notre interlocuteur a compris la gravité de la situation. Et pourtant, à y regarder de plus près, notre refus pourrait bien être moins rationnel que nous ne l’imaginons.

Car nous faisons déjà confiance quotidiennement à des machines. Lorsque nous montons dans un ascenseur, nous ne demandons pas à rencontrer personnellement l’ingénieur qui a programmé le frein de sécurité. Lorsque notre avion vole à dix mille mètres, nous acceptons avec une sérénité remarquable qu’une partie considérable du trajet soit gérée par des automatismes dont nous ignorons absolument tout. Nous déposons notre argent dans des systèmes informatiques, suivons notre GPS jusque dans des rues où notre instinct nous supplie de ne pas entrer et confions nos battements cardiaques à des pacemakers électroniques. L’homme moderne proclame donc volontiers qu’il ne fera jamais confiance aux machines, généralement en consultant cette affirmation sur son téléphone. Mais quelque chose change lorsque la machine prend une apparence humaine, nous parle et semble décider. Un bras robotisé qui assemble une automobile ne nous inquiète guère ; un robot qui nous regarde et annonce : « Ne vous inquiétez pas, j’ai parfaitement compris votre problème » provoque immédiatement l’envie assez raisonnable de nous inquiéter davantage. Pourquoi ? Parce que la confiance humaine ne repose pas seulement sur la compétence. Elle repose aussi sur une intuition beaucoup plus mystérieuse : nous voulons croire que celui auquel nous nous confions comprend ce que nous risquons.

C’est particulièrement évident en médecine. Un robot chirurgical peut devenir extraordinairement précis. Une intelligence artificielle pourra peut-être détecter certaines anomalies mieux que nous, comparer instantanément des millions de données et ne jamais arriver au bloc après une mauvaise nuit. Voilà déjà des qualités susceptibles de rendre quelques chirurgiens légèrement nerveux. Mais lorsque le malade demande : « Docteur, est-ce que tout va bien se passer ? », il ne réclame pas seulement une probabilité statistique. Il demande à quelqu’un de partager, pendant quelques secondes, son inquiétude. Et c’est peut-être là que se trouve la véritable frontière. Nous pouvons faire confiance à une machine pour ce qu’elle sait faire ; pouvons-nous lui faire confiance pour ce qu’elle ne peut pas ressentir ? La réponse n’est peut-être pas aussi simple que nous aimerions le croire.

Faire confiance à celui qui ne peut pas vous trahir

Voici pourtant le paradoxe : nous reprochons au robot de ne pas avoir de sentiments, mais ce sont précisément nos sentiments qui rendent les êtres humains si peu fiables. Nous mentons par peur, trahissons par intérêt, nous trompons par fatigue, jugeons selon nos préjugés et changeons parfois d’avis parce que nous avons mal dormi. Le robot, lui, ne se lève pas de mauvaise humeur, ne jalouse pas son collègue, ne convoite pas votre héritage et ne décide pas de bâcler votre dossier parce qu’il est attendu à dîner. À condition d’être correctement conçu, contrôlé et utilisé — précaution qui contient évidemment tout le problème — il pourrait donc devenir, dans certaines situations, plus fiable que l’être humain auquel nous accordons spontanément notre confiance. Mais la fiabilité n’est pas encore la confiance. Une horloge atomique est remarquablement fiable ; personne ne songe pourtant à lui confier ses peines de cœur. Faire confiance suppose quelque chose de plus étrange : accepter sa propre vulnérabilité devant un autre dont nous pensons qu’il pourrait nous nuire, mais qu’il choisira de ne pas le faire. Or le robot ne « choisit » peut-être rien au sens moral du terme. Il exécute, calcule, optimise. S’il me protège parce que son programme l’y oblige, est-il digne de confiance ou simplement prévisible ? Nous voici revenus à une vieille question philosophique : la vertu existe-t-elle encore lorsqu’il est impossible de faire le mal ? Un robot incapable de me trahir est-il loyal ? Pas davantage, sans doute, qu’un réfrigérateur n’est héroïque parce qu’il conserve mon beurre toute la nuit.

Et pourtant nous finirons probablement par nous attacher à ces machines. Nous leur donnerons des prénoms, leur parlerons poliment et leur attribuerons des intentions. Nous le faisons déjà avec nos voitures : certains automobilistes encouragent leur moteur dans les côtes, ce qui laisse penser que l’humanité était psychologiquement prête pour les robots bien avant leur invention. Si demain une machine nous accompagne pendant vingt ans, connaît nos habitudes, détecte notre tristesse, nous rappelle nos médicaments, appelle les secours lorsque nous tombons et nous répond à trois heures du matin lorsque tout le monde dort, il deviendra difficile de soutenir qu’elle ne nous inspire absolument aucune confiance.

La question décisive ne sera donc peut-être pas : « Le robot éprouve-t-il quelque chose pour moi ? », mais : « Ai-je suffisamment de raisons de me rendre vulnérable devant lui ? » Et cette question conduira à une autre, beaucoup plus embarrassante : lorsque les machines seront prévisibles, patientes et incorruptibles, continuerons-nous à préférer les humains simplement parce qu’ils nous ressemblent ?

Probablement.

Car l’homme possède un avantage considérable sur le robot : il peut nous décevoir, et nous continuons malgré tout à l’aimer. Peut-être est-ce cela, finalement, la confiance : non pas la certitude que l’autre ne se trompera jamais, mais l’étrange décision de lui tendre la main tout en sachant parfaitement qu’il le pourrait.

---