Avec l’IA et les neurosciences, on se pose la question encore plus qu’avant : L’homme peut-il être considéré comme une machine avec toutes ses composantes, y compris le cerveau, et fonctionner comme une machine entraînée ? Et alors pourquoi ne pourrait-on pas reproduire complètement son fonctionnement avec une vraie machine, un robot bien entraîné ?

Au XVIIIème siècle, un médecin français un peu provocateur a déjà répondu « oui, sans hésiter ». Julien Offray de La Mettrie, dans son livre choc « L’Homme machine » (1747), affirme que nous sommes tous des automates sophistiqués. Pour lui, il n’y a qu’une seule substance dans l’univers : la matière. L’âme ? Un mythe. La pensée, les émotions, la volonté ? Rien d’autre que les « ressorts » du cerveau et du corps. La liberté n’est qu’une autonomie relative du mécanisme humain. « Un rien, une petite fibre, quelque chose que la plus subtile anatomie ne peut découvrir, eût fait deux sots d’Erasme et de Fontenelle ». Ces grands esprits ne l’ont été que par un heureux hasard de la circonvolution des fibres de leur cerveau.

Mangez bien, dormez bien, et votre machine humaine tournera rond. Il développe la thèse que c’est ce que nous mangeons qui crée notre personne : « On dirait en certains moments que l’âme habite dans l’estomac ». Ce serait même le régime alimentaire qui expliquerait le caractère d’un peuple, et qui ferait que les mangeurs de viande rouge et saignante seraient de nature plus féroce.

La Mettrie va même plus loin : si les animaux sont des machines, l’homme l’est aussi. Son livre a scandalisé à l’époque, et on le comprend : dire que Voltaire et le pape sont des horloges un peu plus compliquées, ça ne passe pas inaperçu. Il devra se réfugier à Berlin, sous la protection du roi de Prusse, Frédéric II, et mourra prématurément à 42 ans, ironie du sort, d’une indigestion de pâté de faisan avarié.

Mais c’est un autre auteur philosophe, deux siècles plus tard, Hans Jonas, qui se dira pas du tout d’accord. Dans « le phénomène de la vie » (1966), qui vient d’être réédité en français (c’est une suite de 11 essais rédigés entre 1950 et 1966, montrant le cheminement de la pensée de l’auteur), il regarde un organisme vivant et voit quelque chose que La Mettrie a complètement raté.

Pour Hans Jonas, une machine, même très complexe, reste toujours identique à elle-même tant qu’on la répare ou qu’on la recharge. Un organisme vivant, lui, doit constamment se renouveler. C’est le métabolisme : il mange, digère, remplace ses cellules, et malgré ça, il reste « lui-même ». Cette petite différence change tout. Elle crée une intériorité, un « souci de soi ». L’être vivant a peur de mourir, il veut continuer d’exister. Même la bactérie la plus simple possède une forme primitive de liberté et de finalité. Avec un humour détaché, Hans Jonas fait remarquer que « la question est de savoir si le mathématicien qui est le grand architecte de l’univers est aussi l’architecte, grand ou petit, de l’amibe ».

On imagine bien Hans Jonas répliquer à La Mettrie : « Désolé, mon vieux, mais ta machine n’a pas de souci. Elle s’en fiche complètement de tomber en panne. Le vivant, lui, s’en préoccupe ».

Mais, alors, qui a raison ?

On peut essayer de répondre en allant voir, justement, les neurosciences modernes, et par exemple cet auteur que j’aime bien, Antonio Damasio, qui est l’auteur du célèbre livre « L’erreur de Descartes » (1994). C’est dans ce livre que Damasio montre que la raison toute pure n’existe pas. Nos décisions les plus rationnelles dépendent en réalité de signaux venus du corps : les fameux « marqueurs somatiques » dont il parle abondamment. Quand j’hésite entre deux choix, mon corps m’envoie discrètement des sensations de bien-être ou de malaise. Sans ces petits signaux émotionnels, même les gens très intelligents deviennent incapables de décider.

En gros, Damasio nous dit : Oui, tout est matériel. Mais non, ce n’est pas juste une machine avec des ressorts. Les sentiments ne sont pas un bug ; Ils sont le système d’exploitation du vivant.

Il va même plus loin encore : La conscience commence par le sentiment d’être un corps qui se régule. Faim, soif, fatigue, plaisir…Ces sensations sont le premier « Je » que nous ressentons. Sans corps vivant, sans vulnérabilité réelle, pas de vraie intériorité.

Et c’est là qu’on en revient à l’IA dont je parlais au début de cet article. Oui, nous y voilà, l’IA entre en scène dans le débat.

Avec l’IA, on peut entraîner des modèles, écrire des poèmes, conduire une voiture ou diagnostiquer des maladies, et cela s’améliore chaque jour. Certes. Mais ces systèmes n’ont, bien sûr, ni corps, ni métabolisme, ni sentiments de bien-être ou de malaise. Ils n’ont pas ce « souci de soi » dont parle Hans Jonas. Ils simulent brillamment le comportement humain, mais ils ne vivent rien.

La Mettrie aurait sûrement adoré ChatGPT et trouvé cela génial. Jonas aurait haussé les sourcils en disant « C’est très malin…mais ce n’est pas vivant ». Damasio, lui, nous inviterait à rester vigilants. Dans un entretien dans le dernier numéro de Philosophie magazine il rappelle que ce qu’il manque aujourd’hui à l’intelligence artificielle et aux machines pour devenir vraiment conscientes, c’est un corps à protéger. Tant que l’IA n’aura pas un véritable corps vulnérable et des sentiments authentiques, elle restera une simulation extrêmement performante, mais pas une conscience.

Il précise un peu une voie pour y parvenir dans cet entretien à Philosophie magazine : « Notre proposition est la suivante : en introduisant une forme de vulnérabilité dans les systèmes IA, par exemple en les connectant à un « corps » fragile avec la charge de maintenir ce dernier en état de marche – peu importe ce que nous entendons ici par « corps » – nous avons quelque chance de les éveiller à la conscience. Les robots n’ont aucune représentation interne de leur état. Ils n’ont pas de sensations ni d’émotions. Ce qui fait qu’ils ont un rapport neutre, indifférent, à eux-mêmes et au monde. Il leur manque quelque chose, qui n’est pas une capacité intellectuelle de haut niveau, encore une fois, mais un sens de leur propre existence et de leur place dans le monde beaucoup plus élémentaire ».

Pourtant, on a aussi constaté que certaines machines semblaient parfois plus « humaines » que les humains. Une étude célèbre, publiée dans une revue scientifique, a comparé des réponses de chatbots IA avec les réponses de réels médecins, et leur appréciation par les patients (qui ignorent s’ils ont une réponse de réel médecin ou d’un chatbot). L’étude a montré que les réponses du chatbot aux questions de patients étaient jugées de meilleure qualité et beaucoup plus empathiques que celles des vrais médecins (préférées dans près de 80% des cas). Les patients (ou les évaluateurs) ont souvent trouvé l’IA plus chaleureuse, plus attentive et plus longue dans ses explications que les réponses courtes et un peu sèches des humains.

Peut-être que certains humains, comme ces médecins, en perdant le contact avec leurs émotions – à cause du stress, de la fatigue, ou d’un système qui les pousse à être « efficaces » plutôt qu’humains – risquent de ressembler dangereusement à des machines froides et mécaniques.

La vraie menace n’est peut-être pas que les machines deviennent trop humaines…mais que certains humains deviennent trop machinaux.

Alors, l’homme est-il une machine, comme l’affirmait Julien Offray de La Mettrie ? Oui ; mais une machine vivante, qui sent, qui craint de mourir, et qui ressent la joie d’exister. Une machine qui se répare elle-même en mangeant une bonne pizza, qui rougit quand elle est gênée, et qui pleure devant un film romantique.

C’est peut-être cette vulnérabilité organique, ces sentiments bien réels et ce « souci de soi » qui font toute la différence. Pour l’instant.

Car l’avenir n’est pas encore écrit.

Antonio Damasio se risque dans l’entretien de Philosophie magazine, à une prédiction : « J’ai peur que nous autres humains soyons progressivement dominés par systèmes d’IA qui n’auraient pas spécialement de considération pour notre bien-être. Les IA se moquent de savoir si vous allez bien ou non. Elles se moquent de savoir si l’Europe est envahie ou non. Tout ce qui a de l’importance à vos yeux n’en a aucune pour une IA, si perfectionnée soit-elle. Par ailleurs, j’observe que les LLM, les grands modèles de langage type ChatGPT, commencent à être traités comme s’ils étaient des humains, alors qu’ils n’en sont pas, ils n’ont aucune boussole morale et se contentent de recycler des stocks de données que leur ont fournis les humains. L’avenir est ouvert. Que va-t-il se passer avec l’IA ? Quand j’y songe, je suis terrifié à l’idée que l’IA fasse des progrès dans la direction de l’intelligence sans développer aucune forme de conscience. C’est pourquoi je propose de créer des robots vulnérables : si nous arrivons à mettre un peu de sensibilité et d’émotivité dans les machines, cela pourrait contribuer à éviter qu’elles ne deviennent nos ennemies ou plus largement qu’elles ne malmènent notre humanité ».

L’avenir est ouvert…