Une machine peut-elle devenir humaine ?

Descartes imaginait déjà une machine ressemblant extérieurement à un homme.

Il cherchait alors les critères capables de révéler une véritable pensée.

Mary Shelley va plus loin dans Frankenstein.

Son roman de 1818 raconte un créateur qui produit un être vivant rationnel puis l’abandonne. Le récit fait progressivement apparaître une créature capable d’apprentissage, de langage, de souffrance, d’attachement et de demande de reconnaissance.

Avant l’IA, la littérature avait déjà posé : si nous créons un être capable de nous répondre, quelles obligations avons-nous envers lui ?

C’est probablement le contresens culturel le plus fréquent.

Victor ne commet pas seulement l’acte de créer.

Il commet surtout ensuite l’acte d’abandonner sa créature.

Dans le texte, Victor reconnaît lui-même avoir créé un être rationnel et avoir contracté envers lui des obligations concernant son bonheur et son bien-être.

Créer produit-il une responsabilité ?

Cette question vaut aujourd’hui pour les biotechnologies, l’IA, les systèmes autonomes.

Voilà l’autre force du roman.

La créature cherche relation, langage, reconnaissance.

Mais son apparence provoque rejet et violence.

Le « monstre » pose donc exactement notre question sur L’humanité : devient-on humain uniquement par ce que l’on est, ou aussi parce que d’autres nous reconnaissent comme interlocuteur ?

Frankenstein rejoint :

• Hegel ;
• Levinas ;
• Elephant Man ;
• Blade Runner.

Les réplicants sont artificiellement produits.

Pourtant certains manifestent :

• mémoire ;
• désir ;
• peur de mourir ;
• attachement ;
• compassion.

Le film nous conduit donc progressivement à demander non :

« Pourquoi ne sont-ils pas humains ? »

mais :

« Quels critères utilisions-nous exactement pour leur refuser notre reconnaissance ? »

Une intelligence uniquement logicielle produit un nouveau problème.

Si un agent parle, comprend, aime, apprend,

mais ne possède aucun corps biologique comparable au nôtre : peut-il partager notre monde moral ?

Le film Her fonctionne comme expérience de pensée précisément parce qu’il sépare relation et corps humain.

Attention.

Une grande partie de notre humanité dépend précisément de notre incarnation.

Nous :

• avons faim ;
• souffrons ;
• vieillissons ;
• sommes vulnérables ;
• pouvons être touchés ;
• mourons.

Notre morale elle-même est profondément liée à cette vulnérabilité partagée.

Une intelligence dépourvue de corps vivrait-elle la peur, le désir, la finitude et la relation de la même manière ?

Nous ne pouvons pas simplement supposer : oui.

Un simulateur peut imiter un comportement.

Mais imitation et identité ne sont pas synonymes.

Un avion vole. Il ne devient pas un oiseau.

Une calculatrice calcule. Elle ne devient pas mathématicienne.

À l’inverse, une différence de matériau ne suffit peut-être pas non plus à exclure toute conscience.

Ainsi, le support biologique ne résout pas à lui seul la question fonctionnelle ou morale.

La Convention-cadre du Conseil de l’Europe prévoit notamment des mécanismes permettant qu’une personne soit informée qu’elle interagit avec un système d’intelligence artificielle plutôt qu’avec un humain.

C’est philosophiquement fascinant.

Pourquoi devons-nous savoir qui est de l’autre côté ?

Parce que nous estimons encore qu’interaction humaine et interaction artificielle ne sont pas interchangeables.

La transparence protège cette distinction.

Voilà le véritable problème futur.

Si un agent artificiel devenait indiscernable d’un humain dans :

• conversation ;
• mémoire ;
• relation ;
• créativité ;
• autonomie apparente,

il resterait encore à demander : a-t-il une expérience intérieure ?

Puis : cette expérience possède-t-elle une valeur pour lui ?

La performance extérieure seule ne suffirait toujours pas à résoudre la question.

Voilà la force de Blade Runner.

Un être non humain biologiquement peut manifester davantage de compassion qu’un humain.

Nous retrouvons notre polysémie initiale :

HUMAIN = ESPÈCE et HUMAIN = QUALITÉ MORALE.

Une machine pourrait donc un jour, au moins en langage ordinaire, avoir un comportement « très humain » sans devenir un humain.