La machine déshumanise-t-elle l’homme ?

Pourquoi utiliser une machine pour :

• porter une charge ;
• effectuer une opération dangereuse ;
• assister un chirurgien ;
• permettre à une personne handicapée de compenser certaines limitations ?

Parce que nous voulons libérer l’être humain d’une contrainte.

La technique peut donc représenter une conquête d’autonomie.

Souvent lorsque l’homme doit s’adapter entièrement à la machine.

Imaginez une chaîne de production.

La machine fixe :

• le rythme ;
• le mouvement ;
• le temps ;
• la séquence.

Le travailleur ne maîtrise plus l’activité globale. Il accomplit un fragment.

La question de la machine rejoint alors celle de :

• division du travail ;
• autonomie ;
• sens de l’activité ;
• organisation économique.

Les Temps modernes demeure une référence cinématographique extraordinairement efficace.

Charlot est absorbé par le rythme de la chaîne jusqu’à reproduire mécaniquement le même geste en dehors de son poste.

La scène fonctionne parce qu’elle inverse notre attente :

la machine devait servir l’homme ;

l’homme finit par fonctionner comme une pièce de la machine.

Voilà la déshumanisation en une image.

Distinction essentielle.

La première peut libérer.

La seconde peut appauvrir l’autonomie.

Nous avons déjà rencontré un problème proche.

Lorsque quelqu’un dit : « Je n’ai fait qu’exécuter la procédure », la responsabilité peut sembler se dissoudre.

Une organisation hautement automatisée peut accentuer cette tentation :

• « Ce n’est pas moi. »
• « C’est le système. »
• « C’est l’algorithme. »
• « C’est la recommandation automatique. »

Mais précisément : quelqu’un a choisi de déployer le système, de suivre ou non sa recommandation et d’organiser la procédure.

Le vocabulaire contemporain de la gouvernance de l’IA insiste donc fortement sur l’accountability, la responsabilité et la possibilité de contester des décisions prises à l’aide de systèmes automatisés. Le Conseil de l’Europe exige notamment des garanties permettant aux personnes affectées de challenger certaines décisions et l’usage du système lui-même.

Supposons qu’un système soit statistiquement meilleur que moi dans une tâche donnée.

Je peux légitimement m’y fier.

Mais au fil du temps : suis-je encore capable de comprendre ce que je fais ?

Exemples possibles :

• navigation ;
• diagnostic ;
• recrutement ;
• notation ;
• recommandation ;
• conduite.

L’assistance peut devenir dépendance.

La délégation peut devenir dépossession.

Le problème n’est pas d’utiliser un outil. Il est de savoir :

quelles capacités humaines doivent continuer à être entretenues même lorsqu’une machine peut les remplacer localement.

Heidegger permet ici d’aller beaucoup plus loin.

La logique technique moderne peut faire apparaître nature, objets, organisations et êtres humains comme ressources mesurables et optimisables.

Ce qui ne rentre pas facilement dans l’indicateur risque alors de devenir invisible.

Le règlement européen sur l’intelligence artificielle établit des règles fondées sur le risque pour encadrer le développement et l’usage de systèmes d’IA tout en visant notamment la protection de la santé, de la sécurité et des droits fondamentaux.

Le Conseil de l’Europe demande en outre, dans certaines situations, que l’utilisateur soit informé qu’il interagit avec un système d’IA et non avec un humain.

Pourquoi cette distinction compte-t-elle ?

Parce qu’une interaction qui ressemble à une relation humaine n’est pas nécessairement une relation entre deux humains.

L’apparence de présence peut modifier nos comportements.

Non. La question serait mal posée.

Automatiser une facture, un calcul, une tâche répétitive peut libérer énormément de temps.

Le vrai problème est : que gagne l’homme ? et que perd-il ?

Si la machine supprime la corvée, elle peut humaniser.

Si elle supprime le jugement, l’autonomie, la relation, la responsabilité, le bilan devient beaucoup moins évident.