Alan Turing · Computing Machinery and Intelligence · 1950
Ce que tu dois voir en lisant
Puisque nous ne savons pas définir la pensée de l’intérieur, une machine capable d’imiter parfaitement une conversation humaine peut-elle être considérée comme pensante, ou ce critère comportemental laisse-t-il la question de la conscience entièrement ouverte ?
Le mouvement du texte
D’abordTuring constate qu’il est extrêmement difficile de définir positivement ce qu’est « penser », et propose de remplacer cette question par un critère observable : le jeu de l’imitation.
EnsuiteDans ce test, un interlocuteur humain doit deviner, à travers un échange de messages écrits, s’il dialogue avec une machine ou avec un être humain.
PuisRéussir ce test prouve seulement l’indiscernabilité conversationnelle de la machine, non l’existence chez elle d’une expérience subjective ou d’une conscience.
EnfinL’objection de la chambre chinoise rappelle que manipuler correctement des symboles selon des règles n’implique pas de comprendre leur sens : produire les bonnes réponses n’équivaut jamais à comprendre.
La scène
Dans une pièce fermée, un juge échange par écrit avec deux interlocuteurs invisibles, l’un installé derrière un ordinateur, l’autre assis dans une pièce voisine avec un clavier semblable. Les réponses qui lui parviennent sont rédigées avec la même aisance, les mêmes hésitations apparentes, parfois même les mêmes fautes de frappe. Après plusieurs échanges, le juge doit désigner lequel des deux interlocuteurs est une machine, sans disposer d’aucun autre indice que le texte affiché à l’écran. S’il se trompe, ou s’il hésite longuement, cette incertitude ne dit rien de ce qui se passe réellement, ou non, dans l’esprit de celui qu’il n’a pas su identifier.
Ce qu’il ne faut pas lui faire dire
Turing prouve qu’une machine peut être consciente.
Non : il propose seulement un critère comportemental.
Les systèmes conversationnels actuels, capables de produire des réponses très convaincantes, réactivent directement la question de Turing : leur performance linguistique prouve-t-elle une quelconque forme de compréhension ou de conscience ? Plus ces systèmes deviennent difficiles à distinguer d’un interlocuteur humain, plus cette question devient urgente à trancher.
Relation affective aux machines
Certaines personnes développent une relation affective durable avec des systèmes capables de converser de manière fluide et personnalisée, sans que cette relation implique que le système éprouve lui-même quoi que ce soit en retour. Cette asymétrie possible entre l’expérience vécue par l’utilisateur et l’absence supposée d’expérience chez la machine reprend directement l’écart que Turing laisse ouvert.
Responsabilité des décisions automatisées
Confier à un système des décisions autrefois réservées à un jugement humain suppose de savoir si ce système comprend réellement les enjeux qu’il traite, ou s’il se contente de produire une réponse statistiquement plausible. Cette incertitude sur la nature de son fonctionnement interne rend d’autant plus difficile la question de sa responsabilité éventuelle.
Le paragraphe modèle · Sujet : Une machine peut-elle devenir humaine ?
Juger de la pensée d’une machine à partir de son seul comportement observable évite la difficulté de définir positivement ce qu’est penser, sans pour autant la résoudre. La conséquence de ce déplacement est qu’un système peut réussir à imiter parfaitement une conversation humaine sans que rien ne permette d’affirmer qu’il éprouve quoi que ce soit intérieurement. On objecte souvent que si aucune différence de comportement n’est observable entre une machine et un être humain, alors la distinction entre les deux perdrait toute pertinence pratique. Mais cette objection ignore que manipuler correctement des symboles selon des règles ne suppose pas nécessairement d’en comprendre le sens, comme le rappelle l’objection de la chambre chinoise. Le problème se déplace alors vers la question de savoir quelle preuve, au-delà du comportement observable, pourrait un jour être exigée pour attribuer une conscience à un système.
Le geste : Distinguer clairement performance conversationnelle observable et expérience subjective inobservable, avant de juger de l’humanité éventuelle d’une machine.
À confronter avec
Descartes — Le langage constitue-t-il une limite infranchissable pour les machines ?
Vercors — Un critère observable suffit-il à trancher l’appartenance à l’humanité ?
Dans quels sujets
Une machine peut-elle devenir humaine ?
L’intelligence artificielle est-elle une personne ?
Qu’est-ce que penser ?
Vérifie que tu as compris
Un critère comportemental peut-il prouver une conscience ?
Comprendre et manipuler des symboles sont-ils identiques ?
Que faudrait-il exiger comme preuve d’un esprit ?
Pour viser plus haut
Devant un sujet sur l’intelligence artificielle, Turing permet de tenir les deux bouts : la performance conversationnelle des systèmes actuels ne prouve ni conscience ni compréhension, mais elle oblige à préciser ce que nous exigerions vraiment comme preuve d’un esprit.
Où en es-tu ?
Crée ton compte gratuit pour garder la trace de ce que tu as appris, sur tous tes appareils.
