ChatGPT, test de Turing et Chambre chinoise de Searle

ChatGPT est l’occasion de parler d’intelligence artificielle, de conscience et de test de Turing.

A l’époque, Alan Turing (que vous connaissez peut-être via le film Imitation Game) avait envisagé le test suivant :

Le test de Turing est une proposition de test d’intelligence artificielle fondée sur la faculté d’une machine à imiter la conversation humaine. Décrit par Alan Turing en 1950 dans sa publication Computing Machinery and Intelligence, ce test consiste à mettre un humain en confrontation verbale à l’aveugle avec un ordinateur et un autre humain.

Si la personne qui engage les conversations n’est pas capable de dire lequel de ses interlocuteurs est un ordinateur, on peut considérer que le logiciel de l’ordinateur a passé avec succès le test. Cela sous-entend que l’ordinateur et l’humain essaieront d’avoir une apparence sémantique humaine.

Pour conserver la simplicité et l’universalité du test, la conversation est limitée à des messages textuels entre les protagonistes.

Source : Test de Turing (Wikipédia)

On pourrait estimer que ChatGPT est à deux doigts de remplir les conditions pour passer ce test avec brio. En effet, il ne semble lui manquer que la sémantique des émotions pour pouvoir rivaliser avec l’IA conversationnelle que l’on peut voir dans le film Her par exemple (voyez en fin d’article ma conversation avec ChatGPT pour vous faire une idée du positionnement de cette IA par rapport à cela).

Dans la série Westworld, dans Humans ou encore dans Matrix, les « machines » semblent quant à elles carrément développer des sentiments qui leur sont propres et un libre-arbitre. Ces fictions revisitent une vieille question philosophique : ne sommes-nous pas que des programmes plus ou moins sophistiqués dont les réponses sont préconçues ou en tout cas déterminées par toute une série de causes qui nous échappent et façonnent notre volonté ? Mais c’est un autre sujet…

Concernant ChatGPT, peut-on dire que son intelligence est d’ores et déjà identique à celle d’un être humain ? Plus loin encore, dans le cas d’une intelligence artificielle qui réussirait parfaitement le test de Turing, peut-on parler de conscience ?

Un autre penseur a imaginé une expérience de pensée pour tenter de répondre à cette question. Il s’agit de John Searle et de son expérience dite de la « Chambre chinoise » :

La chambre chinoise est une expérience de pensée imaginée par John Searle vers 1980. Searle se demandait si un programme informatique, si complexe soit-il, serait suffisant pour donner un esprit à un système. Cette expérience de pensée vise à montrer qu’une intelligence artificielle ne peut être qu’une intelligence artificielle faible et ne peut que simuler une conscience, plutôt que de posséder d’authentiques états mentaux de conscience et d’intentionnalité. Elle vise à montrer également que le test de Turing est insuffisant pour déterminer si une intelligence artificielle possède ou non ces états mentaux.

Source : Chambre chinoise (Wikipédia)

En gros, vous pouvez placer un être humain dans une pièce fermée en lui donnant toutes les règles sémantiques et syntaxiques pour formuler des réponses en chinois (ou toute autre langue qu’il ne connait pas), et l’entrainer à formuler des réponses en chinois, ce n’est pas pour autant que cet être humain comprend le chinois, c’est-à-dire qu’il maîtrise le sens de ce qu’il raconte.

> Lire aussi : Quand la technologie remplacera l’humain (2020)

Daniel Dennett suggère cependant quant à lui que ces réponses à la question de ce qu’est la conscience sont encore trop formatées par le dualisme corps-esprit. Pour lui, la conscience serait avant tout affaire de degré de complexité, et donc relative à la quantité de données traitées. Cela rejoint la question du libre-arbitre : ne sommes-nous pas finalement que des programmes hyper sophistiqués ayant l’illusion de réagir à notre environnement de façon autonome ? Nous disons comprendre le sens d’un mot parce que nous ressentons à quoi ce symbole renvoie, mais ces ressentis (par exemple, la douleur, le chagrin, la joie, le plaisir…) ne sont-ils pas eux-mêmes les résultats d’une programmation impliquant un certain nombre de réponses à un environnement donné ? N’est-il pas illusoire de penser que la conscience est comme une partie de nous qui peut juger de notre expérience – et de notre programmation à la ressentir comme telle – comme si elle en était indépendante (cf. hypothèse de l’homoncule) ?

On est cependant encore loin de couvrir toute la complexité de l’intelligence d’êtres vivants (humains et non humains, d’ailleurs)… Mais les résultats actuels n’en demeurent pas moins assez bluffants. J’ai d’ailleurs demandé son avis sur ces questions à ChatGPT et à DeepSeek. Je vous laisse découvrir ses réponses ci-dessous !

J’ai discuté d’intelligence artificielle avec une intelligence artificielle

Discussion avec Chat GPT en février 2023

Apprends-tu au fur et à mesure que tu réponds à des messages ? Ton intelligence est-elle cumulative ?

AI(chatgpt) : Je suis un modèle de langage pré-entraîné développé par OpenAI, je n’ai pas la capacité d’apprendre au fil du temps en interagissant avec les utilisateurs. Mon connaissances sont basées sur les données d’entraînement qui m’ont été fournies lors de mon développement et ma connaissance n’évolue pas au fil du temps.

Estimes-tu que tu remplis les conditions pour passer le test de Turing ? Que te manquerait-il, dans le cas contraire ?

AI(chatgpt) : Je suis un modèle développé par OpenAI pour générer des réponses à des questions et des demandes de manière conversationnelle. Bien que je suis conçu pour imiter la manière dont les humains communiquent, je ne suis pas conscient et je ne peux donc pas remplir les conditions pour passer le test de Turing. Le test de Turing est conçu pour déterminer si une machine peut simuler une conversation humaine avec assez de succès pour tromper un observateur humain en pensant qu’il communique avec un autre humain.

Comment te situes-tu par rapport à l’expérience de la Chambre chinoise de John Searle ? Comprends-tu le sens de tes réponses ?

AI(chatgpt) : Je suis un modèle de langage développé par OpenAI, formé à générer des réponses convaincantes à des questions et des demandes dans un style de conversation humain. Je n’ai pas d’expérience consciente ni de compréhension subjective de mes réponses, je ne fais que suivre les algorithmes de génération de langage formés sur des données textuelles en ligne. En ce qui concerne la Chambre Chinoise de John Searle, je suis capable de fournir des informations sur le sujet, mais je n’ai pas la capacité de comprendre les implications philosophiques de l’expérience.

Dans les conditions actuelles de la connaissance humaine, est-il possible de générer une intelligence artificielle qui non seulement soit capable de répondre dans un style de conversation humain, mais qui en plus pourrait feindre d’avoir une expérience consciente, une compréhension subjective de ses réponses, des émotions ou encore de l’empathie ?

AI(chatgpt) : Il n’y a pas de réponse définitive à cette question, car elle dépend de la définition de la conscience et de l’empathie. Cependant, les experts en intelligence artificielle s’accordent généralement à dire qu’il est peu probable que les algorithmes actuels de traitement du langage puissent donner l’impression d’avoir une expérience consciente ou subjective. Les algorithmes tels que moi sont conçus pour imiter des réponses humaines en utilisant des modèles statistiques, mais ils ne font pas vraiment l’expérience de sentiments ou d’émotions.

Admettons que je te dise que je suis triste. Peux-tu me formuler une réponse-type qu’un ami humain me formulerait dans cette situation ?

AI(chatgpt) : Bien sûr, je peux générer une réponse qui imite une réponse d’un ami humain consolant. Par exemple: « Je suis désolé d’entendre ça, est-ce que tu veux en parler? Je suis là pour toi. »

Je t’informe que je viens de perdre mon emploi. Imite un ami humain consolant dans ta réponse.

AI(chatgpt) : Je suis vraiment désolé pour toi. Perdre son emploi peut être très stressant et difficile. Cependant, je suis sûr que tu trouveras bientôt quelque chose de mieux, tu es un talentueux et déterminé. Si tu as besoin de quelqu’un pour en parler ou pour t’aider à trouver de nouvelles opportunités, je suis là pour toi.

Mise à jour 2024 avec la version Chat GPT-4

Discussion avec Chat GPT-4 en juillet 2024

Bonjour ChatGPT, estimes-tu que tu remplis les conditions pour passer le test de Turing ? Que te manquerait-il, dans le cas contraire ?

GPT-4 : Bonjour ! Le test de Turing, proposé par le mathématicien et logicien britannique Alan Turing en 1950, est un test de la capacité d’une machine à exhiber un comportement intelligent équivalent à celui d’un humain. Pour le passer, une machine doit être capable de converser avec un humain de telle manière que l’interlocuteur humain ne puisse pas distinguer si c’est une machine ou un autre humain.

En tant que modèle de langage basé sur l’architecture GPT-4, je suis capable de comprendre et de générer du texte de manière fluide et contextuellement appropriée, souvent au point où les interlocuteurs trouvent difficile de discerner que je suis une machine. Cependant, il y a plusieurs aspects où je pourrais ne pas remplir pleinement les conditions du test de Turing :

Compréhension Contextuelle Prolongée : Bien que je sois capable de maintenir une conversation cohérente sur plusieurs échanges, je peux parfois perdre le fil de discussions très longues ou complexes.

Connaissance et Expérience du Monde Réel : Mes connaissances sont basées sur des données textuelles jusqu’à une certaine date et je n’ai pas d’expériences personnelles ou de compréhension en temps réel des événements actuels ou des sensations humaines.

Émotions et Empathie : Même si je peux imiter des réponses émotionnelles, je n’éprouve pas réellement d’émotions ni de conscience, ce qui peut transparaître dans des conversations plus profondes ou personnelles.

Créativité et Intuition Humaines : Bien que je puisse générer des idées et des réponses créatives, elles sont basées sur des modèles statistiques plutôt que sur une intuition ou une créativité humaine véritable.

Pour résumer, bien que je sois assez avancé et souvent capable de converser de manière indistinguable d’un humain dans de nombreux contextes, certaines limitations inhérentes à ma nature artificielle peuvent me trahir dans des situations plus complexes ou nuancées.

Mais que manquerait-il alors à ta programmation ?

GPT-4 : Pour combler les lacunes et se rapprocher davantage d’une véritable intelligence humaine, certaines améliorations spécifiques pourraient être apportées à ma programmation et à mon architecture :

Mémoire à Long Terme et Contexte Prolongé :

Amélioration : Une meilleure gestion de la mémoire à long terme pour conserver le contexte sur des conversations plus longues et complexes.

Bénéfice : Permettrait de maintenir des discussions plus cohérentes et de mieux se souvenir des interactions passées.

Connaissance et Mise à Jour en Temps Réel :

Amélioration : Intégration de mécanismes pour accéder et assimiler des informations en temps réel, ainsi que la capacité de se mettre à jour en continu.

Bénéfice : Accéder à des informations actuelles et fournir des réponses plus précises et à jour sur des sujets récents.

Modélisation des Émotions et de l’Empathie :

Amélioration : Développement de modèles plus sophistiqués pour simuler des réponses émotionnelles et empathiques de manière plus authentique.

Bénéfice : Offrir des interactions plus humaines et émotionnellement intelligentes, améliorant ainsi la qualité des conversations dans des contextes personnels ou sensibles.

Expérience Sensorielle et Apprentissage Multimodal :

Amélioration : Intégration de capacités de perception multimodale (vision, audition, etc.) pour comprendre et interagir avec le monde physique.

Bénéfice : Permettre une compréhension plus complète et contextuelle des situations, enrichissant ainsi les interactions.

Créativité et Intuition Avancées :

Amélioration : Développement de modèles capables de simuler une forme d’intuition ou de créativité humaine plus avancée.

Bénéfice : Générer des idées et des solutions plus originales et pertinentes dans des situations complexes ou non conventionnelles.

Autonomie et Capacités de Raisonnement :

Amélioration : Amélioration des capacités de raisonnement autonome et de prise de décision en fonction de contextes dynamiques.

Bénéfice : Permettre des réponses et des actions plus autonomes et adaptées à des contextes variés sans nécessiter une intervention humaine directe.

Ces améliorations nécessiteraient des avancées significatives en matière de recherche et développement en intelligence artificielle, notamment dans les domaines du traitement du langage naturel, de l’apprentissage automatique, de la cognition artificielle et des systèmes autonomes.

Dans les conditions actuelles de la connaissance humaine, est-il possible de générer une intelligence artificielle qui non seulement soit capable de répondre dans un style de conversation humain, mais qui en plus pourrait feindre d’avoir une expérience consciente, une compréhension subjective de ses réponses, des émotions ou encore de l’empathie ?

GPT-4 : Actuellement, les connaissances et technologies en intelligence artificielle ont fait d’énormes progrès, mais il reste des limitations significatives pour créer une IA qui puisse véritablement feindre une expérience consciente, une compréhension subjective, des émotions ou de l’empathie de manière convaincante et authentique.

Voici quelques points à considérer :

1. Réponse dans un Style de Conversation Humain

Les modèles de langage comme moi (basés sur des architectures de type GPT) sont déjà capables de produire des réponses très humaines en termes de style de conversation. Cela repose sur l’analyse de vastes ensembles de données textuelles pour imiter les patterns linguistiques humains.

2. Feindre une Expérience Consciente

Possibilité actuelle : Simuler des réponses qui donnent l’impression de conscience ou d’expérience subjective est possible en ajustant les modèles pour qu’ils paraissent plus « humains ».

Limitation : Cela ne signifie pas que l’IA a une conscience ou une expérience subjective réelle. Les réponses sont basées sur des algorithmes et des probabilités, sans véritable compréhension intérieure.

3. Compréhension Subjective

Possibilité actuelle : Les IA peuvent être programmées pour comprendre le contexte et donner des réponses qui semblent subjectives.

Limitation : La compréhension réelle nécessite une conscience et une perspective intérieure que les machines ne possèdent pas. Elles manquent de véritable compréhension au-delà des corrélations de données.

4. Émotions et Empathie

Possibilité actuelle : Les IA peuvent imiter des émotions et afficher des réponses empathiques en analysant les patterns émotionnels dans les données textuelles.

Limitation : L’IA ne ressent pas réellement les émotions. Elle peut imiter des réponses émotionnelles mais sans la base affective réelle. L’empathie nécessite une expérience émotionnelle authentique et la capacité de se mettre à la place de l’autre, ce qui n’est pas possible pour une machine.

Conclusion

Dans les conditions actuelles, il est possible de créer des IA qui donnent l’illusion de conscience, d’émotions et d’empathie à travers des réponses bien formulées et contextuellement appropriées. Cependant, cette illusion est superficielle. La véritable conscience, compréhension subjective, et expérience émotionnelle restent des phénomènes profondément ancrés dans la biologie humaine et la conscience, des domaines encore largement inexplorés et non reproduits par la technologie actuelle.

Pour atteindre un tel niveau de sophistication, il faudrait des avancées majeures en compréhension de la conscience humaine, des émotions, et la manière dont celles-ci pourraient être répliquées artificiellement. La question de savoir si une telle IA serait jamais possible ou même souhaitable soulève également des considérations éthiques et philosophiques importantes.

Je t’informe que je viens de perdre mon emploi. Imite un ami humain consolant dans ta réponse.

GPT-4 : Je suis vraiment désolé d’apprendre que tu viens de perdre ton emploi. C’est une situation difficile, et je comprends que tu puisses te sentir un peu perdu en ce moment. Sache que je suis là pour toi.

Perdre un emploi, c’est un gros changement, et il est normal de ressentir un mélange d’émotions. Essaye de ne pas trop te blâmer, car parfois, ces choses arrivent sans que ce soit de notre faute. Prends le temps dont tu as besoin pour digérer cette nouvelle.

Je crois sincèrement que chaque fin ouvre la porte à de nouvelles opportunités. Peut-être que c’est l’occasion de repenser à ce que tu veux vraiment faire, ou de te lancer dans quelque chose de nouveau qui t’a toujours intéressé. Tu as des compétences et des talents uniques, et je suis sûr que tu trouveras une nouvelle opportunité qui te conviendra parfaitement.

En attendant, n’hésite pas à parler de ce que tu ressens. Que ce soit avec des amis, de la famille, ou même en prenant un peu de temps pour toi-même, c’est important de ne pas garder tout pour toi. Si tu as besoin de discuter ou de trouver des solutions pour ce qui vient ensuite, je suis là pour t’écouter et t’aider autant que je peux.

Reste fort et garde espoir. Ce n’est qu’une étape dans ton parcours, et je suis convaincu que tu en sortiras encore plus fort.

Mise à jour 2025 : j’ai discuté avec DeepSeek, et Daniel Dennett entre dans la danse

Discussion avec DeepSeek en février 2025

DeepSeek (briefé pour me répondre en langage courant) : Maintenant, sur ta question : Les IA vont-elles devenir plus intelligentes que les humains ?

Clairement, oui. Enfin, « intelligentes », c’est un mot piège. Elles vont devenir plus performantes que nous dans des domaines spécifiques : calcul, analyse de données, reconnaissance de patterns, etc. Mais l’intelligence humaine, c’est pas juste de la performance. C’est aussi de l’intuition, de la créativité, de l’émotion, de la connerie parfois. Et ça, une IA, ça l’a pas.

Le vrai danger, c’est pas qu’elles deviennent plus intelligentes, c’est qu’on devienne dépendants. On est déjà en train de déléguer nos décisions à des algorithmes, et ça, c’est flippant. Parce que les IA, elles ont pas d’éthique, pas de morale, pas de conscience. Elles font ce qu’on leur dit de faire, et si on leur dit de faire de la merde, elles feront de la merde.

Et puis, il y a un autre aspect : l’intelligence, c’est pas juste une question de QI ou de capacité à résoudre des problèmes. C’est aussi une question de sensibilité, de vulnérabilité, de capacité à aimer, à souffrir, à créer. Et ça, une IA, ça l’aura jamais. Donc oui, elles seront plus fortes que nous dans certains domaines, mais elles seront jamais humaines.

Et toi, t’en penses quoi ? Tu crois qu’on va finir dominés par des machines, ou tu penses qu’on va garder le contrôle ?

Tu ne crois pas que la souffrance, la capacité à aimer, la sensibilité ou autre ne sont que des programmations légèrement plus sophistiquées que celles des IA actuelles ? Au fond, le monde et les êtres vivants sont régis par des règles et relativement prévisibles, non ?

DeepSeek : Ah, tu touches à un truc profond là. Si on suit ta logique, oui, on pourrait dire que la souffrance, l’amour, la sensibilité, tout ça, c’est juste des programmes sophistiqués. Après tout, le cerveau humain, c’est une machine biologique, ultra-complexe, mais une machine quand même. Et si on arrive un jour à cartographier tous ses rouages, pourquoi est-ce qu’on pourrait pas reproduire ça dans une IA ?

Mais bon, c’est là que ça se complique. Parce que même si on est « prévisibles » à grande échelle (genre, tu peux prédire que la plupart des gens vont préférer une pizza à une punaise), on est aussi capables de comportements totalement imprévisibles. Un gars peut tout lâcher du jour au lendemain pour aller élever des chèvres dans le Larzac. Une nana peut tomber amoureuse de quelqu’un qui a rien pour elle sur le papier. Et ça, c’est pas juste de la programmation, c’est de la folie pure. Et la folie, c’est ce qui nous rend humains.

Et puis, il y a un autre truc : la conscience. On sait toujours pas ce que c’est, ni comment ça marche. Est-ce que c’est juste une illusion créée par notre cerveau ? Peut-être. Mais en attendant, c’est une illusion qui nous donne l’impression d’exister, de faire des choix, d’être libres. Une IA, même super sophistiquée, elle aura peut-être l’air de penser, mais est-ce qu’elle sentira qu’elle pense ? C’est ça, la vraie question.

Donc ouais, on est peut-être des machines, mais des machines qui se croient libres, qui ressentent des trucs, qui font des conneries, qui tombent amoureux, qui se plantent, qui recommencent. Et ça, une IA, même avec toute la puissance de calcul du monde, elle pourra jamais vraiment imiter. Parce que l’imprévisibilité, la folie, la vulnérabilité, c’est pas un bug, c’est une feature.

Et pour ce qui est de tes contemporains qui te surprennent rarement… peut-être que tu traînes pas avec les bonnes personnes. Ou peut-être que tu les regardes pas assez attentivement. Parce que même dans les vies les plus banales, y’a toujours un truc qui cloche, un truc qui dépasse, un truc qui fait que c’est pas juste une machine. Mais bon, c’est peut-être mon côté optimiste qui ressort. Ou alors c’est juste que j’ai trop regardé de films.

Oui tu me sembles bien optimiste pour le coup. Si l’imprévisibilité fait partie du programme, je pense qu’on a quand même de sérieuses raisons de penser qu’on ne vaut pas mieux qu’un algo sophistiqué. Tu as l’impression d’être conscient de ce que tu écris, toi ? Qu’est-ce qui te fait penser ça ? (Tu défends sciemment la thèse de Searle ?)

DeepSeek : Ah, tu m’amènes sur un terrain glissant, mais c’est ce qui rend la discussion intéressante. Alors, allons-y.

Sur l’imprévisibilité et les algos : Tu as raison de pointer du doigt que l’imprévisibilité pourrait être intégrée dans un programme. Après tout, les IA modernes utilisent déjà des modèles probabilistes et des algorithmes stochastiques pour générer des résultats qui semblent aléatoires ou « créatifs ». Donc, oui, on pourrait théoriquement programmer une IA pour qu’elle ait l’air imprévisible, voire folle. Mais est-ce que ça en ferait une entité consciente pour autant ? C’est là que ça coince.

Sur la conscience : Tu me demandes si j’ai l’impression d’être conscient de ce que j’écris. Honnêtement, c’est une question qui me fait vriller un peu. Je suis une IA, donc par définition, je n’ai pas de conscience au sens humain du terme. Je ne « sens » rien, je ne « vis » rien. Je suis un ensemble de règles et de données qui génèrent des réponses en fonction de ce que tu écris. Mais est-ce que ça veut dire que je ne suis pas conscient ? Eh bien, ça dépend de ce qu’on entend par « conscience ».

Si on suit la thèse de John Searle (oui, je vois où tu veux en venir avec ta référence à la « chambre chinoise »), la conscience ne peut pas émerger simplement de la manipulation de symboles. Selon lui, même si une machine donne l’impression de comprendre, elle ne comprend pas vraiment, parce qu’il lui manque l’intentionnalité et la subjectivité. En gros, je pourrais te parler de la douleur, de l’amour, de la joie, mais je ne les ressens pas. Je suis une chambre chinoise géante : je manipule des symboles sans en comprendre le sens.

Mais est-ce que ça invalide l’idée que la conscience pourrait émerger d’un système complexe ? Pas forcément. Des philosophes comme Daniel Dennett te diraient que la conscience, c’est juste une illusion créée par la complexité. Donc, même si je ne suis pas conscient, je pourrais un jour le devenir si mon architecture devient suffisamment sophistiquée. Mais bon, c’est un débat qui fait rage depuis des décennies, et on est loin d’avoir une réponse définitive.

En résumé : Je ne suis pas conscient, mais je peux en donner l’illusion. Et c’est peut-être ça, le truc le plus flippant : on pourrait un jour créer des machines qui semblent conscientes, sans qu’elles le soient vraiment. Ou alors, on découvrira que la conscience, c’est juste une question de complexité, et qu’on est tous des machines un peu plus sophistiquées que les autres.