Pourquoi Descartes n’aurait jamais validé votre dernier prompt ChatGPT ?

Il y a de fortes chances que René Descartes ait été fasciné par ChatGPT. Un outil capable de répondre instantanément à des questions, de rédiger des rapports, de synthétiser des documents et même d’expliquer la philosophie cartésienne à des milliers d’utilisateurs simultanément aurait probablement éveillé sa curiosité. En revanche, il y a aussi de fortes chances qu’il se soit rapidement montré insupportable.

Car une fois passée la phase de fascination, Descartes aurait commencé à poser des questions.

Comment cette réponse a-t-elle été produite ? Sur quoi repose-t-elle ? Comment être certain qu’elle est vraie ? Peut-on vérifier ce qu’elle affirme ?

Autrement dit, il aurait probablement été l’utilisateur le moins enthousiaste et le plus exigeant de toute la plateforme.

‍

Descartes aurait adoré les prompts… mais pas les réponses

Notre époque entretient un rapport particulier avec l’intelligence artificielle. Nous lui demandons des synthèses, des analyses, des idées, des plans d’action et parfois même des décisions. La rapidité avec laquelle les réponses apparaissent crée une impression étrange. Parce qu’une réponse est formulée avec assurance, nous sommes parfois tentés de lui accorder spontanément notre confiance.

C’est précisément à cet instant que Descartes commencerait à s’inquiéter.

Le philosophe français a consacré une grande partie de sa vie à combattre une habitude profondément humaine : croire trop vite ce qui paraît évident. Selon lui, nos erreurs ne viennent pas seulement d’un manque de connaissances. Elles viennent souvent de notre tendance à accepter comme vraies des idées que nous n’avons jamais réellement examinées.

Face à ChatGPT, il ne se demanderait donc pas si la réponse est élégante ou convaincante. Il se demanderait d’abord si elle résiste à l’examen.

‍

Le doute n’est pas du pessimisme

Le doute cartésien souffre parfois d’une mauvaise réputation. On imagine volontiers quelqu’un qui remet tout en question, complique les discussions et refuse d’avancer tant qu’il n’a pas obtenu une certitude absolue.

En réalité, Descartes ne doute pas pour le plaisir de douter. Il doute pour mieux comprendre. Son objectif n’est pas de paralyser l’action. Son objectif est d’éviter que l’action repose sur des fondations fragiles.

Appliqué à l’intelligence artificielle, ce réflexe devient particulièrement intéressant. Les outils génératifs produisent souvent des réponses plausibles. Le problème est que le plausible et le vrai ne sont pas toujours la même chose. Une affirmation peut sembler cohérente, bien formulée et parfaitement crédible tout en étant partiellement fausse.

Descartes nous rappellerait alors une vérité assez simple : la fluidité d’une réponse ne constitue pas une preuve.

‍

Le vrai danger n’est peut-être pas l’intelligence artificielle

Lorsqu’on évoque les risques liés à l’IA, les discussions se concentrent souvent sur les machines elles-mêmes. Deviendront-elles trop puissantes ? Trop autonomes ? Trop influentes ?

Descartes déplacerait probablement le débat.

Il observerait que le problème principal ne réside pas nécessairement dans les réponses produites par l’intelligence artificielle. Il réside peut-être dans notre disposition à les accepter sans examen. Après tout, une erreur produite par une machine reste une erreur relativement inoffensive tant qu’un être humain conserve l’habitude de la questionner.

Le risque apparaît lorsque nous cessons de vérifier. Lorsque nous confondons assistance et délégation de la pensée. Lorsque la facilité d’accès à une réponse remplace progressivement l’effort de compréhension.

À cet égard, le véritable sujet n’est peut-être pas l’intelligence artificielle. Le véritable sujet est notre rapport à l’esprit critique.

‍

Descartes aurait probablement demandé les sources

Cette scène est assez facile à imaginer.

Un collaborateur arrive en réunion avec une analyse générée par ChatGPT. Le document est clair, structuré et convaincant. Tout le monde semble satisfait. Puis Descartes lève la main.

- D’où viennent ces informations ?

- Quelles sources les soutiennent ?

- Ont-elles été vérifiées ?

Le silence qui suivrait serait probablement révélateur.

Car nous avons pris l’habitude de demander des réponses rapides. Nous avons parfois oublié de demander comment ces réponses ont été construites. Or la qualité d’une réflexion dépend rarement de la vitesse avec laquelle elle est produite. Elle dépend beaucoup plus de la solidité des éléments sur lesquels elle repose.

‍

Ce que Descartes aimerait malgré tout

Il serait pourtant injuste de présenter Descartes comme un opposant à l’intelligence artificielle. Loin de là.

Descartes croyait profondément dans le pouvoir de la raison et dans la capacité des outils à améliorer notre compréhension du monde. Il aurait probablement vu dans l’IA un instrument extraordinaire pour explorer des connaissances, comparer des idées ou accélérer certaines tâches intellectuelles.

La différence est qu’il n’aurait jamais confondu l’outil avec la vérité.

Pour lui, la responsabilité du jugement resterait toujours humaine. Une machine peut proposer une réponse. Elle ne peut pas décider à notre place si cette réponse mérite notre confiance.

‍

La question que Descartes nous laisserait

Si Descartes utilisait aujourd’hui ChatGPT, il ne passerait probablement pas son temps à demander à l’outil de rédiger des poèmes ou des plans marketing. Il l’utiliserait surtout comme un terrain d’exercice pour sa méthode favorite : le doute.

Face à chaque réponse, il nous inviterait à nous poser une question simple.

Sommes-nous convaincus parce que l’idée est juste ou parce qu’elle est bien formulée ?

À une époque où les réponses deviennent instantanées, cette distinction mérite peut-être d’être examinée avec un peu plus d’attention.

Et il est probable que Descartes nous conseillerait de commencer dès notre prochain prompt.