Tu jases avec ChatGPT et il te r\u00e9pond comme s’il comprenait. Il fait des blagues. Il te pose des questions de suivi. Il dit “je comprends ton point”. C’est troublant. On dirait qu’il y a quelqu’un de l’autre bord.<\/p>\n
Mais est-ce qu’il comprend vraiment<\/strong> ce que tu lui dis?<\/p>\n La r\u00e9ponse courte : non. Mais la r\u00e9ponse longue est pas mal plus int\u00e9ressante.<\/p>\n Imagine un perroquet qui a \u00e9cout\u00e9 toutes les conversations de l’humanit\u00e9. Chaque livre, chaque courriel, chaque discussion Reddit, chaque article de journal. Ce perroquet-l\u00e0 saurait exactement quoi dire apr\u00e8s n’importe quelle phrase. Il aurait l’air de comprendre. Mais il ferait juste r\u00e9p\u00e9ter des patterns qu’il a entendus des millions de fois.<\/p>\n ChatGPT, c’est ce perroquet. En beaucoup plus sophistiqu\u00e9, mais le principe est le m\u00eame. Il pr\u00e9dit le prochain mot. Puis le suivant. Il a pas de “compr\u00e9hension” au sens o\u00f9 toi et moi on comprend quelque chose.<\/p>\n Quand tu lui dis “j’ai mal \u00e0 la t\u00eate”, il va r\u00e9pondre quelque chose d’appropri\u00e9. Pas parce qu’il sait c’est quoi un mal de t\u00eate. Mais parce qu’il a vu des millions de conversations o\u00f9 quelqu’un dit \u00e7a, et il sait statistiquement<\/strong> quelle r\u00e9ponse vient apr\u00e8s.<\/p>\n Voici le truc qui m\u00e9lange tout le monde : la simulation de compr\u00e9hension peut \u00eatre vraiment utile<\/strong> m\u00eame si c’est pas de la vraie compr\u00e9hension.<\/p>\n Quand ChatGPT r\u00e9sume un document de 50 pages en 3 paragraphes, le r\u00e9sultat est souvent excellent. Est-ce qu’il a “compris” le document? Non. Il a identifi\u00e9 les patterns importants dans le texte et les a reformul\u00e9s. Mais pour toi, le r\u00e9sultat est le m\u00eame : t’as un bon r\u00e9sum\u00e9.<\/p>\n C’est comme une calculatrice. Une calculatrice “comprend” pas les maths. Mais elle donne les bonnes r\u00e9ponses. Tu t’en sers pareil.<\/p>\n Le danger, c’est quand on oublie que c’est une simulation. Quand on fait confiance aveugl\u00e9ment. Quand on assume que si la r\u00e9ponse a l’air intelligente, elle est forc\u00e9ment vraie. C’est l\u00e0 que le monde se fait avoir.<\/p>\n ChatGPT est excellent quand la situation ressemble \u00e0 quelque chose qu’il a d\u00e9j\u00e0 vu. \u00c9crire un courriel professionnel? Il a vu des millions de courriels. Expliquer la photosynth\u00e8se? Il a lu tous les manuels de bio.<\/p>\n Mais pose-lui une question vraiment originale \u2014 quelque chose que personne a jamais \u00e9crit en ligne \u2014 et il va quand m\u00eame te r\u00e9pondre avec assurance. Sauf que la r\u00e9ponse va \u00eatre invent\u00e9e<\/strong>. C’est ce qu’on appelle une hallucination. Le mod\u00e8le g\u00e9n\u00e8re du texte probable, m\u00eame quand il a aucune base pour le faire.<\/p>\n C’est exactement comme le perroquet. Si tu lui poses une question dans une langue qu’il a jamais entendue, il va quand m\u00eame r\u00e9pondre avec les sons qu’il conna\u00eet. \u00c7a va sonner comme du langage. Mais \u00e7a va \u00eatre du charabia.<\/p>\n La cl\u00e9, c’est de traiter ChatGPT comme un assistant brillant mais pas fiable \u00e0 100%<\/strong>. Utilise-le pour brainstormer, r\u00e9diger des premi\u00e8res versions, r\u00e9sumer, reformuler. Mais v\u00e9rifie les faits importants. Relis ce qu’il \u00e9crit avec ton propre jugement.<\/p>\n Pense \u00e0 \u00e7a comme un stagiaire super comp\u00e9tent mais qui est l\u00e0 depuis une semaine. Il produit vite et bien, mais tu relis son travail avant de l’envoyer au client.<\/p>\nLe perroquet le plus sophistiqu\u00e9 au monde<\/h2>\n
Comprendre vs simuler la compr\u00e9hension<\/h2>\n
Les moments o\u00f9 \u00e7a plante<\/h2>\n
Comment bien s’en servir<\/h2>\n