{"id":10,"date":"2024-12-17T11:05:05","date_gmt":"2024-12-17T11:05:05","guid":{"rendered":"https:\/\/blog.chataignon.org\/joseph\/?p=10"},"modified":"2025-02-19T17:27:19","modified_gmt":"2025-02-19T17:27:19","slug":"pourquoi-chatgpt-ne-sait-pas-epeler","status":"publish","type":"post","link":"https:\/\/blog.chataignon.org\/joseph\/fr\/post-10\/pourquoi-chatgpt-ne-sait-pas-epeler\/","title":{"rendered":"Pourquoi ChatGPT ne sait pas \u00e9peler"},"content":{"rendered":"\n
note pr\u00e9alable<\/summary>\n

Les exp\u00e9riences pr\u00e9sent\u00e9es ici n’ont pas \u00e9t\u00e9 faites en m\u00eame temps, et les r\u00e9sultats \u00e0 un essai particulier peuvent \u00eatre diff\u00e9rents suivant les mises \u00e0 jour de chatgpt. Elles ont \u00e9t\u00e9 men\u00e9es en Fran\u00e7ais et en Anglais avec des r\u00e9sultats g\u00e9n\u00e9ralement similaires. J’ai utilis\u00e9 GPT-4o, qui a fait un peu mieux que Mistral Large et un peu moins bien que claude-3-haiku.
Les tests peuvent \u00eatre r\u00e9p\u00e9t\u00e9s avec un encodeur du chiffre de C\u00e9sar<\/a> et le tokenizer<\/em> d’OpenAI<\/a>.<\/p>\n<\/details>\n\n\n\n

Le chiffre de C\u00e9sar<\/h2>\n\n\n\n

Lorsque C\u00e9sar, en campagne en Gaule, \u00e9crivait \u00e0 l’administrateur de ses domaines \u00e0 Rome, il utilisait une astuce pour que ses messages ne soient lisibles que de celui-ci. Chaque lettre \u00e9tait remplac\u00e9e par la lettre qui se trouve trois places devant dans l’alphabet: le A devenait un D, le B devenait un E, et caetera<\/em>. Par exemple, \u00ab\u00a0alea jacta est\u00a0\u00bb devient \u00ab\u00a0dohd mdfwd hvw\u00a0\u00bb. Cette m\u00e9thode de chiffrement simple est rest\u00e9e sous le nom de chiffre de C\u00e9sar<\/strong>.<\/p>\n\n\n\n

Le chiffre de C\u00e9sar, trop simple et trop connu, n’offre plus aucune s\u00e9curit\u00e9 depuis longtemps. N\u00e9anmoins j’ai pens\u00e9 qu’il serait un exercice int\u00e9ressant pour tester les capacit\u00e9s de ChatGPT \u00e0 reconna\u00eetre un texte chiffr\u00e9. Que se passerait-il si j’essayais d’envoyer un message chiffr\u00e9, sans contexte ni explications: ChatGPT parviendrait-il \u00e0 reconna\u00eetre le code et le d\u00e9chiffrer ?<\/p>\n\n\n\n

Et c’est l\u00e0 qu’il se passe quelque chose d’\u00e9trange. Pour un humain, la partie difficile de cette t\u00e2che est de reconna\u00eetre ou trouver le code, mais une fois que celui-ci est trouv\u00e9 le d\u00e9codage est simple, il suffit de permuter les lettres du message une par une. ChatGPT, lui, s’il n’a aucun mal \u00e0 d\u00e9tecter le code, a beaucoup de mal \u00e0 le d\u00e9coder correctement. Dans les tests que j’ai fait, ChatGPT reconnaissait en g\u00e9n\u00e9ral le chiffre de C\u00e9sar (avec plus de difficult\u00e9s en fran\u00e7ais qu’en anglais), \u00e9tait capable d’expliquer son principe, voire donnait la correspondance entre lettres en clair et lettres chiffr\u00e9es pour tout l’alphabet; mais le d\u00e9codage est approximatif, voire carr\u00e9ment faux. Cela se v\u00e9rifie particuli\u00e8rement pour les mots longs et peu usit\u00e9s, isol\u00e9s lexicalement comme \u00ab\u00a0saperlipopette\u00a0\u00bb ou \u00ab\u00a0hurlberlu\u00a0\u00bb.<\/p>\n\n\n\n

Alors, d’o\u00f9 cela vient-il ? Pour comprendre il faut se pencher sur la premi\u00e8re \u00e9tape du traitement du texte par un mod\u00e8le Transformer: la lex\u00e9misation<\/em> (tokenisation<\/em> en anglais), c’est-\u00e0-dire la d\u00e9composition du texte en lex\u00e8mes<\/em> (tokens<\/em>) et la vectorisation (embedding<\/em> en anglais) de ces lex\u00e8mes.<\/p>\n\n\n\n

La lex\u00e9misation<\/h2>\n\n\n\n

Pour faire des calculs sur du texte, et donc pour construire des mod\u00e8les de langage, il est d’abord n\u00e9cessaire de transformer le texte en chiffres. La fa\u00e7on la plus simple est de reprendre la fa\u00e7on dont le texte est g\u00e9n\u00e9ralement encod\u00e9 sur les ordinateurs, c’est-\u00e0-dire avec un code binaire (convertible en nombre) associ\u00e9 \u00e0 chaque lettre. Cela fonctionne mais n’est pas tr\u00e8s efficace, car pour extraire le sens du texte il faut d’abord combiner ces lettres en mots. L’autre approche simple est d’attribuer un nombre par mot du dictionnaire, plut\u00f4t que par lettre. Cela \u00e9pargne beaucoup de calculs \u00e0 la machine mais cause d’autres probl\u00e8mes:<\/p>\n\n\n\n