Le Hollandais Volant#22719 - Pourquoi une IA "super intelligente" se trompe en comptant les lettres dans un mot ?Un élève de CP pourrait réussir ce petit exercice "tout bête" mais le redoutable ChatGPT, lui, galère.Hin hin… | Guillaume Vigneron | 56 comments
Jolie démonstration de la limite des « IA », et surtout qu’il n’y a aucune intelligence dedans. Ce sont juste des statistiques.
Pas plus que les moteurs de recherches (enfin à leur début) classaient par pertinence plus que par une logique probabiliste.
À nous d’apprendre à les comprendre, sans les surestimer mais certainement pas en les sous-estimant.
Je suis d’accord avec ça, mais qu’on arrête de nous dire que ces machines sont intelligentes, si en même temps on nous dit que c’est — à nous utilisateurs — d’être assez intelligent pour comprendre qu’elles ne peuvent pas compter le nombre de lettres dans un mot…
D’ailleurs, je vais arrêter d’employer le terme de « IA », et parler de « LLM ». Déjà parce que c’est plus juste, et ensuite parce que ça éliminera le « I » de « IA » qui n’a pas sa place dans les ChatGPT, Gemini, Claude et autres Gork.
Je ne dis pas que tout est à jeter et que ça ne sert à rien, et je rejoins l’auteur ici pour dire que c’est à nous d’une part d’être vigilent, et d’autre part d’apprendre à s’en servir correctement. Mais franchement, je sais que je sais ça parce que je suis un technophile geek programeur pas trop idiot qui manipule la logique informatique depuis plus l’âge de 15 ans.
La plupart des Michus font des captures d’écran qu’ils collent dans Word, impriment, puis re-scannent et mettent ça en PJ pour l’envoyer à 15 autres Michus dans des chaînes d’e-mail ; ou encore cherchent Orange dans Google Chrome pour rechercher ensuite la Webmail d’Orange dans la barre de recherche Google sur le site d’Orange, pour retrouver un mail envoyé à eux-même avec le lien vers leur GMail.
Ces gens là, on ne va pas leur faire croire que l’IA « vu à la télé » n’est pas intelligente, ou qu’elle peut dire de la merde sur des trucs techniques.
Moquez-vous, et dîtes que je suis condescendant ou élitiste si ça vous chante, mais c’est la vérité, et vous le savez.
Et comptez pas sur moi pour essayer de faire changer leur petites habitudes à ces gens là : je préférerais encore aller crier « Vive l’Ukraine libre » dans la face de Poutine, car moins risqué.