Lucie : L’IA Française Qui Dérape

Au lieu de rire comme une baleine (ce que les baleine de font pas, hein), notre cowboy youtubeur aurait dû faire l’effort de mettre en perspective les résultats de cette IA, en ne s’arrêtant pas à des questions d’ego national et d’impôts, et en évitant de mettre sur le dos du CNRS des problèmes qui ne sont pas de sa responsabilité ni d’attendre de son LLM des résultats qui sortent du cadre de son fonctionnement actuel. Car si les erreurs de Lucie peuvent faire rire (admettons), l’inculture qui transparaît dans ces critiques qui éloignent le quidam des véritables préoccupations touchant à ce domaine, elles, sont plutôt irritantes.

Ce qu’on constate, c’est que Lucie donne des réponses qui correspondent bien au sujet des requêtes ; c’est bien ce qu’on attend d’un LLM. Mais parfois ses réponses sont fausses ; néanmoins cela reste un comportement normal pour un LLM qui n’a pas la science infuse. Les résultats sont donc plutôt encourageants (faut-il rappeler qu’il y a deux ans, en dépit du volume vertigineux de ses données d’apprentissage, ChatGPT mettait Simone Weil sur la liste des Présidents de la République française ?!).

Il ne paraît donc pas saugrenu qu’un assistant GenAI non spécialisé puisse parler d’œufs de vaches s’il ignore qu’une vache ne pond pas d’œuf, ni qu’il fasse des erreurs de calcul si cette compétence ne fait pas partie de ses mécanismes de base. Et il est normal qu’il produise des erreurs, car son fonctionnement le conduit à toujours donner une réponse même lorsqu’il ignore la bonne réponse. Dans le fond, les grands concurrent américains de Lucie ne font pas mieux ; ils continuent aujourd’hui d’apporter des résultats qui, tout en semblant très crédibles, s’avèrent parfois inadaptés ou irréalistes, parce que la solution des problèmes sous-jacents ne se trouve pas de façon évidente dans leurs données d’apprentissage ni dans la question posée.

Les erreurs de Lucie ont ceci de positif qu’elles permettent encore de démontrer la nature des limites de ces systèmes, limites que semblent vouloir ignorer ceux qui tentent de nous les imposer et qui ont déjà, pour certains, prévu de les utiliser pour remplacer 300 millions d’emplois.

Le propre de ces IA étant de simuler de façon convaincante des intelligences qu’elles n’ont pas, Lucie a juste un peu de retard sur ses grands concurrents américains dans le domaine de la supercherie. Dans quelle mesure faut-il s’en plaindre ?