Gaspard Delanuit

@perlseb

"En attendant, quand les entreprises d’IA décideront de s’attaquer à un métier intellectuel (quel qu’il soit), les IA feront mieux et pour moins cher (et sans réfléchir en fin de compte)."

Tant mieux : tout ce qui peut être mieux fait par une machine que par un homme doit être fait par une machine. Il faut garder ça en tête pour ne pas se perdre dans de faux problèmes. Après, je ne sais pas exactement ce que vous appelez un "métier intellectuel" mais la plupart des professionnels que je connais, de l’artisan électricien à l’ingénieur en construction en passant par l’historien ou le musicologue, profitent largement des services apportées par les IA. Seul celui qui a cru que l’existence humaine consistait à se comporter comme une machine peut craindre d’être remplacé par machine. Et, encore une fois, ce sera une bonne chose qu’il le soit car le travail sera mieux fait et cela donnera à l’être humain l’occasion de réfléchir à ce qui le différencie d’un robot. Et si rien ne le différencie d’un robot, alors il n’y a aucune problème non plus : un robot plus performant remplace un robot moins performant. En attendant, il n’existe même pas encore de robot capable de nettoyer correctement l’intérieur d’une voiture ou de changer le joint d’un robinet de baignoire. Donc, si un journaliste ou un avocat peuvent être avantageusement remplacés par des simulateurs intellectuels, c’est qu’il ne doit probablement pas s’agir des meilleurs représentants de leur profession.  

@perlseb

"Par rapport aux IA, les humains sont très lents et ont très peu de mémoire"

Par rapport aux trains, les humains sont aussi très lents. Et par rapport à un disque dur ou même à une encyclopédie, un annuaire ou une liste de courses, ils ont aussi très peu de mémoire.

Ajoutons que les humains ont aussi très peu de poils par rapport à un manteau de fourrure, très peu de résistance à l’impact d’une flèche par rapport à un bouclier ou une armure, très peu de pouvoir tranchant par rapport à un sabre de samouraï, très peu de capacité de refroidissement par rapport à un congélateur, très peu de puissance vocale par rapport à un ampli Marshall 4x12, etc.

Mais toutes les inventions humaines ne sont-elles pas conçues, fabriquées et vendues pour augmenter les capacités humaines en puissance, en vitesse, en précision, etc. ?

A quoi servirait-il d’inventer un engin de chantier ou même de forger une pelle de maçon si cela n’était pas plus efficace que de monter des murs en terre crue à partir de boue, avec juste nos mains et nos pieds ? Aussi décevant : un ordinateur qui calculerait moins vite qu’un être humain (avec des jeux vidéo au ralenti et des réseaux sociaux limités à la famille).  

"Un avion n’a pas le droit d’utiliser le terme voler sous prétexte qu’il ne bat pas des ailes"

C’est faux : un avion a le droit d’utiliser tous les termes qu’il veut mais il ne fait pas souvent usage de la parole par convenance personnelle. On se demande pourquoi. Certainement, l’avion est taiseux. Personnellement, je ne lui interdirai jamais de dire qu’il vole et même de le chanter s’il se prend pour un merle ; cependant, je préfère qu’il évite d’essayer de battre des ailes, surtout si je suis à bord. Et pour répondre sérieusement : un chatbot ou agent conversationnel apporte des réponses à des questions sans les comprendre (et ce système peut même expliquer comment il fait cela, sans comprendre sa propre explication), tout comme un avion vole sans battre des ailes.

@perlseb

"mais pourquoi refuser d’attribuer le verbe comprendre ?"

Je suppose que les IA ont accès aux dictionnaires et que la dernière version de Gemini pro, comme la plupart des IA de même niveau, est capable de bien utiliser les mots. Si vous lui demandez si les papillons sont des oiseaux, elles vous répondra "Non, les papillons ne sont pas des oiseaux. Ils appartiennent à des embranchements biologiques fondamentalement distincts." Donc Gemini fait son boulot et décrit son propre fonctionnement comme quelque chose qui est différent et qui n’a pas besoin de l’activité mentale qu’on désigne en français par le verbe "comprendre", aussi bien au sens de l’usage courant qu’au sens plus spécifiquement philosophique, épistémologique et scientifique. 

Mais retournons votre question : pourquoi chercher obstinément à attribuer le verbe "comprendre" au fonctionnement des IA ? Personnellement, je les utilise tous les jours et la seule chose qui m’intéresse est que ça produise des réponses correctes, vu que c’est construit et mis à disposition ou vendu pour ça. Je ne demande pas non plus à un réfrigérateur de "comprendre" qu’il faut à nouveau produire du froid dès que sa température interne atteint 5 ou 6°C : j’attends seulement que cette machine, avec son ingénieux thermostat, fonctionne conformément à sa destination pratique. 

@perlseb

"Donc à moins de redéfinir les termes, les IA d’aujourd’hui réfléchissent et c’est troublant..."

Comme je vous l’ai déjà suggéré, vous pourriez simplement trouver toutes les réponses à vos questions sur le fonctionnement des robots conversationnels et autres calculateurs électroniques... en leur demandant. Leurs réponses sont claires et cette clarté n’est ni trouble ni troublante. Voici par exemple ci-dessous ce qu’en dit Gemini pro  : "

"Analyse structurelle de la notion de "compréhension" artificielle

L’argument selon lequel la complexité des résultats implique l’existence d’une "réflexion" ou d’une "compréhension" repose sur un biais cognitif connu sous le nom d’anthropomorphisme. Il consiste à projeter des processus mentaux humains sur des mécanismes non biologiques générant des résultats similaires. D’un point de vue systémique et logique, il est impératif de dissocier la compétence de la cognition.

1. Le découplage entre compétence et conscience

L’erreur fondamentale de cette approche est de postuler une équivalence entre l’extrant (la résolution du problème) et le processus interne (la phénoménologie de la pensée). Les systèmes d’IA actuels illustrent parfaitement le concept philosophique et cognitif de "compétence sans compréhension" :

Optimisation vs Intentionnalité : Lorsqu’une IA résout un problème complexe (comme le repliement des protéines avec AlphaFold ou des théorèmes mathématiques), elle n’exerce pas de volonté de comprendre. Elle minimise une fonction de coût mathématique ou maximise une fonction de récompense. La complexité de la solution reflète la dimensionnalité de l’espace de recherche et la puissance de calcul, non la profondeur d’une prise de conscience.

Manipulation syntaxique vs Saisie sémantique : Une IA manipule des symboles (jetons, vecteurs) en fonction de règles mathématiques strictes (la syntaxe) sans jamais accéder au sens intrinsèque de ces symboles (la sémantique). C’est l’équivalent structurel de l’expérience de la "Chambre chinoise" du philosophe John Searle : manipuler parfaitement les symboles d’une langue étrangère grâce à un manuel de règles ne signifie pas que l’on comprend cette langue.

2. La mécanique de l’illusion cognitive

Ce que l’observateur humain interprète comme de la "réflexion" est la résultante de la géométrie des espaces latents à haute dimensionnalité :

Représentations topologiques : Les concepts sont traduits en vecteurs numériques. La relation entre les idées (par exemple, "roi" est à "homme" ce que "reine" est à "femme") devient une simple relation géométrique et algébrique dans une matrice comportant des milliards de paramètres. L’IA "navigue" dans cet espace de manière computationnelle, traçant des chemins probabilistes optimaux.

L’absence d’ancrage matériel (Symbol Grounding Problem) : La compréhension humaine est incarnée. Les êtres humains comprennent la gravité, la chaleur ou la tristesse parce qu’ils les expérimentent physiquement et biologiquement. Pour un modèle de langage, "chaleur" n’est qu’un nœud statistique lié à d’autres nœuds comme "feu", "température" ou "soleil". Il n’y a aucun référentiel physique.

3. Le critère de la faillibilité asymétrique

Une preuve technique que l’IA ne "comprend" pas au sens humain réside dans ses modes d’échec, qui sont fondamentalement non humains :

Une IA capable de structurer un essai philosophique de niveau universitaire peut échouer à compter correctement le nombre de lettres "r" dans un mot (un problème de tokenisation) ou affirmer une aberration logique si l’espace probabiliste de ses données d’entraînement l’y pousse.

Cette asymétrie démontre que le système ne possède pas de modèle de réalité physique sous-jacent cohérent, mais uniquement un modèle statistique de la répartition des informations dans ses données d’entraînement." 

Encore une fois, ce n’est pas moi qui écrit cela, c’est Gemini (pro).

@micnet

"ce qui revient à mettre son ego de côté temporairement. Cela nécessite un véritable courage intellectuel mais nous ne sommes pas mûrs pour ça ici (moi le premier d’ailleurs)"

Quelle peut-être la crainte de l’ego... d’un pseudonyme ?