@Gaspard Delanuit
Ma petite inquiétude sur le travail, c’est que nos hommes politiques (qui sont plus sensibles aux problèmes des "hommes d’affaire" qu’au petit peuple), accepte l’idée que des emplois nouveaux vont être créés avec l’IA pendant un peu trop longtemps (pour augmenter notre détresse et faciliter notre asservissement).

Mais la vraie inquiétude fondamentale sur l’IA (je ne l’ai pas inventé, ce sont d’abord des écrivains comme Frank Herbert et bien d’autres puis un grand nombre d’experts de l’IA aujourd’hui) c’est le problème que peut poser une entité qui nous serait supérieure en "intelligence". Pour Geoffrey Hinton, il compare la création d’une super-intelligence à une invasion d’aliens. Et si les aliens ne sont pas forcément agressifs, le fait qu’ils nous dépassent de très loin intellectuellement signifierait juste qu’ils risquent de n’avoir pas plus de considération pour nous que pour les animaux en général. Alors les fourmis prospèrent même en présence de l’homme, mais la plupart des animaux avec un certain volume disparaissent, non pas parce qu’on leur en veut, juste parce qu’on prend la place qu’ils occupent (et souvent leur nourriture mais c’est lié à la place). Non, le scénario à la Terminator n’est pas le plus probable.

Mais il existe un nombre incalculable de risques si on met des IA surpuissantes dans les mains de "terroristes". De même si cette IA était réservée à une élite qui l’utiliserait pour asservir ceux (ou leurs descendants) qui ont pourtant participé activement (directement ou non) à sa création.

Donc il y a un nombre incalculable de problèmes qui surgissent et je crois que notre élite va s’entendre pour ne pas nous mettre cet "outil" entre les mains même si elle en perd le contrôle assez vite. On le voit déjà avec Mythos (bloqué par Trump) et aussi avec la fortune de Musk qui explose tout (pas trop partageur dans le fond).

Pourquoi être gêné par le fait que les mots ont un sens ?

Justement, je veux bien accepter qu’on ne parle pas d’intelligence pour les machines, mais pourquoi accepter ce terme pour des perroquets ? Sont-ils réellement si proches de nous ? La réalité, c’est qu’on est sûr qu’on les dépasse, donc on l’accepte dans ce cas-là. Et si le terme intelligence dans IA est utilisé, c’est parce que c’est bien le but que ce sont donnés les scientifiques qui sont à l’origine du terme. On peut dire que ce n’est pas encore de l’intelligence aujourd’hui, mais si on invente un autre mot, on ne facilite pas la compréhension du but. Et ce terme n’est pas clair de toutes façons, même pour l’homme (le QI prétend la mesurer mais d’une façon extrêmement biaisée).

Globalement, si un chercheur résout un problème de math, tout le monde l’applaudira pour sa démonstration, surtout si elle est novatrice. Si on apprend que c’est une machine, ce n’est pas de l’intelligence... C’est de l’affect, pas un problème de sens. Car quelle serait la meilleure faculté nécessaire (dans la mesure où on a les connaissances requises) pour résoudre un problème de math ? Du courage ? Du temps ? De l’énergie ? Tout cela ne suffirait pas. Il y a un autre terme à mon avis. Je parle pour des discussions de comptoirs comme celle-ci, je ne suis pas à l’académie. Mais si des gens de lettres inventent un nouveau terme pour l’"intelligence des machines", je dirai qu’ils sont très mal placés pour le faire. Les recherches en IA vont peut-être nous permettre de mieux définir ce terme et de trouver, pourquoi pas, une limite infranchissable aux machines. Et c’est à ce moment qu’on aura une connaissance supplémentaire, et qu’un nouveau terme (technique) aura besoin d’être créé. Bien sûr, tout ce charabia n’est que mon humble avis.