perlseb

@Gaspard Delanuit
Ma petite inquiétude sur le travail, c’est que nos hommes politiques (qui sont plus sensibles aux problèmes des "hommes d’affaire" qu’au petit peuple), accepte l’idée que des emplois nouveaux vont être créés avec l’IA pendant un peu trop longtemps (pour augmenter notre détresse et faciliter notre asservissement).

Mais la vraie inquiétude fondamentale sur l’IA (je ne l’ai pas inventé, ce sont d’abord des écrivains comme Frank Herbert et bien d’autres puis un grand nombre d’experts de l’IA aujourd’hui) c’est le problème que peut poser une entité qui nous serait supérieure en "intelligence". Pour Geoffrey Hinton, il compare la création d’une super-intelligence à une invasion d’aliens. Et si les aliens ne sont pas forcément agressifs, le fait qu’ils nous dépassent de très loin intellectuellement signifierait juste qu’ils risquent de n’avoir pas plus de considération pour nous que pour les animaux en général. Alors les fourmis prospèrent même en présence de l’homme, mais la plupart des animaux avec un certain volume disparaissent, non pas parce qu’on leur en veut, juste parce qu’on prend la place qu’ils occupent (et souvent leur nourriture mais c’est lié à la place). Non, le scénario à la Terminator n’est pas le plus probable.

Mais il existe un nombre incalculable de risques si on met des IA surpuissantes dans les mains de "terroristes". De même si cette IA était réservée à une élite qui l’utiliserait pour asservir ceux (ou leurs descendants) qui ont pourtant participé activement (directement ou non) à sa création.

Donc il y a un nombre incalculable de problèmes qui surgissent et je crois que notre élite va s’entendre pour ne pas nous mettre cet "outil" entre les mains même si elle en perd le contrôle assez vite. On le voit déjà avec Mythos (bloqué par Trump) et aussi avec la fortune de Musk qui explose tout (pas trop partageur dans le fond).

Pourquoi être gêné par le fait que les mots ont un sens ?

Justement, je veux bien accepter qu’on ne parle pas d’intelligence pour les machines, mais pourquoi accepter ce terme pour des perroquets ? Sont-ils réellement si proches de nous ? La réalité, c’est qu’on est sûr qu’on les dépasse, donc on l’accepte dans ce cas-là. Et si le terme intelligence dans IA est utilisé, c’est parce que c’est bien le but que ce sont donnés les scientifiques qui sont à l’origine du terme. On peut dire que ce n’est pas encore de l’intelligence aujourd’hui, mais si on invente un autre mot, on ne facilite pas la compréhension du but. Et ce terme n’est pas clair de toutes façons, même pour l’homme (le QI prétend la mesurer mais d’une façon extrêmement biaisée).

Globalement, si un chercheur résout un problème de math, tout le monde l’applaudira pour sa démonstration, surtout si elle est novatrice. Si on apprend que c’est une machine, ce n’est pas de l’intelligence... C’est de l’affect, pas un problème de sens. Car quelle serait la meilleure faculté nécessaire (dans la mesure où on a les connaissances requises) pour résoudre un problème de math ? Du courage ? Du temps ? De l’énergie ? Tout cela ne suffirait pas. Il y a un autre terme à mon avis. Je parle pour des discussions de comptoirs comme celle-ci, je ne suis pas à l’académie. Mais si des gens de lettres inventent un nouveau terme pour l’"intelligence des machines", je dirai qu’ils sont très mal placés pour le faire. Les recherches en IA vont peut-être nous permettre de mieux définir ce terme et de trouver, pourquoi pas, une limite infranchissable aux machines. Et c’est à ce moment qu’on aura une connaissance supplémentaire, et qu’un nouveau terme (technique) aura besoin d’être créé. Bien sûr, tout ce charabia n’est que mon humble avis.

@mat-hac
Le plus extraordinaire, c’est que c’est toujours le doute qui a permis de faire avancer la science. Ceux qui nous expliquent que l’homme possède quelque chose de plus ne sont pas dans le doute. Moi je n’en sais rien. Et s’il n’avait rien de plus ? C’est juste ça la vidéo 2.

Si elle vous gêne alors vous êtes sûr de choses que la majorité des scientifiques sont obligés de rejeter pour progresser dans leur domaine. Mais plus on comprend de choses, plus on voit que ça suit des lois physiques purement matérialistes (et ondulatoires, bref explicables). Donc ce qu’on ne comprend pas aujourd’hui n’a absolument aucune raison de ne pas faire partie de ce qu’on comprendra demain, donc sans intervention d’un esprit divin.

En résumé, plus la science progresse, plus on lève des doutes qui étaient (faussement) "expliqués" de manière "spirituelle". Mais à chaque fois que l’homme comprend plus de choses, ils se posent encore plus de questions. Donc on peut encore se réfugier dans un esprit supérieur, ou attendre qu’on lève ces nouveaux doutes par une explication rationnelle dans le futur. L’histoire nous enseigne qu’il faut savoir douter et que l’homme ne saura jamais tout. Un peu d’humilité et d’acceptation de notre ignorance sont la recette pour en savoir plus. Ne pas douter est un gros frein à la compréhension du monde. Le doute est essentiel.

Il y a de très bonnes vidéos en anglais de Neil deGrasse Tyson sur le sujet et elles vous révulseront : lui aime le doute mais beaucoup de gens veulent être rassurés, malheureusement. Ils préfèrent une explication fausse que rien du tout.

Nous avons enfin créé l’oracle, nous pouvons arrêter de réfléchir.

Prévoir l’évolution des prix, eux-mêmes fixés par les émotions des humains, sans blague... Bon Palantir le fait plus ou moins, mais parce qu’elle les influence elle-même. Et c’est bien la seule manière d’être un oracle : décider à la place des autres.

@yoananda2
Oui, pour l’instant on peut toujours faire machine arrière. Mais il faut se méfier des exponentielles. Bien sûr, dans le monde réel, ça n’existe jamais. L’énergie et les ressources limitées vont peut-être nous sauver.

@pemile
Toujours cet anthropomorphisme ! Tu ne vois pas que tu parles d’intelligence à propos d’un perroquet là ? Seul l’homme peut être intelligent...
Sans plaisanter, on peut dire que les machines ne parlent pas mais quel terme proposes-tu quand tu ... discutes avec ? Inventer des termes pour les machines, est-ce que ça va faciliter la discussion ? Pourquoi être gêné par des termes en particulier ? Il faut arrêter de raisonner avec ... les émotions. Ça ne marche pas du tout.