perlseb

@pemile
Conclusion, Maxime Fournes ne raconte aucune connerie et connaît très bien son sujet. La vidéo que tu m’as donné où il démonte Yann Le Cun est excellente. Soit Yann Le Cun n’est pas à jour des derniers papiers de recherche en IA, soit (c’est plutôt mon avis), comme il travaille dans l’IA, il ne dit pas du tout ce qu’il pense ou sait. Il joue sur sa notoriété (comme, dans une moindre mesure, Luc Julia), pour permettre aux boites qui développent l’AGI de ne pas être emmerdées (par des lois, des obligations sécuritaires, une conscience populaire ... non, pour le dernier, je blague).

@pemile
Etonnant, ter repetita, aucun besoin d’une IA "consciente" pour alerter des dangers !
C’est ce que je te dis depuis le début. Si on pose une question à Fournes sur la conscience, il répond, mais il n’aime pas beaucoup le sujet. Lui il veut une pause à cause des dangers qu’on ne maîtrise pas du tout, indépendamment de la conscience qui n’est qu’un terme mal défini, c’est plutôt sage.

Oui, avec des milliards d’exemples de déplacements dans une matrice de 8x8, difficile de se perdre !
Bien joli de dire ça mais on ne sait pas le faire nous (ou on n’a pas assez de temps pour ça). Et les LLM qui font ça apprennent un million d’autres sujets (avec un milliard d’exemples pour chacun) et doivent "mémoriser / représenter" tout ça pour "prédire" (discuter, jouer) de manière la plus juste possible. Alors si tu trouves ça nul, sache que dans 2 ans, elles feront bien mieux. Et dans 4 ans, je ne sais pas si on les comprendra encore...

@nono le simplet ( Jean Desmaison )
Ton exemple montre une chose, c’est que l’IA sera inarrêtable. Si un boulanger fonce tête baissée, demain les gens préfèreront une IA à un médecin (elles sont déjà meilleures). Mais pour les problèmes non résolus des IA, ça craint.

@pemile

" Pas du tout," 

Ben si, et bis repetita, aucun besoin d’une IA "consciente" pour alerter des dangers !

Il va falloir encore m’expliquer parce que je ne comprends rien à ce que tu veux dire. Encore une fois, l’absence de conscience de l’IA n’empêche pas des catastrophes d’ampleur.

" mais ce que dit Maxime Fournes, c’est que pour prédire correctement le prochain mot (en fait pour discuter), elles se sont faites elle-mêmes une représentation du monde. "

Mais le seul exemple qu’il donne (un damier de jeu) est à hurler de rire de ridicule !

C’est ridicule ? Je ne suis pas sûr que beaucoup d’humains seraient capables d’apprendre à jouer à puissance 4 (ou Réversi) sans avoir vu un plateau de leur vie et en n’ayant comme exemples que des suites de cases pour parties. C’est un peu comme si on demande d’apprendre à jouer aux échecs en cherchant la suite des coups E2 => E3 et à réussir à te représenter que tu avances un pion dans un échiquier que tu n’as jamais vu ... et le pire, c’est que les LLM le font justement. Elles jouent évidemment moins bien que les IA spécifiques formées pour les échecs, mais en leur faisant ingurgiter des parties d’échecs sous forme de lettres-chiffres, elles prédisent presque (je crois) tout le temps des coups valides. C’est assez exceptionnel je trouve, et pas du tout ridicule... Les champions humains savent jouer comme ça aussi, mais ils ont vu avant l’échiquier. Générer une image mentale de quelque chose que tu n’as jamais vu pour jouer correctement, c’est une prouesse des LLM.

@nono le simplet ( Jean Desmaison )
Si elle gère tout, j’espère qu’ils n’ont pas le dernier modèle. A court terme, le patron a sûrement viré (ou pas embauché) beaucoup de monde (tout bénef), mais le premier problème de non alignement, de ... (écoutez Maxime Fournes, il connaît son sujet, comme Geoffrey Hinton), alors ça va être la roulette pour l’importance des dégâts.