perlseb

Il a compris comment on fait des calculs dans la boite noire. Il annonce une autre vidéo pour expliquer comment on fait pousser la boite noire.

Mais ce qui serait intéressant, c’est de savoir exactement ce que contient la boite noire et ça c’est très difficile. Par "contient", il ne suffit pas de lister les milliards de paramètres, on les connaît évidemment tous. Non, par contient, il faut comprendre quelles sont les significations de chacun des paramètres pris individuellement ainsi que des relations créées entre eux. Et là, c’est impossible. C’est pour ça que c’est une boite noire.

Anthropic fait des vidéos qui montrent qu’ils essayent de comprendre de toutes petites parties du réseau neuronal et ils vérifient qu’en faisant des modifications de quelques "neurones" (après apprentissage), les résultats sont faussés comme attendu. Mais il faudrait plusieurs vies humaines pour faire l’inventaire exhaustif du réseau neuronal complet.

Le résultat le plus notable est quand même que ces boites noires contiennent une représentation du monde (représentation fournie par les données d’entraînement) : on ne peut pas répondre de manière juste à beaucoup de questions dans plein de domaines sans se raccrocher à un savoir (aussi imparfait qu’ils soit).

Donc on ne peut pas savoir ce que contient une telle boite noire et c’est là le problème. Vous ne pourrez pas faire tous les prompts possibles pour petit à petit faire une liste de ce que le réseau sait, et tout ce qu’il ne sait pas. Ce serait beaucoup trop long et beaucoup trop coûteux. Vous pouvez constater que le réseau répond mal pour une question donnée avec un prompt, c’est tout. Pas qu’il ne connaît pas la réponse car une autre formulation pourrait marcher.

La conclusion : ce sont bien des boites noires, mais on sait les faire fonctionner ... sinon elles n’auraient aucun intérêt, évidemment.

La conclusion de la conclusion : on sait les faire tourner, mais on ne sait pas vraiment de quoi elles sont capables. Et dans le principe, c’est plutôt dangereux de donner plus d’autonomie à une boite noire.

@pemile
Quel est ton message ? Que l’IA va remplacer tous les métiers intellectuels et les robots tous les métiers physiques ? Qu’il faut s’inquiéter ?
Ou que les métiers physiques ne sont généralement pas intellectuels ?

@yoananda2
Je ne peux pas être plus d’accord avec toi. Ceux qui sont sûrs de savoir ne peuvent pas écouter Mr Phi, et beaucoup d’autres. C’est un peu navrant d’imaginer cette ... foi, il n’y a pas de discussion possible, il y a des barrières mentales infranchissables.

@yoananda2
Je suis d’accord qu’on perd son temps avec ça. Mais d’un autre côté, c’est vrai qu’on a besoin de mots avec un sens précis pour pouvoir expliquer nos pensées... C’est piégeux. Mais dans ce cas précis, refuser l’anthropomorphisme que tout le monde comprend, ça ne fait rien avancer justement. Je pense que ce sont les recherches en IA qui nous en diront plus sur le terme "intelligence", très imparfait et remis en question par des machines qui parlent sans que ce soit du pipotron. On ne peut pas faire mieux sur le sujet que la vidéo de Mr Phi sur l’âme et d’imaginer la tête de Descartes devant ses contradictions (les machines pensent et ont une âme ?).

@yoananda2
Lever des doutes par des explications rocambolesques, pardon, spirituelles, c’est un peu la marque de fabrique des religions. Mais bon, ça rassure ceux qui sont incapables de douter.