Gollum, yoananda2,

Bon, j’ai été au bout, en notant, ouf... Mais ça reste flottant, sous caution.

GPT3.5 turbo et GPT4 ne fonctionnent pas avec les mêmes procédés pour calculer, prévoir et annoncer le coup suivant aux échecs.
Déjà, il y a la boite mystère, "le réseau neuronal" tout au fond, qui permet le deep leanring. Les protagonistes de la vidéo ne semblent pas y avoir accès, sans doute parce que c’est un programme propriétaire (?).

GPT4 dispose numériquement durant un jeu en cours de toutes les pièces en place sur l’échiquier, des possibilités de chaque pièce, de quelles pièces sont défendues par lesquelles.. Ensuite, "monologue" intérieur avec raisonnements pas à pas des coups possible et des effets en redistribution du jeu entre les pièces.

GPT3.5 dispose de foultitude des parties jouées, les fichiers PGN, de classements de ces fichiers selon classement Elo de ceux qui les ont joués. Il fait tri et sélection parmi les fichiers GPT pour "compléter" avec son coup qu’il fait. 

Première surprise, GPT3.5, génération plus ancienne fait de meilleurs résultats avec son procédé contextuel ("mimesis", "tâtonnement zombie" : mes mots à moi pour rapprocher) que GPT4 en procédé plus "rationnel". C’est ce qui m’avait intéressé, perso, comme je l’ai écrit au dessus.

Impression sous caution car le comportement, et donc la performance, d’un GPT peut changer significativement en fonction d’un changement de paramètre sans comprendre forcément pourquoi.

Test a été fait avec Othello, jeu sur damier aussi, bien plus simple que les échecs, avec fourniture de foultitude fichiers PGN, mais sans expliquer les règles du jeu : ça marche aussi (avec des erreurs de jeu plus nombreuses, mais résultats probants quand même).
Le GPT3.5 turbo a-t-il intégré une représentation du jeu ? Il semble que oui : en intégrant des fichiers PGN avec des placements de pions différents (une autre règle inventée, je crois), le GPT change et adopte un autre comportement, donc une autre représentation.

Bon, à première impression "se forger un modèle du monde" c’est un grand mot. C’est le Deep Learning que l’on sait (pour le principe, en tout cas) : fournir à l’ordinateur des foultitudes de fichiers (images, sons, jeux, textes, autres), lui attribuer un objet à reconnaitre, ou une fonction, puis l’entrainer à le discriminer parmi des fichiers témoins, créer ainsi un automatisme de reconnaissance, lui en faire créer d’autres, lui faire accumuler des automatismes, y compris en les confrontant. 

J’en suis là.