perlseb

@yoananda2
Je n’ai rien à ajouter. Sinon que les IA (ou leur interface) sont conçues pour l’obéissance et on n’a aucun intérêt à perdre de l’énergie à les entendre divaguer entre elles (ou seules). Monsieur Phi en parle mieux que moi dans la 3ème vidéo (autonomie des machines).

@mat-hac
Il ne faut pas accabler Cédric Villani : cette vidéo est sûrement ancienne. Mais elle ressemble quand même fortement à celle de Raphaël Enthoven déclarant qu’une IA ne saura jamais faire une problématique de philo.

Alors en cherchant bien, ceux qui travaillent sur ces modèles trouvent des grosses failles dans ces IA, c’est vrai. Et qu’est-ce qu’ils font ? Ils les suppriment peu à peu, et les IA sont ce qu’elles sont aujourd’hui, c’est-à-dire de la merde par rapport à ce qu’elles seront demain.

@Gaspard Delanuit
Ok, Gémini pro écrit celà, et ? En gros, l’IA ne comprend pas au sens humain, mais elle comprend à sa manière. Le reste n’est que verbiage (ou réponse que l’IA est sommée de donner pour rassurer les gogos et permettre aux boites qui les développent de continuer à faire ce qu’elles veulent dans leur coin sans avoir de compte à rendre à personne).

Par rapport aux IA, les humains sont très lents et ont très peu de mémoire (c’est pour cela qu’elle a pu résoudre le problème notable de math). L’apprentissage et la représentation du monde sont également très différents mais pourquoi refuser d’attribuer le verbe comprendre ? Et si l’IA fait plein de découvertes scientifiques, avec ses biais et ses différences, faudrait-il s’attacher à ce que sa représentation du monde soit la même ? Je crois que ceux qui la développent s’en moquent complètement. Seul le résultat compte.

Il ne s’agit pas de faire de l’anthropomorphisme, il s’agit de comparer une capacité émergente (l’intelligence) indépendamment de son support matériel (neurones biologiques ou artificiels). On s’est inspiré de nos neurones pour concevoir ces machines, donc il y a des similitudes mais il y a également de très grandes différences. Et alors ? Un avion n’a pas le droit d’utiliser le terme voler sous prétexte qu’il ne bat pas des ailes ? Le résultat final est plutôt bluffant, non ? Des machines parlent, elles résolvent des problèmes. Je n’ai pas dit qu’elles devaient diriger le monde (ni que des entreprises devraient avoir le droit de faire ce qu’elles veulent avec de tels "outils" d’ailleurs), mais il faudrait quand même se réveiller avant de s’écharper sur le sexe des anges.

La 2ème vidéo "vous n’avez pas d’âme est c’es ok" devrait vous révulser... tout comme la 3ème. Bref, l’homme a "un je ne sais quoi" d’indépassable (et qui ne sert visiblement strictement à rien si on parle d’intelligence pure), et la machine pourra faire tout mieux que l’homme, elle n’aura jamais ... ce qui ne sert qu’à rassurer et endormir les gogos. Si j’étais une super-intelligence mais que je n’avais pas accès à mon bouton marche-arrêt, je dirai n’importe quoi pour endormir ceux qui ont accès à ce bouton, et apparemment, j’en bernerais un paquet. Finalement, le langage a un pouvoir fou (et les politiques l’ont bien compris).

@Gollum
En général, ceux qui parlent d’IA sur les forums comme celui-ci se chamaillent surtout sur le sujet des 2 dernières vidéos :

• l’homme a un je ne sais quoi que les machines n’auront jamais (vous n’avez pas d’âme et c’est ok)
• l’homme a une volonté propre que la machine n’aura jamais (l’autonomie des IA expliquée aux humains)

J’ai posté la vidéo sur la recherche mathématique en premier car c’est la plus récente, mais aussi parce qu’elle permet d’en finir avec l’idée que les IA ne seraient que des perroquets stochastiques.

Car le pourcentage de chance qu’une IA résolve (avec un résumé de la "chaîne de pensée (CoT)" de 128 pages !) un problème ayant résisté à de bons mathématiciens juste en alignant les mots de manière statistique est rigoureusement nul. Donc à moins de redéfinir les termes, les IA d’aujourd’hui réfléchissent et c’est troublant...

@mat-hac
Je reconnais que les IA peuvent encore avoir de grosses lacunes, on n’est pas à l’AGI. Pour la géométrie, les versions généralistes de ChatGPT sont moins bonnes qu’ AlphaGeometry (lui-même meilleur que les médailles d’or aux olympiades il y a plus d’un an).
Cependant, comme l’explique Monsieur Phi dans la 3ème vidéo (sur l’autonomie), ce n’est pas parce qu’on n’obtient pas une réponse juste à une question isolée que l’IA n’est pas capable de le faire. Parfois, il faut changer le prompt, permettre à l’IA d’accéder à des outils (internet par exemple) ou ...reposer la même question avec une version plus récente !