@perlseb

Si de nombreux experts alertent, demandent une pause ou des réglementations, ce n’est pas parce qu’ils fument la moquette

oui mais attention, même les plus grands experts ne sont pas exempt de biais et d’irrationalité. Il faut comprendre le "climat" relatif aux IA : on a 2 camps qui s’affrontent depuis plusieurs années, les doomers et les technosolutionistes.

Les premiers disent "les IA vont nous détruire, il faut arrêter cette folie", les 2ème disent "les IA vont nous rendre immortel, il faut les développer le plus vite possible".

Ce débat date depuis bien avant les LLM.

Mais les LLM ont beaucoup exacerbé l’opposition. 

Ce qu’il faut absolument piger est simple : les IA améliorent les performances des IA.

On entre dans une exponentielle.

A partir de là, les 2 camps ont radicalisé leurs positions.

Et ces camps ont BEAUCOUP d’influence, y compris et surtout après des concepteurs de ces IA.

Donc on a une situation ou tout le monde s’excite beaucoup et le moindre "évènement" est repris en boucle par les experts et les media, et les gus en recherche de hype sur les réseaux sociaux.

Si on regarde froidement la situation, l’alignement des IA n’est pas vraiment un soucis technique. Elles sont de plus en plus alignées au fur et à mesure qu’elles sont de plus en plus puissantes.

Mais par contre, la société elle ... c’est autre chose. Les gens peuvent faire de la merde avec ces IA et là, c’est beaucoup plus problématique.