yoananda2

@perlseb

Si de nombreux experts alertent, demandent une pause ou des réglementations, ce n’est pas parce qu’ils fument la moquette

oui mais attention, même les plus grands experts ne sont pas exempt de biais et d’irrationalité. Il faut comprendre le "climat" relatif aux IA : on a 2 camps qui s’affrontent depuis plusieurs années, les doomers et les technosolutionistes.

Les premiers disent "les IA vont nous détruire, il faut arrêter cette folie", les 2ème disent "les IA vont nous rendre immortel, il faut les développer le plus vite possible".

Ce débat date depuis bien avant les LLM.

Mais les LLM ont beaucoup exacerbé l’opposition. 

Ce qu’il faut absolument piger est simple : les IA améliorent les performances des IA.

On entre dans une exponentielle.

A partir de là, les 2 camps ont radicalisé leurs positions.

Et ces camps ont BEAUCOUP d’influence, y compris et surtout après des concepteurs de ces IA.

Donc on a une situation ou tout le monde s’excite beaucoup et le moindre "évènement" est repris en boucle par les experts et les media, et les gus en recherche de hype sur les réseaux sociaux.

Si on regarde froidement la situation, l’alignement des IA n’est pas vraiment un soucis technique. Elles sont de plus en plus alignées au fur et à mesure qu’elles sont de plus en plus puissantes.

Mais par contre, la société elle ... c’est autre chose. Les gens peuvent faire de la merde avec ces IA et là, c’est beaucoup plus problématique.

@micnet

La spiritualité (si on a une vision dualiste bien sûr)

la spiritualité moniste existe aussi, c’est juste pas la même que des dualistes.

@Gollum

D’ailleurs ce genre d’histoire n’est pas la première si je ne m’abuse...

y en a plein  

(et pour moi c’est très bien et sain, je ne critique pas, mais faut pas trop se faire d’illusions non plus sur la portée de ces papiers)

@Gollum
intéressant mais très spéculatif. Je suis allé voir l’original parce que bon l’article généré par IA ne dit rien. Ses seules prédictions c’est que la conscience influencerait des phénomènes quantiques du type générateur de nombre aléatoires ou sur le l’effet casimir, et potentiellement en biologique et cosmologie aussi. C’est pas grand chose surtout que, sauf erreur de ma part (jai juste fait un survol) ça n’apporte rien sur les grandes question d’unification des forces.
Hors, c’est le minimum selon moi si on prétends expliquer ce qu’il y a "en dessous" des forces physiques.
Donc à mon avis ce papier n’ira pas bien loin en term de citation, et il faut noter que c’est un travail solitaire aussi.

@perlseb

Si l’homme est une machine, elle est bien bien plus complexe que des IA. Il n’y a aucun doute là-dessus. Mais si vous posez la question suivante : de quel ordre de complexité ? On en sait toujours de plus en plus, ce qui soulève encore plus de questions.

je confirme. L’humain est vraiment beaucoup beaucoup plus complexe que l’IA, ça ne fait aucun doute en effet.

En revanche, et ça va sembler paradoxal, on n’a acutellement aucune mesure de la complexité, bien qu’il y ai de nombreuses tentatives. Rien ne marche.

Donc on ne peut pas le prouver.

En revanche, que l’humain soit plus complexe, je ne sais pas trop si ça va changer quelque chose parce que, si l’humain au global est complexe, sa cognition elle, qui est un sous système l’est beaucoup moins.

C’est un peu comme le sang : ultra complexe, mais la vascularisation, c’est un presque un vulgaire problème de tuyauterie...

bref, la complexité, c’est la merde... très difficile à apprehender, et notre cerveau est mal équipé pour ça.