perlseb

@yoananda2
La bourse est une machine à bulles après tout, donc les explosions sont logiques, elles font tout perdre à certains, c’est vrai, et d’autres ramassent la mise pour pas grand chose (donc c’est violent mais prévu, donc normal).

@yoananda2
Ce qui est probable, c’est une "explosion normale", avec une concentration des acteurs (oui, je vois bien OpenAI gicler, et puis d’autres se recentrer sur leur métier).

@Gaspard Delanuit
C’est un peu plus compliqué. Il y en a beaucoup qui alertent sans faire partie de ces entreprises d’IA (ou après les avoir quittées, par exemple Geoffrey Hinton), car les contrats de travail contiennent des clauses qui restreignent les libertés. Mais effectivement, il y a aussi des messages savamment diffusés pour attirer les investisseurs, rabaisser un peu le péquin moyen pour qu’il se prosterne devant la future divinité. Je souhaite que la bulle explose mais l’IA continuera d’avancer au moins en Chine (donc d’une manière ou d’une autre aux US : argent public comme sous branche du militaire ?). L’enjeu restera de toutes façons très important maintenant, je ne vois pas de nouvel âge sombre. Je vois plutôt un déploiement assez rapide (profits obligent) et assez problématique si on garde les mêmes règles (chômage, retraite, ...).

@Gaspard Delanuit
En tant qu’utilisateur lambda, il n’y a apparemment aucune inquiétude à avoir avec ces machines. Mais si on cherche à faire du jail-breaking (sortir des limitations ajoutées pour faire des choses normalement interdites), si on a les moyens de faire des tests d’envergure pour jauger l’alignement ou le non déraillement des ces IA par rapport à leur comportement supposé sans risque, alors on s’aperçoit que ces outils ne sont pas aussi maîtrisés qu’il n’y paraît (fameuse boite noire). Et les spécialistes n’ont pas de solution générale et définitive pour ça, au contraire, les problèmes (d’alignement, etc...) risquent d’être plus difficiles à détecter si les IA progressent encore, c’est plutôt ça l’intuition des certains experts.

Je suis un utilisateur lambda de ces techniques, mais je m’intéresse à certaines vidéos d’Anthropic et certains papiers (que je laisse à d’autres le temps d’éplucher et de citer les nombreux passages pour faire leur vidéo : on peut toujours aller plus loin si on a le temps) qui pointent nombre de ces problèmes. Si le marteau est dangereux, on met un casque et des gants, résolu. Mais on ne sait pas comment faire avec les IA, puisque ce sont des boites noires. Comme disait yoananda2, on gère déjà certaines boites noires (comme les chiens, qui causent parfois des accidents), mais on ne le leur donne pas une autonomie de plus en plus grande, ils ne pourront jamais supprimer une base de données, pirater un site, etc...

Si on est persuadé que ce sont des automates qui ne font que ce qu’on leur demande et sans aucun écart (utilisateur lambda), alors on ne comprend pas le problème. Si de nombreux experts alertent, demandent une pause ou des réglementations, ce n’est pas parce qu’ils fument la moquette (ou pas tous, c’est peu probable quand même). Je ne suis pas expert, mais certains sont vraiment très intéressants à écouter (même si on peut ne pas être d’accord sur tout non plus, mais il y a plein d’anecdotes réelles et un peu troublantes parfois).

Je souhaite sincèrement que ces alertes soit fausses mais un peu de prudence n’a jamais tué personne.

@Ouam
Non Ouam, mon post était adressé autant à moi qu’à tout le monde en général. Je trouve dommage que certains banalisent un peu trop l’IA car je pense qu’il y a des vrais risques, mais l’avenir leur donnera peut-être raison, ce n’est pas impossible.