@Gaspard Delanuit
En tant qu’utilisateur lambda, il n’y a apparemment aucune inquiétude à avoir avec ces machines. Mais si on cherche à faire du jail-breaking (sortir des limitations ajoutées pour faire des choses normalement interdites), si on a les moyens de faire des tests d’envergure pour jauger l’alignement ou le non déraillement des ces IA par rapport à leur comportement supposé sans risque, alors on s’aperçoit que ces outils ne sont pas aussi maîtrisés qu’il n’y paraît (fameuse boite noire). Et les spécialistes n’ont pas de solution générale et définitive pour ça, au contraire, les problèmes (d’alignement, etc...) risquent d’être plus difficiles à détecter si les IA progressent encore, c’est plutôt ça l’intuition des certains experts.

Je suis un utilisateur lambda de ces techniques, mais je m’intéresse à certaines vidéos d’Anthropic et certains papiers (que je laisse à d’autres le temps d’éplucher et de citer les nombreux passages pour faire leur vidéo : on peut toujours aller plus loin si on a le temps) qui pointent nombre de ces problèmes. Si le marteau est dangereux, on met un casque et des gants, résolu. Mais on ne sait pas comment faire avec les IA, puisque ce sont des boites noires. Comme disait yoananda2, on gère déjà certaines boites noires (comme les chiens, qui causent parfois des accidents), mais on ne le leur donne pas une autonomie de plus en plus grande, ils ne pourront jamais supprimer une base de données, pirater un site, etc...

Si on est persuadé que ce sont des automates qui ne font que ce qu’on leur demande et sans aucun écart (utilisateur lambda), alors on ne comprend pas le problème. Si de nombreux experts alertent, demandent une pause ou des réglementations, ce n’est pas parce qu’ils fument la moquette (ou pas tous, c’est peu probable quand même). Je ne suis pas expert, mais certains sont vraiment très intéressants à écouter (même si on peut ne pas être d’accord sur tout non plus, mais il y a plein d’anecdotes réelles et un peu troublantes parfois).

Je souhaite sincèrement que ces alertes soit fausses mais un peu de prudence n’a jamais tué personne.