perlseb

@Gaspard Delanuit
En tant qu’utilisateur lambda, il n’y a apparemment aucune inquiétude à avoir avec ces machines. Mais si on cherche à faire du jail-breaking (sortir des limitations ajoutées pour faire des choses normalement interdites), si on a les moyens de faire des tests d’envergure pour jauger l’alignement ou le non déraillement des ces IA par rapport à leur comportement supposé sans risque, alors on s’aperçoit que ces outils ne sont pas aussi maîtrisés qu’il n’y paraît (fameuse boite noire). Et les spécialistes n’ont pas de solution générale et définitive pour ça, au contraire, les problèmes (d’alignement, etc...) risquent d’être plus difficiles à détecter si les IA progressent encore, c’est plutôt ça l’intuition des certains experts.

Je suis un utilisateur lambda de ces techniques, mais je m’intéresse à certaines vidéos d’Anthropic et certains papiers (que je laisse à d’autres le temps d’éplucher et de citer les nombreux passages pour faire leur vidéo : on peut toujours aller plus loin si on a le temps) qui pointent nombre de ces problèmes. Si le marteau est dangereux, on met un casque et des gants, résolu. Mais on ne sait pas comment faire avec les IA, puisque ce sont des boites noires. Comme disait yoananda2, on gère déjà certaines boites noires (comme les chiens, qui causent parfois des accidents), mais on ne le leur donne pas une autonomie de plus en plus grande, ils ne pourront jamais supprimer une base de données, pirater un site, etc...

Si on est persuadé que ce sont des automates qui ne font que ce qu’on leur demande et sans aucun écart (utilisateur lambda), alors on ne comprend pas le problème. Si de nombreux experts alertent, demandent une pause ou des réglementations, ce n’est pas parce qu’ils fument la moquette (ou pas tous, c’est peu probable quand même). Je ne suis pas expert, mais certains sont vraiment très intéressants à écouter (même si on peut ne pas être d’accord sur tout non plus, mais il y a plein d’anecdotes réelles et un peu troublantes parfois).

Je souhaite sincèrement que ces alertes soit fausses mais un peu de prudence n’a jamais tué personne.

@Ouam
Non Ouam, mon post était adressé autant à moi qu’à tout le monde en général. Je trouve dommage que certains banalisent un peu trop l’IA car je pense qu’il y a des vrais risques, mais l’avenir leur donnera peut-être raison, ce n’est pas impossible.

@nono le simplet ( Jean Desmaison )
tu nous saoules depuis lundi en faisant comme si l’intelligence n’était qu’une abstraction intellectuelle qui se limite à la logique et à l’apprentissage ...
pemile essaie de te faire comprendre que l’intelligence c’est autre chose ...

Oui, mais comment comprendre ce qu’est l’intelligence quand on n’en a pas soi-même. J’aurais jamais dû poster ces vidéos, je suis trop con... mais je ne le savais pas. Donc il ne faut pas m’accabler non plus.

@pemile
" Donnez un problème qui, selon vous, nécessite réellement de l’intelligence pour être résolu, qu’on en finisse "

Monter un meuble IKEA ?

Ta remarque me fait penser à un chercheur qui étudiait les puces. Il avait réussi à en apprivoiser une, et quand il disait "saute !", la puce sautait. Mais tout le monde ne s’improvise pas chercheur, avec cette envie insatiable d’en savoir plus. Alors il coupa les pattes de sa puce, et il lui demanda de sauter à nouveau : "saute !". Et là, la puce n’obéissait plus. Avec sa logique infaillible de chercheur, il en déduisit qu’une puce avec les pattes coupées n’entendait plus rien.

Donc tu tiens un truc, là. Un nouveau domaine de recherche qu’on pourrait appeler de manière longue : "Influence des membres et des organes sur la cognition, recherche par ablations ciblées". Il faudrait trouver un terme grec pour résumer ça bien comme il faut (j’ai pas fait grec). Et on pourrait faire des expériences sur des bons bricoleurs, voir si une fois les bras coupés, ils montent les meubles aussi vite, moins vite ou pas du tout. Mais on sait que les oreilles des hommes ne sont pas sur leur pattes (ou bras dans ce cas-ci), donc on pourrait aussi tester d’autres capacités, comme les multiplications à 1 chiffre, à 3 chiffres (avant et après ablation). Il ne faut pas se soucier des candidats pour ce genre de test à l’heure ou certains indiens vendent leur rein pour un téléphone portable. La science mérite d’en savoir plus sur ce nouveau domaine et je serais peut-être fier dans le futur d’avoir participé et d’avoir discuté avec le créateur de cette nouvelle discipline.

@Gaspard Delanuit
Vous faites un blocage, il n’y a malheureusement pas de discussion possible. Je n’affirme nullement que la machine arrivera au niveau de l’homme (même si les compétences en "simulation" actuelles sont déjà largement suffisantes pour virer un paquet de monde), mais j’accepte aussi cette hypothèse, je suis dans le doute, donc une discussion devrait être possible.

Vous, vous savez. Vous savez que des morceaux de silicium n’égaleront jamais des cellules dans le domaine de l’intelligence. Donc vous perdez votre temps avec nous, et c’est regrettable aussi.

Et peu importe nos formations respectives : un ingénieur serait mieux placé pour comprendre les IA et mal placé pour comprendre le cerveau. Un neuroscientifique, ça serait l’inverse. Alors il y en a qui ont la double formation (Demis Hassabis) et j’aurais tendance a plus croire son discours assez mesuré dans l’ensemble que le votre. C’est le propre d’un esprit qui doute : il n’est pas trop attiré par ceux qui ont des certitudes un peu trop rigides, pas sans preuves solides du moins. Et vous n’en avez aucune pour me convaincre justement.