perlseb

@mat-hac
Si les IA sont subitement bloquées dans leur progression, je ne perds rien (je ne travaille pas dans l’IA et je n’ai aucune action en bourse). Bon, il y aura peut-être un méga-crash boursier qui va me toucher d’une manière ou d’une autre mais si je critique fortement le capitalisme d’une manière générale, ça ne va pas faire disparaître les machines à bulles (et à crises) qu’on appelle la bourse. Certains gagnent énormément pendant les crises (et les guerres), alors il faut laisser ça en place, non mais.

Pour ce qui est de votre texte, je le trouve nettement moins convaincant que les vidéos de Mr Phi. Pour la reconnaissance d’images, c’est même parfaitement faux : quand un enfant voit un chat pendant quelques secondes, ce n’est pas une image qu’il voit mais un film. Mais je reconnais que les machines peuvent rester bêtes et moins efficaces, particulièrement pour les choses courantes de la vie (après tout, elles sont artificielles, elles n’ont jamais été sélectionnées pour survivre dans la jungle), et je ne suis pas sûr que ça intéresse les concepteurs de faire résoudre ces problèmes courants aux IA (à part peut-être Yann Le Cun) : laissons-les idiotes sur des sujets que tout le monde peut appréhender, ça rassurera et ça permettra de dire, sans aucun mensonge, qu’on n’est toujours pas à l’AGI.

@Ouam
Je dirais que pour l’IA c’est bien pire. Parce qu’effectivement, l’IA va accélérer les utilisations malveillantes (je ne fais pas liste, elle est sans fin), mais on ne sait toujours pas les aligner, c’est-à-dire s’assurer qu’elles font exactement ce qu’on leur demande ou qu’elles respectent nos valeurs pour le faire. Et on n’a jamais été confronté à un un "outil" auquel on donne de plus en plus d’autonomie (car c’est tellement pratique).

@pemile
Si les IA sont connes, c’est très rassurant pour l’homme. Après, si des humains (encore plus cons) en tombent amoureux ou se suicident en l’écoutant, c’est la sélection naturelle. Mals les humains, plus intelligents que l’IA en grande majorité, n’ont strictement rien à craindre : si l’IA les emmerde, ils débrancheront la prise, ou il arrêteront de s’en servir, puisque l’IA n’est qu’un marteau...

@Gaspard Delanuit
Je vais être d’accord avec vous. Les IA ne sont pas intelligentes car cette définition est strictement réservée à l’homme. Mais l’homme ne fera plus aucune découverte par lui-même d’ici quelques années car elles seront faites par des IA beaucoup plus efficacement. Alors ces IA resteront stupides sur les sujets de la vie courante (comme proposer d’aller à une station service à pied vu qu’elle n’est pas trop loin) et tout le monde sera content : les entreprises d’IA car on ne sera toujours pas à l’AGI (donc inutile de légiférer) et les idiots utiles car ils seront plus intelligents que l’IA, toujours aussi stupide.

En attendant, quand les entreprises d’IA décideront de s’attaquer à un métier intellectuel (quel qu’il soit), les IA feront mieux et pour moins cher (et sans réfléchir en fin de compte). Donc j’ai peur que ça pose quelques soucis économiques. Je ne vais pas parler des problèmes d’alignement loin d’être résolus à l’heure actuelle parce qu’après tout l’IA n’est qu’un marteau, un outil, et elle fait exactement ce qu’on lui demande (surtout ne vous documentez pas sur le sujet et ne regardez pas la vidéo de Mr Pḧi sur l’autonomie, elle est satanique).

@pemile
Un rassuriste explique que les IA sont connes, qu’elles ne présentent aucun danger, que les rares emplois supprimés seront remplacés par des nouveaux métiers plus intéressants qui apparaîtront magiquement.

Pas de danger, donc inutile d’ajouter des lois contraignantes.

Il touche son chèque et n’a aucuns remords car soit il ne s’intéresse même pas au sujet, soit il travaille dans le domaine avec un gros salaire (dans ce dernier cas, s’il dit ce qu’il pense vraiment, il est viré, donc le choix est vite fait). Et la bonne nouvelle, c’est qu’il est aimé pour sa désinformation parce que les gens veulent être rassurés, alors pourquoi se priver quand on peut avoir le chèque et la popularité ?