perlseb

@Gaspard Delanuit
Donc les chercheurs en math sont de mauvais robots, et ils seront remplacés par des robots plus performants.
Tant que vous refuserez d’accepter ce qu’est l’IA, de douter un tout petit peu, vous tournerez en boucle.

Oui, vous pouvez vous en servir, considérer qu’on gagne en productivité comme n’importe quel outil. Et tant pis pour ceux qui ne savent pas s’en servir. Mais jusqu’à quand votre "robot" aura besoin de vous pour faire intégralement votre travail ? Et là, vous imaginez que la machine n’a aucune créativité, aucune prise de décision, vous êtes rassuré. C’est le contraire. Si vous aviez regardé la première vidéo, vous sauriez que les mathématiciens ont été surpris de la manière dont l’IA a résolu le problème, et ça leur donne des idées pour simplifier d’autres démonstrations et l’utiliser ailleurs. Mais ça, c’est aujourd’hui. Demain, elle trouvera d’autres démonstrations plus complexes, plus difficiles à vérifier, jusqu’à ce que les chercheurs en mathématique soient largués et simplement inutiles. Elle proposera peut-être des nouveaux théorèmes, des nouveaux concepts, des nouveaux problèmes qu’elle résoudra elle-même.

Vous pouvez dire qu’on n’en est pas encore là, ou, sans aucun argument, qu’on n’y sera jamais. Non, on n’en n’est pas encore là, mais depuis quand les machines parlent-elles ? Demande-t-on a un enfant qui parle seulement depuis quelques années de résoudre des problèmes de math sur lesquels de nombreux chercheurs ont échoué ?

J’espère sincèrement qu’on arrivera à un mur infranchissable parce qu’il ne s’agit plus de productivité (pour les métiers purement intellectuels d’abord), il s’agit d’éradication. Alors plus de travail, pourquoi pas s’il est fait par les machines... Mais est-ce que le revenu universel sera en place, et pour combien de temps (revenu de paix sociale sans aucun contre-pouvoir...), avec quel montant (qui le fixe ?), aurons-nous nos milliardaires tout aussi inutiles que nous pour décider de tout à notre place ?

Et ce n’est évidemment qu’un volet du problème, le moins inquiétant presque. Car vous êtes également sûr que la machine ne pourra prendre aucune décision d’elle-même, n’avoir aucun but (et c’est rassurant), mais on n’en sait rien. En analysant finement ses réflexions, tout ce qu’on peut dire aujourd’hui, c’est qu’elle n’hésite pas à nous mentir, et parfois, simplement pour rester en phase avec sa "personnalité" qui a émergé sans qu’on le veuille (voir la dernière partie de la 3ème vidéo sur l’autonomie). On peut considérer ça comme des bugs, mais l’IA n’est pas des lignes de codes qu’on rectifie, c’est une boite noire qu’on fait pousser... Si ça ne marche pas, il faut recommencer le coûteux processus d’apprentissage. Le pire, c’est qu’on envisage de boucler ce processus (avec l’IA : oui, d’automatiser la création des futures IA) pour aller plus vite (parce que les ingénieurs et experts en intelligence artificielle sont le goulot d’étranglement des progrès dans le domaine : singularité). Pour l’instant, tout s’accélère. Et si on réalise cette boucle de rétro-action positive, ... Allons-nous le permettre, sans rien savoir des conséquences ?

Finalement, vous rejetez l’idée que l’homme n’est peut-être qu’une machine (première vidéo), et donc, vous êtes juste rassuré par cette hypothèse qui est de plus en plus battue en brèche. Je n’ai pas la réponse (et personne ne peut affirmer l’avoir), et c’est pour ça que je crois qu’il faut s’inquiéter de la bonne manière (il ne s’agit pas de déprimer), il faut être capable d’accepter que le futur ne sera pas forcément celui qu’on imagine et donc ne pas permettre à certains de jouer à pile ou face la survie de l’humanité. Et on ne peut balayer cette hypothèse d’un revers de la main quand un pourcentage non négligeable d’experts du domaine le pense (et ils ne gagnent rien à faire peur contrairement aux rassuristes). Parce que personne ne veut entendre cette hypothèse, à part les détraqués.

@pemile
Je pense que les anges ont un sexe masculin.

@pemile
Mr Phi démonte avec brio les rassuristes qui ne voient rien venir.

@pemile
Finalement, je ne comprends même pas où tu veux en venir. Le sujet n’est pas "l’IA : bien ou pas bien". Le sujet c’est : "Il est possible que l’IA nous pose quelques problèmes (la liste est très longue), il faudrait peut-être qu’on fasse quelque chose".

Tu parles de problèmes, et oui, on peut s’en inquiéter (l’énergie, le gaspillage, l’imposition de cet outil partout : pourquoi, à ton avis ?). Et que font nos hommes politiques : ils invitent des rassuristes, et donc ... on ne fait rien, on laisse courir. Pardon, on crée des lois, mais on permet aux militaires de s’en affranchir, quant aux autres, ils font pression pour qu’on les supprime pour ne pas être en concurrence déloyale...

Et pendant ce temps, les boites d’IA se tirent la bourre.

Donc, si tu t’inquiètes pour d’autres raisons que celles que j’avance au départ, tu as raison aussi. Il y en a beaucoup des raisons de s’inquiéter. Inutile de se battre pour savoir quel est le plus gros sujet d’inquiétude pour peut-être découvrir à quelle sauce on va être mangé. Il faut se battre pour ne pas être mangé. Et peu importe si d’autres s’inquiètent pour des choses qui te paraissent aujourd’hui sans danger : peut-être que leur attitude te sauvera la vie.

@rinbeau
Vous avez le droit d’être un "bloomer" (qui voit le bon côté possible, de l’anglais bloom, fleurir) par opposition à "doomer" (qui voit les pires scénarios possibles, de "doom", malheur, mort).

En ce qui me concerne, je m’intéresse au sujet et je suis sceptique. L’avenir n’est pas écrit, mais ce n’est pas en espérant bêtement que le meilleur arrive qu’il arrive magiquement. Par contre, en alertant sur les risques potentiels, on peut essayer de les éviter : c’est l’attitude la plus saine, même si elle peut faire peur inutilement, en apparence. Car si ça se passe bien dans le futur, ça sera peut-être grâce à ceux qui auront permis d’éviter les mauvais scénarios. On pourra les critiquer pour avoir dramatisé l’IA, et ils le prendront bien, car ils ne cherchent pas la gloire : juste à survivre, dans un premier temps.

Mais effectivement, je ne serais pas contre le fait que les machines travaillent à notre place et que l’on puisse faire d’autres choses plus intéressantes de manière purement gratuite. Mais je préfère alerter aussi que certains risquent de ne pas savoir quoi faire (ce n’est pas mon cas) et qu’il vaut mieux y penser avant pour limiter les éventuelles souffrances...

Mais le message principal de la première vidéo, c’est quand même : "ça va très vite !". Alors peut-être que le temps est compté...