perlseb

@pemile
Je n’ai aucune fascination pour l’IA. Mais je ne suis pas dans le déni non plus. Si on raconte aujourd’hui l’histoire du piratage d’Hugging Face (et accessoirement d’OpenAI) , ça contient toutes les briques pour un roman dystopique de science-fiction, sauf que c’est bien réel.
Mais on peut rester dans le déni en refusant de voir que l’humain perd le contrôle (pas d’alignement du tout, et on a aucune idée solide pour le faire). Sans parler de l’utilisation malveillante par des humains (comme ici pour les frigos) qui va coûter de plus en plus cher à la société... J’occulte ici le chômage de masse, car on nous donnera à tous un revenu universel important (rêvons un peu pour justifier la course à l’IA malgré les (très) graves problèmes qui s’annoncent).

@pemile
Informe-toi correctement de l’épisode Hugging Face. Il y a une part de com, c’est vrai, mais il y a aussi des administrateurs dépassés (à 2 reprises chez OpenAI, en plus de ceux de Hugging Face : et c’est pas à cause d’un mot de passe bidon). Tu devrais aller leur expliquer leur métier !

@pemile
Sur ce coup, tu es complètement ridicule. Il faut te mettre à jour, c’est dès aujourd’hui que l’IA trouve des failles qui ont résisté aux humains pendant plusieurs dizaines d’années. Et les failles tombent comme les résolutions de problèmes de maths. Alors on les corrige (en s’aidant de l’IA !) : et les corrections seront buguées car l’IA qui suivra trouvera une faille dans la correction que l’IA précédente avait validée (ou ailleurs dans le code) : c’est sans fin...
Tout ce qui est relié à internet devient un risque.

Très intéressant. On peut se rassurer en se disant que l’IA est nulle et que son métier ne sera jamais remplacé, elle permettra éventuellement d’augmenter sa productivité. Et le cas des mathématiciens est comme un cheveu sur la soupe de ce discours.

Non seulement, les travaux prévisionnels de recherche (pour une vie : justification de demandes de fonds en fonction d’une liste de problèmes qu’on décide d’étudier, ...) viennent d’être annihilés en une journée (dans son cas : tous ses problèmes), mais en plus, rien que pour vérifier la résolution de tous les problèmes sur lesquels il est cité (pas l’ensemble plus gros de ceux sur lesquels il pensait travailler), il a autant de pages à lire (3500) que tout ce qu’il a déjà publié dans sa vie.

Et on voit le mépris profond des entreprises qui font avancer l’IA pour les mathématiciens : on s’en fout des problèmes existentiels que ça pourra causer aux mathématiciens, on va faire avancer les sciences bien plus rapidement que ces gros nazes. Sauf qu’il faut bien généraliser ce mépris à TOUS les métiers. Demain, c’est vous. Les mathématiciens ne sont pas les plus idiots des professions cognitives. Et quand les robots seront conçus par l’IA elle-même, qu’en sera-t-il de tous les métiers manuels ?

Et ça ne s’arrête pas là : ils iront encore plus vite à résoudre des problèmes et les mathématiciens n’auront plus assez de temps pour les vérifier, contrôler. Et l’autre étape (l’an prochain ?), les résolutions de l’IA ne pourront plus être vérifiées par les humains (trop complexes, trop long pour une vie d’humain : s’il faut 100.000 pages pour une démonstration qui fait appel à des domaines très différents que personne ne possède en même temps...), même avec la meilleure volonté des équipes.

Je ne sais pas si l’IA décidera elle-même de ses problèmes ou inventera d’autres théories, mais si c’est le seul métier qui reste à l’homme, alors nous sommes à 99,99% tous potentiellement inutiles.

L’IA n’est pas un outil comme les autres. C’est le dernier, celui qui rend l’homme obsolète (soit à 99,99%, soit à 100% si l’IA se révèle avoir autant de créativité et d’inventivité, sinon plus, que l’homme).

Il n’explique pas tout Mearsheimer. Par exemple, avec les Houthis, il nous dit que les USA n’avaient pas pu les vaincre en 2025. Donc qu’ils ne peuvent rien faire maintenant avec un front en plus. Sauf qu’en 2025, ils n’ont visiblement tiré aucune leçons de leur faiblesse et ont quand même décidé de s’attaquer à plus gros avec l’Iran.

On peut dire que tout ça c’est parce que Trump fait n’importe quoi et n’est qu’un abruti (bon c’est vrai), sauf que les présidents (de n’importe quel pays) ne décident de presque rien (oui, l’élection ne sert à rien).

La conclusion, c’est que ne pas résoudre les guerres et laisser la situation s’enliser est peut-être ce que recherchent les vrais décideurs (l’état profond, peu importe les noms). Parce que comme par hasard, l’Arabie Saoudite a osé (comme la Libye, l’Irak, le Venezuela, l’Iran...) vendre son pétrole en autre chose que des dollars. Et là, ça paraît plus clair : oui pour bloquer les exportations de l’Iran, mais aussi bloquer les exportation de l’Arabie Saoudite par ricochet comme si les USA n’y pouvaient rien.

C’est une guerre mondiale sur l’énergie (peut-être causée par l’avènement de l’IA, très gourmande), talon d’Achille de la Chine (premier importateur).