Les commentaires de perlseb

@perlseb
Sur ce sujet, voir la guerre des prix pratiquée par l’Arabie Saoudite pour contrer le pétrole de schiste.

Le pétrole des USA est très coûteux à produire. Si on fait monter les prix (avec des guerres où on n’hésite pas à détruire des raffineries en Russie, Iran, un oléoduc européen etc... sans parler des routes fermées et des sanctions que les européens s’appliquent avec zèle), alors ils peuvent faire des investissements sur le long terme et fracturer les roches pour l’extraire partout dans leur beau pays.

Le gros problème de fracturer à tout va pour gagner plus, c’est que l’offre de pétrole augmente et les prix chutent (et là c’est même plus rentable de fracturer). Donc il fallait coûte que coûte diminuer la production des autres pour engranger un max de blé dans le futur. Maintenant, ils ont agi comme il faut pour être rentable pendant un moment. Et si ça peut faire vaciller le plus gros consommateur (la Chine), on peut trouver dommage que ces guerres n’aient pas eu lieu plus tôt : ils ont vendu du pétrole au rabais jusque là, ça fait presque mal au cœur...

Il faut donc détruire encore plus de raffineries (en Libye, etc...) pour que le pétrole atteigne des sommets et expliquer que l’Iran et la Russie sont responsables de la crise mondiale à venir et que les USA vont nous sauver avec leur pétrole hors de prix. Et oui, ils vont encaisser le pognon, et nous dire qu’ils ont perdu la guerre en Iran. On pourrait faire un raisonnement assez similaire avec l’industrie de l’armement et l’heureux gagnant est le même.

Les prix sont fictifs, comme la monnaie en fin de compte.

Ce qui est intéressant, c’est de voir comment en étant plus instruits, les hommes acceptent un système, certes, plus complexe que celui du Moyen-Âge, mais tout aussi dysfonctionnel et injuste. Tout ça avec des beaux papiers (droits de l’homme, constitution, charte des nations, ...) qui ne sont même pas respectés, mais personne n’est fautif, on n’y peut rien, évidemment... On a les moyens de nourrir et de loger tout le monde, mais ce n’est pas en rendant réellement les gens solidaires avec des principes très simples et réellement appliqués qu’on peut presser les esclaves pour obtenir le plus de jus possible. Il faut les monter les uns contre les autres, avec des règles complexes qui parassent couler de source, presque cohérentes (même si en grattant, c’est complètement bidon), et on peut dire que nos élites ont fait des constructions sociales tordues un art qu’elles maîtrisent à la perfection.

Nos élites ne respectent aucun droit essentiel (surtout pas les enfants) et ne sont jamais inquiétées, certains sont même capables de croire qu’on leur doit quelque chose (nos "emplois"), c’est presque le plus fort. D’ailleurs, ceux qui en sont convaincus me traiteront de gauchiasse, nous sommes bien divisés. Et ils ont raison : en faisant le tapin, on s’en sort toujours mieux, on récupère quelques miettes. Bref, rien de nouveau. Juste une complexité inefficace avec des grands principes abstraits sans que la base essentielle pratique (et qui devrait tous nous unir) ne soit respectée.

@pemile
Oui, merci pemile. La gifle qu’à donner l’Iran aux États-Unis n’est rien à côté de la raclée que la Chine va lui mettre. Et tout ça, en subissant un embargo sur les puces américaines. Même les américains préfèrent payer moins cher le token et consomment de l’IA chinoise. La messe est dite. Pour moi, l’IA continuera de toutes façons aux US (trop stratégique) mais avec des fonds publics (militaire, CIA...).
La Chine va plier le marché de l’IA, comme elle le fait sur le solaire, les batteries, les voitures électriques, ...

Tout ça, bien sûr, c’est en réfléchissant avec la monnaie, la bourse et l’économie d’aujourd’hui. Si l’IA détruit la société actuelle, la transforme en profondeur, toutes ces considérations économiques (faites avec notre supposition que l’IA n’est qu’une invention quelconque) n’auront aucune valeur.

@Gollum
De toute façon on n’y peut pas grand chose
C’est tout à fait ça. Au pire si certains pays interdisent les cerveaux à base de cellules humaines, les serveurs d’IA les plus puissants de la planète pourraient se trouver dans les pays qui refusent de se plier à ces interdictions, tout ça avec 100.000 fois moins d’énergie pour le même résultat que les autres (supposition, évidemment, mais il n’y aurait aucune concurrence rentable possible). On aurait le choix évidemment d’interdire l’accès internet à ces pays ... mais il faudra aussi sauver la planète. Finalement, si créer les Morlocks permet de sauver la planète, la bonne conscience passera sous le tapis...

@pemile
Je l’ai toujours dit : les chinois sabotent autant qu’ils peuvent les futurs profits américains (BYD pour Tesla, en IA c’est bien pire).
Je préfère quand même que l’IA soit libre plutôt que possédée par une poignet de psychopathes, mais les cyberattaques vont se multiplier, et plein d’autres joyeuses choses...

@Gollum
On part de cellules de sang humain dont on inverse l’horloge pour obtenir des cellules pluripotentes qui seront alors différenciées en neurones.

Mais est-ce que ces réseaux ne sont pas conscients, ne souffrent pas ? On a des cellules humaines là. Est-ce qu’on n’est pas en train de réinventer l’esclavage, pour piloter des robots avec très peu d’énergie ? Quand est-ce qu’un amas de cellules humaines généré à partir de cellules pluripotentes pourra être considéré comme un être vivant avec des droits ? Faudra-t-il fixer un nombre arbitraire pour se donner bonne conscience ? Il était évident qu’imiter parfaitement la nature serait la méthode la plus efficace, mais faut-il le faire ? Nous sommes les futurs ÈLois et nous créons de toute pièce la race des Morlocks pour faire le sale boulot...

@yoananda2
Cette histoire de machine qui s’améliore elle-même, si ça pouvait ne jamais marcher, c’est l’autonomie maximale par excellence... Mais bon, ils ne cherchent pas à faire des progrès en programmation et dans les sciences par hasard. Encore une fois, on ne peut rien savoir (et eux-mêmes reconnaissent ne pas savoir), donc ... incertitude maximale. Voilà, démerdons-nous pour vivre sans rien pouvoir prévoir, c’est la jungle réinventée.

@Gaspard Delanuit
Merci pour l’article, je ne l’avais pas lu. Je suis entièrement d’accord. Mails il existe aussi des technophiles fous furieux (transhumanistes etc) qui veulent minimiser tout pour ne pas qu’on ralentisse. Donc la réalité, c’est qu’on est très mal informé.

@yoananda2
La bourse est une machine à bulles après tout, donc les explosions sont logiques, elles font tout perdre à certains, c’est vrai, et d’autres ramassent la mise pour pas grand chose (donc c’est violent mais prévu, donc normal).

@yoananda2
Ce qui est probable, c’est une "explosion normale", avec une concentration des acteurs (oui, je vois bien OpenAI gicler, et puis d’autres se recentrer sur leur métier).

@Gaspard Delanuit
C’est un peu plus compliqué. Il y en a beaucoup qui alertent sans faire partie de ces entreprises d’IA (ou après les avoir quittées, par exemple Geoffrey Hinton), car les contrats de travail contiennent des clauses qui restreignent les libertés. Mais effectivement, il y a aussi des messages savamment diffusés pour attirer les investisseurs, rabaisser un peu le péquin moyen pour qu’il se prosterne devant la future divinité. Je souhaite que la bulle explose mais l’IA continuera d’avancer au moins en Chine (donc d’une manière ou d’une autre aux US : argent public comme sous branche du militaire ?). L’enjeu restera de toutes façons très important maintenant, je ne vois pas de nouvel âge sombre. Je vois plutôt un déploiement assez rapide (profits obligent) et assez problématique si on garde les mêmes règles (chômage, retraite, ...).

@Gaspard Delanuit
En tant qu’utilisateur lambda, il n’y a apparemment aucune inquiétude à avoir avec ces machines. Mais si on cherche à faire du jail-breaking (sortir des limitations ajoutées pour faire des choses normalement interdites), si on a les moyens de faire des tests d’envergure pour jauger l’alignement ou le non déraillement des ces IA par rapport à leur comportement supposé sans risque, alors on s’aperçoit que ces outils ne sont pas aussi maîtrisés qu’il n’y paraît (fameuse boite noire). Et les spécialistes n’ont pas de solution générale et définitive pour ça, au contraire, les problèmes (d’alignement, etc...) risquent d’être plus difficiles à détecter si les IA progressent encore, c’est plutôt ça l’intuition des certains experts.

Je suis un utilisateur lambda de ces techniques, mais je m’intéresse à certaines vidéos d’Anthropic et certains papiers (que je laisse à d’autres le temps d’éplucher et de citer les nombreux passages pour faire leur vidéo : on peut toujours aller plus loin si on a le temps) qui pointent nombre de ces problèmes. Si le marteau est dangereux, on met un casque et des gants, résolu. Mais on ne sait pas comment faire avec les IA, puisque ce sont des boites noires. Comme disait yoananda2, on gère déjà certaines boites noires (comme les chiens, qui causent parfois des accidents), mais on ne le leur donne pas une autonomie de plus en plus grande, ils ne pourront jamais supprimer une base de données, pirater un site, etc...

Si on est persuadé que ce sont des automates qui ne font que ce qu’on leur demande et sans aucun écart (utilisateur lambda), alors on ne comprend pas le problème. Si de nombreux experts alertent, demandent une pause ou des réglementations, ce n’est pas parce qu’ils fument la moquette (ou pas tous, c’est peu probable quand même). Je ne suis pas expert, mais certains sont vraiment très intéressants à écouter (même si on peut ne pas être d’accord sur tout non plus, mais il y a plein d’anecdotes réelles et un peu troublantes parfois).

Je souhaite sincèrement que ces alertes soit fausses mais un peu de prudence n’a jamais tué personne.

@Ouam
Non Ouam, mon post était adressé autant à moi qu’à tout le monde en général. Je trouve dommage que certains banalisent un peu trop l’IA car je pense qu’il y a des vrais risques, mais l’avenir leur donnera peut-être raison, ce n’est pas impossible.

@nono le simplet ( Jean Desmaison )
tu nous saoules depuis lundi en faisant comme si l’intelligence n’était qu’une abstraction intellectuelle qui se limite à la logique et à l’apprentissage ...
pemile essaie de te faire comprendre que l’intelligence c’est autre chose ...

Oui, mais comment comprendre ce qu’est l’intelligence quand on n’en a pas soi-même. J’aurais jamais dû poster ces vidéos, je suis trop con... mais je ne le savais pas. Donc il ne faut pas m’accabler non plus.

@pemile
" Donnez un problème qui, selon vous, nécessite réellement de l’intelligence pour être résolu, qu’on en finisse "

Monter un meuble IKEA ?

Ta remarque me fait penser à un chercheur qui étudiait les puces. Il avait réussi à en apprivoiser une, et quand il disait "saute !", la puce sautait. Mais tout le monde ne s’improvise pas chercheur, avec cette envie insatiable d’en savoir plus. Alors il coupa les pattes de sa puce, et il lui demanda de sauter à nouveau : "saute !". Et là, la puce n’obéissait plus. Avec sa logique infaillible de chercheur, il en déduisit qu’une puce avec les pattes coupées n’entendait plus rien.

Donc tu tiens un truc, là. Un nouveau domaine de recherche qu’on pourrait appeler de manière longue : "Influence des membres et des organes sur la cognition, recherche par ablations ciblées". Il faudrait trouver un terme grec pour résumer ça bien comme il faut (j’ai pas fait grec). Et on pourrait faire des expériences sur des bons bricoleurs, voir si une fois les bras coupés, ils montent les meubles aussi vite, moins vite ou pas du tout. Mais on sait que les oreilles des hommes ne sont pas sur leur pattes (ou bras dans ce cas-ci), donc on pourrait aussi tester d’autres capacités, comme les multiplications à 1 chiffre, à 3 chiffres (avant et après ablation). Il ne faut pas se soucier des candidats pour ce genre de test à l’heure ou certains indiens vendent leur rein pour un téléphone portable. La science mérite d’en savoir plus sur ce nouveau domaine et je serais peut-être fier dans le futur d’avoir participé et d’avoir discuté avec le créateur de cette nouvelle discipline.

@Gaspard Delanuit
Vous faites un blocage, il n’y a malheureusement pas de discussion possible. Je n’affirme nullement que la machine arrivera au niveau de l’homme (même si les compétences en "simulation" actuelles sont déjà largement suffisantes pour virer un paquet de monde), mais j’accepte aussi cette hypothèse, je suis dans le doute, donc une discussion devrait être possible.

Vous, vous savez. Vous savez que des morceaux de silicium n’égaleront jamais des cellules dans le domaine de l’intelligence. Donc vous perdez votre temps avec nous, et c’est regrettable aussi.

Et peu importe nos formations respectives : un ingénieur serait mieux placé pour comprendre les IA et mal placé pour comprendre le cerveau. Un neuroscientifique, ça serait l’inverse. Alors il y en a qui ont la double formation (Demis Hassabis) et j’aurais tendance a plus croire son discours assez mesuré dans l’ensemble que le votre. C’est le propre d’un esprit qui doute : il n’est pas trop attiré par ceux qui ont des certitudes un peu trop rigides, pas sans preuves solides du moins. Et vous n’en avez aucune pour me convaincre justement.

@micnet
Si l’homme est une machine, elle est bien bien plus complexe que des IA. Il n’y a aucun doute là-dessus. Mais si vous posez la question suivante : de quel ordre de complexité ? On en sait toujours de plus en plus, ce qui soulève encore plus de questions. Est-ce que l’homme a un cerveau suffisamment grand pour appréhender toute cette complexité ? Absolument pas (voir le nombre d’années d’études pour les spécialistes de médecine qui savent tout de rien)

Mais le problème de l’intelligence seule (de son émergence) est peut-être en train d’être compris, disons qu’on sait faire pousser l’intelligence. C’est tout, mais ce n’est pas sans conséquence.

@micnet
Je parle d’une économie capitaliste qui ne cherche que le profit (pour les services publics, à faire des économie compte tenu de la dette). Dans ce cas, oui, l’homme n’aura plus sa place dans l’économie. L’empathie n’est pas facturée dans les hôpitaux qui ne gèrent maintenant que des actes, et en plus, les machines peuvent la simuler (pourquoi s’en priver "puisque c’est moins cher !"). Pour moi, c’est la fin du système, mais ça pourrait être une bonne chose (parce que le système actuel est largement perfectible). Mais on peut aussi faire bien pire...

@micnet
Il est sans doute un peu tôt pour y donner une réponse définitive à ce stade...
Non, à ce stade on sait déjà que ça n’a rien à voir. La seule inconnue, aura-t-on encore besoin de génies humains demain, les autres on sait déjà qu’on peut tous s’en passer.