herve_hum

Mais une IA qui aurait une conscience propre que l’on voudrait doter du libre arbitre n’a aucun sens, puisque cela aboutirait à en perdre le contrôle, alors même que le but d’une IA, comme toute machine, est d’en avoir le contrôle total pour qu’elle fasse ce que l’on veut et non pas qu’elle puisse vous dire "non". Une machine qui ne fait pas ce qu’on lui demande, on la jette au rebut ou la répare.

.

Gaspard Delanuit

Si la fausse intelligence se substitue à la véritable, il est encore plus important de les distinguer et donc de les nommer différemment. 

.

Je réagis spontanément en disant que les machines, programmes et connexions n’ont pas de conscience. La conscience est propre à l’esprit, c’est cette expérience de veille et d’être à soi-même que nous vivons. Les machines programmes et connexions (j’invente MPC), n’ont pas de sensibilité, ne souffrent pas, n’ont pas d’émotions. Mais elles développent en autonomie : elles gagnent contre le champion du jeu de go (autrement plus complexe à programmer que le jeu d’échecs) et elles sont capables d’apprendre le langage d’elles même à partir de reconnaissance visuelle en utilisant google image. Mais l’autonomie n’est pas la conscience. Oui, mais c’est simili et ce simili conquiert ce qui distingue de la conscience. Comme, l’intelligence, ça devient poreux : les MPC sont capables de résoudre un problème et de s’adapter aux situations ; ce qui est une définition de l’intelligence. Elles ne produisent cependant pas de pensée, d’images mentales, ne fabriquent pas de concepts, sont incapables de dire "c’est beau". Elles n’ont pas de sensibilité, certes, mais du simili : divers capteurs leur permettent d’analyser les situations et résoudre, et faire robot domestique pour aider aux tâches ménagères ou aider l’enfant aux apprentissages, ou satisfaire le célibataire à ses besoins sexuels et affectifs.

Et je ne présente ici que le versant « attraction », celui « contrôle et tyrannie » on connaît aussi, Gaspard en a fait développement.

Au minimum, cela ressemble à un cercle vicieux. On fabrique des MPC a notre image pour faciliter nos vies à tous points de vues et substituer à nos incapacités qui s’aggravent, par exemple les caméras de surveillance à la place du contrôle social interindividuel qui s’affaiblit, où les jeux vidéos à la place des expériences sociales qui peuvent faire mal en font des personnes ‘"fragiles" (sans doute une des raisons du wokisme).

.On est confronté à une vulnérabilité anthropologique, à la plastique de nos esprits (qu’on laisse zombifier, avec les applaudissements d’un large public), à un virus qui hacke nos existences.

On n’est pas sorti des ronces. Je dis cela parce que je sais les pièges et les dangers. Je sais aussi que nous ne sommes pas que des corps, mais aussi des esprits, qui méritent attention, soin et santé. Et qu’on a besoin de Gaïa, avant d’avoir besoin de Technos. Et même que nous sommes fabriqués par Gaïa, pas par Technos. 

Mais cela veut dire pour d’autres que je suis un anti-science, conservateur, attardé, catho-bigot (non ça ne marche pas, mais ça pourrait y ressembler). Les sénateurs ont fait rapport pour dire que oui, c’est bien, il faut une identité numérique pour tout le monde, parce qu’il y a plein d’avantages à cela, normal, on ne voit pas le problème.

Bref, je ne sais pas comment empoigner cela.