Autopsie d’une intelligence artificielle

@pemile

"La conscience qu’elle est con ?"

C’est la conscience sans science...

@Gollum

"En même temps cela illustre qu’il manque un truc essentiel dans cette IA c’est la conscience."

Bonne ou mauvaise conscience, ce n’est pas ce qu’on a à attendre de cet outil.
D’ailleurs il n’est sans doute pas possible de modéliser la conscience tant elle est propre à chaque individu. Et les puissants qui investissent dans cette recherche n’ont certainement pas pour but d’offrir à l’humanité une vraie conscience omnisciente.
L’IA amène avant tout une rapidité de traitement des informations avec, à disposition du bas-peuple, un nivellement par le bas qu’on serait supposé ignorer ou accepter (voir les doublages au synthétiseur vocale et sous-titrages via IA’s), elle tend à généraliser la plus grande occurrence, ce qui est très clair pour ses créations en musique, en images et en vidéo dont l’aspect "très pro" tend à occulter le vide créatif.

L’assistant vocal personnel "idéal" qu’on est supposé attendre et espérer comme des moutons se contentera d’uniformiser les choix et les comportements en se tenant bien loin de ce qu’est la conscience !

@tobor

Bonne ou mauvaise conscience

En fait je ne vise pas la conscience morale mais la conscience perceptive, sensations, vision, olfaction, perception de la douleur, du plaisir, etc...

Conscience probablement déjà là dès le début de la vie.. ce qui change tout bien évidemment.

C’est toute la différence avec l’IA qui n’a toujours pas cette conscience là et est de ce fait handicapée..

elle tend à généraliser la plus grande occurrence

Oui c’est ce qui est dit dans la vidéo. C’est le propre du robotique et machinisme. 

@Gollum

En fait je ne vise pas la conscience morale mais la conscience perceptive, sensations, vision, olfaction, perception de la douleur, du plaisir, etc...

pour chipoter mais être précis, les IA (ça dépends des modèles bien sûr) ont une conscience perceptive, mais pas phénoménale. Elles n’ont pas de conscience morale en revanche. Mais elles ont une conscience de soi (certaines passent le test du mirroir).

Conscience probablement déjà là dès le début de la vie..

peut être, mais c’est difficile à établir. A priori on part du principe qu’on n’est pas conscient quand on dort, (sauf rêve)... et donc le début de la vie ne doit pas être beaucoup plus conscient qu’on sommeil profond.

MAIS

en revanche, la cognition est bel et bien là. tout autant dans les microbes que dans les IA.

Par contre la conscience phénoménale, ça, ça reste un mystère, et c’est (à priori) l’apanage des animaux à sang chaud.

@yoananda2

Mouais je suis assez sceptique et m’aligne sur cet article ci : 

https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/une-ia-consciente-peut-elle-arriver-prochainement_175910

Je postule la conscience, certes larvée, mais néanmoins réelle, dès le départ de la vie parce que je pense que c’est un élément essentiel du vivant... Après, cette conscience ne fait que croitre à mesure de la complexité cérébrale.

Au passage c’est un élément de mon panthéisme.. M’enfin bon c’est presque un acte de foi au fond car je ne peux rien prouver..

les modèles actuels ne montrent pas de signes de conscience

@Gollum

https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/une-ia-consciente-peut-elle-arriver-prochainement_175910

L’article est trop mauvais à mon goût.

Je postule la conscience, certes larvée, mais néanmoins réelle, dès le départ de la vie parce que je pense que c’est un élément essentiel du vivant... 

oui oui... je suis moniste moi aussi, donc je postule à peu près pareil, il n’y pas 10 000 solutions de toute manière. Mais il y a des capacités de conscience différentes néanmoins, ça s’observe très bien dans le comportement des animaux, les problèmes qu’ils sont capable de résoudre ou non.

les modèles actuels ne montrent pas de signes de conscience

parler de "conscience" sans préciser laquelle ne veut rien dire, c’est pour ça que j’ai pris soin de préciser dans mon message précédent. Les IA n’ont pas de conscience phénoménale, personne ne le discute je pense.

@yoananda2

Mais il y a des capacités de conscience différentes néanmoins

On est bien d’accord.

parler de "conscience" sans préciser laquelle ne veut rien dire, c’est pour ça que j’ai pris soin de préciser dans mon message précédent.

Oui mais là moi je tique. Car je ne vois pas de conscience du tout. Pour moi une conscience perceptive (celle que tu accordes à l’IA) est une conscience avant tout, une conscience avant d’être perceptive..

Et donc je ne suis pas convaincu du tout qu’il y ait conscience. Perceptive ou pas.

À moins que tu arrives à trouver un article savant me mettant le doute là-dessus.

@Gollum
pour toi "conscience" est synonyme de "conscience phénoménale" pour moi. Je ne l’emploies pas dans ce sens là, trop restreint (ce n’est pas moi qui l’ai décidé mais les philosophes qui en parlent).
Conscience étymologiquement signifie "savoir avec".
Est-ce que les IA "savent" ? oui. Comme nous. Même si le support physique n’est pas le même. C’est la cognition. Cognos / savoir en grec.

Donc, pour parler ta langue : remplace "conscience" par "cognition" dans ce cas : "il y a cognition perceptive des IA".
Mais les IA n’ont pas de cognition phénoménale (à l’inverse des animaux à sang chauds selon moi — et les autres, je n’en sais rien).
les IA perçoivent (comme nous d’ailleurs, puisqu’elles reproduisent le même processus que nous, elles ont été construites comme ça) et elles peuvent réagir (comme nous) a ces perceptions (par exemple dans les robots).
Un peu comme des somnabules, en quelque sorte ou des zombis philosophiques.

Tu peux conserver le sens de conscience = conscience phénoménale, mais selon moi, c’est inadapté pour discuter de ces sujets, trop imprécis, trop sujet à malentendus.

@yoananda2

ChatGPT ne sait qu’il vous écrit pour répondre à une question que vous lui posez : il n’est pas conscient. C’est juste une projection qu’un humain peut faire sur une machine, à cause de ses affects. 

Par contre cela avance vite du côté des plantes. Le pétales ouvertes microvibrent pour attirer/exciter un insecte pollinisateur qui vole aux alentours. On a mesuré qu’un arbre a refilé à un arbre d’une autre espèce 40% du carbone pour faire le sien.
On est fait de même matière biologique, matériau d’où émerge la conscience.

L’idée du cerveau décentralisé, aussi, comme le poulpe. Chaque tentacule agit comme un cerveau indépendant et il centralise les réflexions de chaque cerveau, pour imiter un poissons-pierre, y compris le relief de la peau, pour effrayer un prédateur, pour dévisser un couvercle de bocal, ou parcourir rapidement un labyrinthe à mécanismes très divers en vue d’atteindre la récompense pleine de crevettes.

La phénoménologie, a affaire à un nouvel horizon : on commence à comprendre que la biologie fabrique des états de consciences très vaste et divers. Aussi l’holobionte : un état de conscience émergeant à partir d’états de consciences infras qui se coordonnent. La fameuse phrase d’Aristote qui veut que le somme soit plus que toutes les parties. Raison pour laquelle les barrières de coraux ne meurent pas, mais s’adaptent en dépit du réchauffement climatique et des accumulations de pollutions.

L’Univers est-il conscient ? La néguentropie en est sans doute l’indice le plus probant, de même que la biologie est résiliente, que les créatures vivantes ont l’instinct de conservation.

En machines et systèmes numériques, plus le système est complexe, plus il est susceptible de "déconner". Il faut une externalité, l’humain, pour dépanner, corriger. Mais les implants de correctifs finissent par déranger et détériorer l’intégrité du système. C’est la limite actuelle à l’IA : pas de néguentropie, ni résilience ou homéorhésie, ni instinct de conservation, indices de conscience.

Sinon, merci des infos confirmant que la MQ se fiche des dimensions humaines que sont le temps, l’espace et la causalité, j’ai exploré sur le net des documents qui confirment. 

@TchakTchak

ChatGPT ne sait pas qu’il vous écrit pour répondre à une question que vous lui posez...

@yoananda2

J’ai trouvé ça hier : https://fr.wikipedia.org/wiki/Conscience_ph%C3%A9nom%C3%A9nale

J’ai cru comprendre que ce que tu appelles conscience perceptive ils l’appellent dans Wiki intentionnalité..

J’aime beaucoup mieux le terme intentionnalité car il n’y a pas le terme conscience dedans. 

Car autant je suis prêt à accepter une intentionnalité sans conscience, qui existe depuis le début de la vie (avec pour moi une conscience larvaire, quasi inexistante, mais néanmoins bien réelle (je sais j’ai pas de preuves)), et donc pourquoi pas une intentionnalité pour une IA (mais déjà ça me gêne malgré tout, puisque j’ai besoin d’un minimum de conscience avec cette intentionnalité) mais sans conscience..

Bon, bref, pas simple.. 

Comme le dit l’article il existe des cas de conscience sans intentionnalité. Un bon exemple : la conscience du méditant zen.

@TchakTchak

Assez d’accord avec vous dans le fond.

@TchakTchak

ChatGPT ne sait qu’il vous écrit pour répondre à une question que vous lui posez : il n’est pas conscient.

j’ai pris grand soin d’expliquer que POUR MOI (puisque vous me répondez) il est important de ne pas parler de "la conscience". D’abord parce qu’il y a plusieurs sens à ce mot, ensuite parce qu’il faut un minimum le définir.

Et qu’est-ce que vous faites ? paf ... vous me parlez de "conscience" (tout court) pour ensuite me raconter des trucs que je sais déjà — et depuis longtemps, et peut-être mieux que vous — et qui sont hors sujet (du sujet initial que j’abordais en tout cas).

Bref.

Sinon, merci des infos confirmant que la MQ se fiche des dimensions humaines que sont le temps, l’espace et la causalité, j’ai exploré sur le net des documents qui confirment. 

Oui, la mecaQ demande un gros investissement cognitif pour comprendre un minimum de quoi ça cause mais sinon, ce que j’ai dit se vérifie aisément puisque ce n’est pas mon interprétation des choses mais celle des scientifiques (sauf évidement si je l’ai mal comprise, mais j’ai quand même passé beaucoup de temps sur ce sujet donc bon...)

@Gollum

J’ai cru comprendre que ce que tu appelles conscience perceptive ils l’appellent dans Wiki intentionnalité..

non, c’est encore autre chose, mais je ne connaissais pas ce sujet et je te double-remercie : 1/ pour me l’avoir fait découvrir, 2/ pour avoir fait des recherches sur ce que j’affirmais ! (au lieu de simplement contredire sur la base de tes à prioris comme le font beaucoup trop malheureusement).

Je suis mitigé sur cette histoire d’intentionnalité. J’ai tendance à être séparatiste dans l’absolu, mais ....

Disons que je programme un robot pour avoir un intention, celle, au pif, de rester proche d’un spot : si quelqu’un ou quelque chose le déplace, il essaye de revenir à son point de départ.

Il perçoit (forcément), mais il n’a pas de conscience phénoménale, de qualia.

Mais ...

est-ce que c’est SON intention à lui ou simplement la mienne qui est projetée au delà de mon être ?

Donc je peux être autant Séparatiste qu’Inséparatiste...

Comme le dit l’article il existe des cas de conscience sans intentionnalité. Un bon exemple : la conscience du méditant zen.

Oui, c’est pas faux même si j’ai des doutes sur les affirmations des "méditants", mais il existe néanmoins des états sans "intentionnalité".

D’ailleurs, certains sont même extrême. Antonio Damasio a eu affaire a un patient qui a eu une attaque cérébrale, et qui est resté mué des mois.

Quand il est redevenu "normal", il a témoigné : je comprenais, je pouvais répondre, mais simplement, j’avais aucune volonté de le faire.

Aucune intentionnalité donc, parce que la zone de son cerveau qui était en charge de ça s’était éteinte.

(je reste cependant toujours aussi sceptique qu’une fosse concernant les déclaration des "méditants")

pour faire du rangement l’état gère

@yoananda2

Il perçoit (forcément)

Mouais là je n’arrive pas à te suivre (encore une fois)

Pour moi percevoir suppose la conscience sinon ce n’est pas une perception. Faudrait trouver un autre mot. 

est-ce que c’est SON intention à lui ou simplement la mienne

Pour moi c’est celle du fabriquant par délégation.. (mais là encore simple feeling, à priori philosophique, bref ce que tu veux)

Pour ce qui est des méditants je crois avoir vu que ça a été validé par électrodes et tout le toutim.. mais faudrait que je remette la main dessus..

De toute façon on connait tous cette image du moine zen en feu, imperturbable, ce qui suppose une capacité à déconnecter les instincts de survie, les sensations de douleur..

La notion d’intentionnalité de la conscience est omniprésente en phénoménologie d’Husserl..

Bon on a fait le tour je crois, à priori on a chacun un biais pour toi plutôt favorable à l’IA en tant qu’être potentiel, pour moi très sceptique là-dessus..

Comme dit ailleurs dans un des articles fournis l’homme est trop complexe pour pouvoir avoir la même chose en IA : émotions, perceptions, sentiment du je, etc, etc.. tout cela absent des IA actuelles..

@Gollum

Pour moi percevoir suppose la conscience sinon ce n’est pas une perception. Faudrait trouver un autre mot. 

ben faut pas trainer à trouver d’autres mots parce qu’on va être de plus en plus emmerdé avec les IA.

Quand tu discute avec chatGPT4o en parlant (pas au clavier) et qu’une voie humaine te réponds, si l’IA ne "perçoit" pas, n’entends pas ta voie, comme elle fait pour te répondre ?

tu appelle comment le fait qu’elle "entende" (et qu’elle comprenne) ce que tu dis ? il faut bien un mot pour décrire le fait qu’elle reçoive l’information "son" et qu’elle en fasse quelque chose. Le mot percevoir est le seul que je connais.

Sachant que les IA sont fabriquées certes, mais leur structure imite la note : des signaux électriques organisés par des transistors comme le font nos neuronnes. Ce n’est pas un hasard si elles fonctionnent comme nous, elles ont été conçues "comme" nous. (pas exactement comme nous, on est d’accord)

Pour moi c’est celle du fabriquant par délégation..

J’ai tendance à penser pareil.

Pour ce qui est des méditants je crois avoir vu que ça a été validé par électrodes et tout le toutim.. mais faudrait que je remette la main dessus..

ce qui est validé c’est que les ondes changent quand un méditant médite et que les ondes cérébrales du méditant sont "hors norme". C’est tout. Ni plus, ni moins (c’est déjà beaucoup). C’est Matthieu Ricard qui s’était prêté au jeu le premier et c’est une étude importante dans le domaine concerné.

De toute façon on connait tous cette image du moine zen en feu, imperturbable, ce qui suppose une capacité à déconnecter les instincts de survie, les sensations de douleur..

ouai mais précisément dans cette situation, il y avait un intention de la part du moine...

La notion d’intentionnalité de la conscience est omniprésente en phénoménologie d’Husserl..

Je ne connais que de nom. Il disait quoi Husserl à ce sujet ? ça m’intéresse.

Bon on a fait le tour je crois, à priori on a chacun un biais pour toi plutôt favorable à l’IA en tant qu’être potentiel, pour moi très sceptique là-dessus..

Non, j’ai le même biais que toi, défavorable à l’IA en tant qu’être. Mais je suis obligé de réviser ma position devant les faits.

Ceci dit, je répète au cas ou : pas de qualia pour les IA. Pas d’intentionnalité non plus.

@yoananda2

Je répondais à ça :

Conscience étymologiquement signifie "savoir avec".

Est-ce que les IA "savent" ? oui. Comme nous.

Et je vous ai répondu que ChatGPT ne sait pas qu’il vous écrit un texte. On peut même imaginer qu’un super ChatGPT ponde un jour une équation qui explique bien mieux l’univers qu’Einstein, mais toujours sans savoir qu’il a pondu une équation qui explique l’univers.
"Savoir avec", n’est pas suffisant, c’est plutôt savoir que, je fais ou je pense, qui caractérise la conscience.

Concernant la perception et la cognition.
Nos capteurs sont nos organes des sens. Une machine, un système numérique qui rassemble des machines, peut disposer de bien plus de capteurs qu’un humain, en nombre, en étendue de ce qui peut être capté, et encore en précision.
Après, c’est le traitement qui est différent.
Le système de machines les reçoit sous forme de données. Il synthétise, aussi bien pour apporter une solution que pour fabriquer un nouveau modèle de traitement, ou programme (il me semble) apportant des solutions plus larges ou pertinentes.
L’humain reçoit des impressions, qu’il arrange et ordonne avec l’habitude et les acquisitions. les engrammes, Il élabore des représentations, interprétations avec des ressentis. Un humain ou un animal fait un Umwelt, pas une machine (un monde intérieur en miroir du monde extérieur en fonction des sens, ou capteurs, que l’on a). Un système de machines n’ a pas de monde intérieur, car il n’a pas de ressenti, même s’il capte avec ses capteurs.

Là où sa se complique, en effet c’est sur la rationalité. Un système de machines est capable de produire de la rationalité plus puissante qu’un humain. 
Vient la question de l’intelligence.
Si l’intelligence est la capacité a apporter des solutions (le numérique) et à s’adapter aux situations (le robot domestique ou qui fait la guerre) : alors les machines sont intelligentes.
Est-ce que l’intelligence existe sans conscience ? Mmmmh, ça coince. Les automatismes, y compris leur empilement, ce n’est pas de l’intelligence. C’est la limite constatée à l’IA que j’indiquais : les machines et systèmes sont aveugles à eux-mêmes, n’ont pas de conscience, pas de ressentis, pas d’Umwelt, peuvent faire plein de truc en faisant n’importe quoi.
Bon, les humains aussi peuvent faire n’importe quoi, on le voit tous les jours, je le sais bien. Mais la perception et la cognition sont des vieux mots, le tri est difficile à faire avec les robots et le numérique qui viennent d’arriver. Hormis la tendance actuelle à prendre des humains pour des machines, viendra sans doute (et je l’espère) le temps pour comprendre les différences fondamentales.

@TchakTchak

Et je vous ai répondu que ChatGPT ne sait pas qu’il vous écrit un texte.

on ne peut plus l’affirmer catégoriquement dans la mesure ou les IA comprennent "comme nous", ça a été démontré maintenant (il y a une vidéo de Mr Phi qui vulgarise bien le truc).

L’explication "perroquet stochastique" a du plomb dans l’aile.

Un humain ou un animal fait un Umwelt, pas une machine (un monde intérieur en miroir du monde extérieur en fonction des sens, ou capteurs, que l’on a). Un système de machines n’ a pas de monde intérieur

si. Les IA (pas toutes c’est vrai) ont des modèles du monde. Comme nous.

Là où sa se complique, en effet c’est sur la rationalité. Un système de machines est capable de produire de la rationalité plus puissante qu’un humain. 

Non. Pour le moment elles sont larguées en raisonnement. C’est leur gros point faible.

 : les machines et systèmes sont aveugles à eux-mêmes,

non c’est faux. Claude passe le test du mirroir et est loin d’être la seule IA à faire ça.

Bref... renseignez vous. Les IA ne sont des boites noires.

@yoananda2

Bon, je regarderai...
Reste la finalité entre l’humain et le système de machines : lequel sera l’instrument de l’autre à l’avenir ? J’ai quand même ça dans la mire.

@TchakTchak

Bon, je regarderai...

merci.

Je répète, au départ, j’étais à peu près sur la même position que vous et Gollum. Mais en me renseignant, j’ai vu que c’était plus compliqué. Il FAUT se renseigner. Sinon ce sont des spéculation ignorantes.

lequel sera l’instrument de l’autre à l’avenir ?

Je suis Heiddegerien : nous sommes déjà leur instrument. La technologie, prise comme un tout, nous araisonne.

Qu’elle ai une "intelligence" ou "conscience", n’a rien à y voir. It is what it is.

Mais avec les IA je pense qu’on va entrer dans une autre dimension de l’araisonnement heiddegerien. On va être "domestiqué" à notre tour par les IA.

Donc bref, nous sommes en train de devenir les instruments. Nous le sommes déjà... et bon ... ça ne nous empêche pas de vivre visiblement.

Bienvenu dan la termitière 

(je ne parle pas de vous) les gens parlent souvent de futures éventuelles dystopie effrayantes.

Pour moi, on est déjà dedans, et visiblement, les gens ne s’en rendent pas compte, donc la dystopie n’arrivera pas, elle est déjà là... et tout va bien.

C’est un peu comme si on demandait à un schyzo d’évaluer sa santé mentale : il en est totalement incapable. Les gens sont incapable collectivement de se voir dans une dystopie.

Il n’y a que les associaux et les sociopathes qui le peuvent.

@yoananda2

Oui, je sais bien qu’on est en dystopie, avec les portes de sorties de moins en moins nombreuses. En tout cas dans le monde atlantiste.

Une nuance quand même, Ce n’est pas la technologie qui gère les humains d’elle même. Il y a une petite minorité au dessus qui gère cet instrument qui nous gère. Elle se réunit constamment, parfois publiquement et ne cache pas à quoi doit ressembler l’humanité. C’est-à-dire comment elle leur convient.

Et cet instrument (machines numériques et robots) est nouveau. La tyrannie à l’ancienne, c’était encore de l’artisanat, du fastidieux.

@TchakTchak

Ce n’est pas la technologie qui gère les humains d’elle même. Il y a une petite minorité au dessus qui gère cet instrument qui nous gère.

Oui factuellement, mais elle est tout autant araisonnée que les autres et au final n’a pas d’emprise sur les choses.

Aucune élite ne peut décider de stopper les IA ni même quoi faire d’elles, par exemples ... parce qu’elle se ferait immédiatement remplacer.

Donc, à toutes fins utiles, ce sont les IA qui "décident" (je ne leur prête pas d’intentionnalité, ni de pouvoir de décision, je parle de manière systémique "tout se passe comme si", et je me réfère aux travaux d’Heidegger à ce sujet, qui, semble-t-il -je ne l’ai pas lu— arrive aux même conclusions : l’araisonnemnet).

Elle se réunit constamment, parfois publiquement et ne cache pas à quoi doit ressembler l’humanité. C’est-à-dire comment elle leur convient.

c’est une illusion. Les zélites fomentent toutes sortes de plans. La plupart échouent. Quand, par hasard, l’un de ces plans s’est juste révélé être la bonne anticipation, pouf, on pense qu’ils contrôlent tout. Non, ils ont juste eu du nez et le biais du survivant fait le reste.

Ils ne décident de pas grand chose selon moi et peuvent se réunir tant qu’ils veulent. Après, tant qu’ils ont le pouvoir de faire croire qu’ils décident, ça leur donne un pouvoir effectif (réduit mais réel) dans une certaine mesure.

En gros, leur seul vrai pouvoir c’est de vous faire croire qu’ils en ont.

Et ça marche 

@yoananda2

Bon je vais aller voir cette vidéo de M. Phi.. 

Sur les élites sans réel pouvoir je suis d’accord avec toi.