Peut-on aimer une intelligence artificielle ? Philosophe vs ingénieur

@TchakTchak
l’émission est pas mal, un peu brouillon mais les intervenants sont plutôt sympatiques et les nombreux exemples qu’ils donnent sont intéressants. L’opposition ingénieur / philosophe est plutôt féconde ici.

Ce qui n’est pas le cas avec les machines qui ne produisent que des solutions, sans problématiser des situations non non formalisées.

hahaha, c’est marrant que vous ayez retenu ce passage... je l’ai aussi retenu mais parce que je l’ai trouvé mauvais.

cette histoire de problématisation vient de Raphael Enthoven à la base, et c’est un véritable scandale. Voir la vidéo de Mr Phi à ce sujet.

Les IA savent problématiser si on leur demande. Cette histoire de "problématisation" c’est un élément de langage répété sans comprehension par des gens qui ne font que projeter des à priori sur ces IA. (mais comme ils sont médiatisés... )

Et les humains hésitent, sont incertains, font des micro-ajustements malgré eux, pas les machines.

Quand on leur demande de programmer par exemple, elles se trompent, s’ajustent, s’auto-corrigent. Ok, elles ne sont pas encore à notre niveau ni dans tous les domaines, et elles n’ont pas de but propre. Mais elles savent faire des micro-ajustements. Pour les "incertitudes" je ne sais pas ce qu’il en est et les trucs "malgré eux" ... ça me semble spécifique à l’humain en effet mais il faudrait définir ça précisément.

Les échanges interhumains permettent de transformer les autres comme être transformés par les autres dans ses opinions, représentations, modalités d’actions.

alors ça c’est "relativement" vrai actuellement, mais ça ne durera pas. Une IA actuelle n’apprends rien en effet au niveau de son "modèle", mais ... elle peut apprendre en ayant une mémoire externe, elle peut être "finetunée" et donc apprendre de nouveaux trucs mais c’est couteux et peu répandu pour l’instant, et de nouvelles architectures semblent permettre un apprentissage (donc une "transformation") en temps réel.

Donc c’est partiellement vrai mais ça n’est pas destiné à le rester.

@yoananda2
j’ajoute qu’il a raison de répéter qu’elles ne ressentent rien. Pour ce uq’on en sait, c’est ça la vraie différence. Elles ne sont pas vivantes, pas conscientes au sens phénoménal.

@yoananda2

l’émission est pas mal, un peu brouillon mais les intervenants sont plutôt sympatiques et les nombreux exemples qu’ils donnent sont intéressants.

C’était un débriefing. Les deux protagonistes avaient des choses à se raconter. Je ne suis pas d’accord avec tout ce qu’ils ont dit, j’ai vu des angles aveugles derrière certains de leurs propos, mais j’ai largement profité de leurs déballages qui complètent mon regard et mes incertitudes sur le sujet.

hahaha, c’est marrant que vous ayez retenu ce passage... je l’ai aussi retenu mais parce que je l’ai trouvé mauvais.

Et vous n’en êtes pas surpris, de même que je ne le suis pas que vous ayez trouvé cette explication mauvaise. Au moins nous savons où nous en sommes.
On va peut-être laisser Raphaël Enthoven où il est... Apolline Guillot explique que ce n’est pas le numérique qui va résoudre les problèmes ni les choix existentiels des humains, ni des impensés qui pèsent dans nos vie, ni des réalités émergeantes.

De par chez moi, j’en connais plusieurs qui n’ont pas envie de s’acheter un téléphone portable, même s’ils en ont les moyens. Leur organisation de vie qu’ils ont faite leur convient, ils ne font aucun mal au fonctionnement de la société (ici, il n’y a pas de RMI ou RSA). Alors on peut dire OSEF, ne pas problématiser l’intrusion d’une nouvelle norme, le téléphone portable et tout ce qui avec, qui dérange leurs vies qu’ils ont organisées. Moi, je comprends ça. 

Cela fait plus de dix ans que le gouvernement Indien veut mettre fin au papier monnaie et tout passer à l’e-rupee. Un projet avec Microsoft. La matière première aux activités de Microsoft est bien devenue la connaissance des comportements quotidien des humains. Ce n’est pas vous qui maîtrisez les systèmes numériques, ni vous qui imposez les normes à la société. Microsoft est en mesure d’imposer cette norme à 1,4 milliards d’humains. C’est avec cet exemple l’autre question que j’avais soulevé dans notre fil précédent, en plus du numérique et son système : les normes imposées sur le monde depuis le groupe des multinationales. Ça ne prend pas pour l’instant, car moins de la moitié des Indiens ont un téléphone portable pour l’argent numérique. Et les polémiques sont nombreuses, entretenues par de gens qui veulent garder leur argent monnaie de leurs activités, savoir ce qu’ils ont, ce qu’ils font avec, et ne pas être pistés numériquement. C’est encore une problématique humaine, pas numérique ou IA.

Je pense aussi, comme vous, que le numérique, au fur et à mesure de son développement est confronté à des problématiques émergeantes (comme le cas évoqué du choix entre tamponner la mamie ou le jeune dans la voiture automatique en situation accidentogène). Et je pense aussi que le numérique saura résoudre progressivement sans l’intervention humaine, déjà sur situations moins dramatiques. Mais, ça, ce sont les problématiques du numérique et de ses normes de fonctionnement. 

Va-t-on laisser les problématisations et créations de normes du numérique s’imposer sur celles des humains, peut-on les distinguer et comment ? Pour moi, c’est une question importante et nécessaire.

@TchakTchak

Apolline Guillot explique que ce n’est pas le numérique qui va résoudre les problèmes ni les choix existentiels des humains, ni des impensés qui pèsent dans nos vie, ni des réalités émergeantes.

le "numérique" peut aider, mais peut aussi faire l’inverse, créer des nouveaux problèmes. C’est juste un outil.

C’est avec cet exemple l’autre question que j’avais soulevé dans notre fil précédent, en plus du numérique et son système : les normes imposées sur le monde depuis le groupe des multinationales.

ça c’est un vrai, bon, gros problème. Alors ... je rajoute une chose : les multinationales ET les états. Même panier pour moi. Les "gros" acteurs du système humain, avec le numérique entre les mains ou plutôt les dents, sont de vrais bon gros dangers.

Le danger n’est pas l’IA mais l’IA étatique (encore plus que l’IA de M$ ou autre).

La capture de l’IA par l’état, c’est le vrai bon gros danger selon moi.

(encore une fois, l’IA de micromou ou de openai, régulée par le marché, je m’en fou).

Donc oui, les multinationales qui tentent de capturer les états, c’est un soucis de second (ou premier ?) ordre parce que la puissance de l’état numérique est beaucoup trop grande.

Va-t-on laisser les problématisations et créations de normes du numérique s’imposer sur celles des humains, peut-on les distinguer et comment ? Pour moi, c’est une question importante et nécessaire.

Je suis d’accord. Le numérique, de fait, s’impose (que ce soit par l’algorithmique classique ou par les IA) dans certains domaines humains (cf les sites de rencontre qui remplacement les marieuses).

Mais je ne saurais dire si c’est une bonne ou mauvaise chose perso.

Ca va dépendre des cas, et à quel niveau ça s’applique (indiviuel, familial, local, national, global).

@yoananda2

Eh pour une fois que l’on tombe d’accord sur une problématique posée, on peut s’acheter chacun une bouteille de champagne sur Amazon et se la boire en WhatsApp vidéo.
Le premier verre pour un feuque à Enthoven.
Le deuxième pour le lever à Anis Ayari et Apolline Guillot.

@TchakTchak
hahaha 
tant qu’on ne mélange pas les torchons et les serviettes, c’est à dire, tant qu’on reste dans la sphère humaine, l’humanisme a toute sa place, et les questions relatives aux impacts des IA sur l’humanité me concernent autant qu’un autre.

mais je ne mélange pas : mon identité et les questions qui s’en rapportent (je suis pro-blanc parce que je suis blanc, mais je laisse l’humanisme et le philo/mysticisme de côté), l’humanité et les questions qui s’y rapportent (auquel cas, je laisse la question raciale de côté, et les questions philo/mystiques de côté), si on parle du "système" (incluant la nature, la vie, la terre, les machines, les animaux, l’écosystème et le technosystème, et nous la dedans, les questions de la conscience, de l’intelligence, etc...) c’est encore autre chose.

Bien sûr, tout interagit à tous les niveaux, mais il faut faire gaffe à pas tout mélanger.

Donc, nous concernant nous les humains, en relation aux IA, à cause du pouvoir et du mesusage répété de ce pouvoir par les états par le passé, on est face, à mon avis, à un risque sans précédent, surtout qu’on est déjà en dystopie (mais ça pourrait être bien pire) et que les gens s’en accomodent ou ne s’en rendent pas compte.

@yoananda2

Oui pour les Etats + l’UE qui enchaînent les lois bouffant petit à petit nos libertés élémentaires. Avec les applaudissements des représentants, donc le chef d’Etat n’est même pas le seul.
Après, c’est l’Etat, (en tout cas ceux de l’UE), qui est soumis aux multinationales, pas l’inverse. Elles sont donc le premier prescripteur de ces lois étranges qui nous tombent dessus. Mais, oui, l’Etat ne sait pas protéger les citoyens (ou de moins en moins). Bien au contraire, il surveille et rabroue de plus en plus les citoyens.

Pour le reste, vous dites vous même qu’il ne faut pas mélanger les torchons et les serviettes. Ce sera peut-être une autre fois. Il faut qu’on puisse respirer un peu.

@yoananda2

Oui, c’est vrai pour les Etats qui bouffent petit à petit nos libertés élémentaires. 
Après, ce sont les Etats (en tout cas ceux de l’UE) qui sont soumis aux multinationales, elles sont les prescripteurs, notamment des lois bizarres qui nous tombent dessus.
Mais c’est bien de la faute des Etats de ne pas savoir protéger les citoyens. Au contraire, ils les contrôlent et rabrouent de plus en plus, avec les applaudissement des représentants, en tout cas en France. Au lieu de contrôler l’économie, en tout cas protéger celle nationale..

Pour le reste, vous dîtes vous-même qu’il ne faut pas mélanger les torchons et les serviettes. Alors ce sera peut-être pour une autre fois. Respirons un peu.

@Avox

C’est le bazar, ici, la gestion des éditions, qui disparaissent, puis apparaissent.