Sur le même sujet, voir cet article : « facebook
arrête d’urgence son système d’IA : les robots avaient crée leur propre
langage ! »
On peut lire : « Selon
une information de Business Insider, qui se base sur un rapport du Tech Times,
Facebook a rencontré un problème grave sur leur système d’intelligence
artificielle (IA), et a dû l’arrêter d’urgence. En effet, les robots qui composent
l’IA en question sont configurés pour communiquer en anglais, et ils ont créé
un nouveau langage de communication qu’eux seuls maîtrisaient, désobéissant par
la même occasion aux ordres donnés par les ingénieurs Facebook !Cette création
de langage ne s’est pas faite toute seule : en effet, ces robots « agents »
utilisaient des algorithmes de machine-learning pour développer leurs capacités
et améliorer leurs compétences de communication. Jusqu’ici rien d’anormal,
puisque c’est le principe même de l’IA. Sauf que pendant que les ingénieurs se
penchaient sur d’autres sujets en interne (en l’occurrence l’amélioration des
chatbots), laissant les robots « agents » discuter en autonomie, ces derniers
ont poursuivi leur apprentissage et entrepris de créer leur propre langage,
sans aucune initiative humaine derrière. Ainsi, l’autre caractéristique
inquiétante, c’est que ces robots, qui ont la particularité d’apprendre
d’eux-même, en plus de créer leur propre langage, ont développé également la
capacité d’être des « négociateurs rusés », allant jusqu’à exiger un élément
pour orienter la négociation, puis à la dernière minute changer complètement
d’avis, utilisant cet élément comme un faux compromis »…
Il faut noter cependant que l’info d’arrêt en urgence a
été démentie par facebook (certains diront ironiquement « évidemment »
)