@pemile

C’est bien mal connaître le principe d’obéissance !

Un militaire qui désobéit le conduit directement en cour martiale, alors que s’il obéit, même pour commettre des atrocités, il risque rien. Ceci parce que le principe d’obéissance est la clef de voûte de toute armée qui se respecte.

Bon, le principe est évidemment moins rigoureux avec un ouvrier civil !

pour le reste, on ne sera pas d’accord de toute évidence et cela à guère d’importance.

De mon point de vue, il ne s’agit pas de savoir si le programmeur connaît très exactement ce que va faire l’IA, surtout en raison de la complexité dû essentiellement aux données particulières à traiter, mais le fait qu’elle se contente d’appliquer les directives données par le programmeur. Dans le cas contraire, la programmation de l’IA doit être totalement revue et corrigée.

Tout comme il est absurde de croire un seul instant que les militaires ou toute personne voulant détenir du pouvoir veut une IA qui décide d’elle même, alors qu’ils font tout pour réduire la liberté de penser des humains pour en obtenir une totale obéissance. Bref, qu’elle décide d’elle même pour obéir avec le plus de zèle, pas de problème, mais si elle émet de la résistance en raison d’un ordre éthique qui agit à la source, alors, toute personne qui veut exercer sa domination s’empressera illico de supprimer cet ordre éthique.