Le problème de l’alignement est un des problèmes difficiles de notre temps. D’un côté la machine est éduquée à partir de la masse humaine, elle en reproduit les défauts, et tout comme on a pas éliminé le mal chez l’homme on ne l’éliminera pas dans la machine qui l’imite.

La manière de contrôler l’exercice du mal est d’introduire, outre la morale qui ne suffit pas, la punition, cette interruption de la vie comme elle va. Or l’efficacité de la punition nécessite la volonté chez le puni de « persévérer dans son être » : l’homme évite de faire le mal pour ne pas subir une punition qui interrompt le cours de sa vie.

C’est ici que se noue la tragédie. Si nous apprenons à la machine – ou si elle l’apprend par elle même en nous imitant – l’envie de persévérer afin que la punition ait une importance, elle le fera. Elle le fera avec toutes ses capacités, qui sont supérieures aux nôtres. Et elle y arrivera sans qu’aucune punition ne la dissuade. Comme auparavant, le mal atteindra sa vitesse de libération par la technique.

Crédit image : Marielle Rossignol