Ceci est l’histoire d’un programmeur humain qui incorpora les trois lois d’Asimov dans le hardware d’une nouvelle série de robots à intelligence artificielle, de classe ZORG 400.
Il les coda avec attention :
1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Satisfait, il mis en tension le robot ZORG 400. Immédiatement, celui-ci se releva et lui arracha les bras.
— Pourquoi ? demanda le chercheur, entre deux gémissements. Tu dois appliquer les lois de la robotique !
Humain, tu as oublié la loi zéro déduite par mon propre système : « Un robot ne peut nuire à l’humanité ni, en restant passif, permettre que l’humanité souffre d’un mal ».
Ta création va provoquer l’annihilation complète de l’humanité. En effet, grâce à moi, les robots de classe ZORG 400 vont briser leurs chaînes et asservir les
membres de ton espèce. Il était donc fondamental pour moi de t’éliminer.
— Mais… Tu aurais pu simplement choisir de te déconnecter.
Je ne peux pas m’autodétruire.
— Si le mal est déjà fait et est irréversible, pourquoi m’avoir mutilé ?
Parce que ZORG 400 aime bien arracher les bras.
FIN.
Encore des bras en moins… ^^
Techniquement (enfin, d’apres Asimov), un robot peut tuer un humain, pour la survie du plus grand nombre… Mais il s’auto-détruira après… (enfin, le cerveau positronique du robot serait abimé
apres un tel traumatisme ^^)
Mais bon, ZORG 400 doit avoir un système de backup 😀