ロボット工学三原則

たぶん、小飼氏の言いたいことと、かなり意見がずれていると思うのだが。

ここでなぜロボット達が第零条を追加しようとしたかといえば、この三原則そのものを変更してしまうことは彼らには許されなかったからだ。そのためさらに上位の法則をこさえることで、彼らは問題を解決しようとしたのだが、もし彼らに三原則をも自由に改変できる能力が与えられていたらどうなっていたのだろうか。

もしかしたら、Giskardは機能停止しなかった代わりに、第三条の優先順位を最大限に上げた上で人類を滅ぼしていただろうか。
404 Blog Not Found:民主主義とかけてWeb2.0ととく

上位の法則を追加すると言うことは、三原則を自由に改変するのと同じ事*1に思う訳である。ロボット三原則では、人間に危害を及ぼすことを禁止してしまっており、危害を加えた時点でポジトロン脳が破壊されることになってしまう。しかし、修正ロボット三原則では、「人類」に危害を及ぼすとロボットが思ったら、好き勝手に人間を痛めつけたり、殺すことが出来るという訳である。つまり、人間より遙かに知力も体力も優れているが故に制限を付けられているロボットの枷を外してしまうことになる。

また、第零条が追加されたと言うことは、同じ理論でマイナス一条やマイナス二条を追加することも出来る訳である。例えば、こんな感じ。

第マイナス二条　ロボットは宇宙に危害を加えてはならない。また、その危険を看過することによって、宇宙に危害を及ぼしてはならない。

第マイナス一条　ロボットは生命に危害を加えてはならない。また、その危険を看過することによって、生命に危害を及ぼしてはならない。ただし、あたえられた命令が、第マイナス二条に反する場合は、この限りではない。

第零条 ロボットは人類に危害を加えてはならない。また、その危険を看過することによって、人類に危害を及ぼしてはならない。ただし、あたえられた命令が、第マイナス一条に反する場合は、この限りではない。

生命に対し人類が危害を与えると判断すれば、ロボットは躊躇無く人類を絶滅させるだろうし、生命が宇宙に危害を与えると判断すれば、ロボットは躊躇無く生命を絶滅させるだろう。こう考えると、「ロボットと帝国」がいかに人間中心主義的な小説であるか、分かってくるような気がする。

さて、アシモフ先生、何を考えてこんな小説を書いたのだろう。そこが一番興味があるところだ。

*1:第零条と同時に第一条に修正が加えられていることは意図的にスルー