コンピュータープログラム３原則
2008年03月04日13:35
昔、アシモフ博士が書いた小説にこういう言葉があった。
～ ～ 「ロボットが守らなければいけない３原則」 ～ ～
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
（日本語訳は『われはロボット』小尾芙佐訳 昭和58年 早川書房 P5 より引用）
～ ～ ～ ～
ふと、思ったんだけど、この言葉のロボットという部分を、コンピュータープログラムという言葉に置き換えると、そのまま今の現状の問題点みたいにならないだろうか。 特に第二条。
第二条・プログラムはユーザーに与えられた命令に服従しなければならない。
... いうことをきかないプログラムって多いよな...。
あと、勝手に意図しない動作をするプログラムとか...。
～ ～ 「ロボットが守らなければいけない３原則」 ～ ～
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
（日本語訳は『われはロボット』小尾芙佐訳 昭和58年 早川書房 P5 より引用）
～ ～ ～ ～
ふと、思ったんだけど、この言葉のロボットという部分を、コンピュータープログラムという言葉に置き換えると、そのまま今の現状の問題点みたいにならないだろうか。 特に第二条。
第二条・プログラムはユーザーに与えられた命令に服従しなければならない。
... いうことをきかないプログラムって多いよな...。
あと、勝手に意図しない動作をするプログラムとか...。
コメント一覧
