ロボット三原則の実装
http://ja.wikipedia.org/wiki/ロボット工学三原則
-
- 第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
- 第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
- 第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
知られてる問題。
・フレーム問題
・記号着地問題(記号接地問題)
他の、思いついた問題とか、疑問とかを以下に書きます。
第一条に対して。「地獄への道は善意で舗装されている」
ロボットが悪意を持って行動するのではなく、善意を持って行動することはできるわけです。それが高度な計算に基づいてのものかもしれないし、風が吹けば桶屋が儲かる的なものかもしれない。
行動した結果、最悪の事態を引き起こすかも知れない。たとえば銃撃戦の最中、ロボットが人間を守る使命を受けて、守ることができたが、ロボットに弾が当たって跳弾し、別の人間を死なせるとか。
それに大して、「先を見通せるようにすればよい」というアイディアがあるけれど、ゲーム理論でいうところの「水平線問題」があり、これから打つ1手が、7手先読みした場合には最善の手だったにも関わらず、14手先読みした場合には最悪の手だった、ということもありえるわけで。手を読む、というのは、基本的に全幅探索(MinMaxとかαβ探索とかNegaScoutとか)なのか?という問題もあるか。世界は零和有限確定ゲームじゃないしねえ。モンテカルロ法とかなのか…。
「ロボットが行動した結果、人間に危害を加えてはいけない」に置き換えると、ロボットは一切行動できなさそう。ロボットが行動した結果、被った危害は危害じゃない、というノーガード戦法、というか法整備したほうがラク。
小島アジコさんのロボットを労働者に置き換えるってのは、意外に真理かも知れない。ロボットを自律行動させず、パワードスーツ主体で労働者が自律的に行動させればいいってことで。
第二条に対して。「人間にあたえられた命令」の優先順位は?
工場の主任技師の命令と、派遣プログラマの命令と、視察に訪れた通りすがりの社長の命令と、どれを優先するんだろう。
第三条に対して。「自己」の範囲は?
スタンドアロンで独立した1台として動いているのであれば、自己とは自分1台を指すことになる。危険がせまったロボット仲間を守らないのか?
ネットワーク接続がある同じハードとソフトを持つロボット数台を「自己」と見なすのであれば、それは何台まで? 適用範囲は? たとえば、一般家庭に普及しまくったニンテンドーDSが自律型のロボットだとすると、自己を守るという一見なんてことなさそうな行動が、大規模、広範囲の行動になるわけ。
ラブプラス… という言葉が脳裏に浮かびましたが、今の僕にはこれがなんだかわかりません。
「雄二・・・ ちゃんと聞いてなかったの?」
「幕之内さんは」
「『今の』って言ったのよ」
とりあえず、殴ればいいのかな。
■
cosMo@暴走P+殿下+ダメ人間。
去年のやつですが、今更はまったもので。
いいなーダメ人間。小指が長くて。
バスケをやると身長が伸びるみたい俗説っぽいのが、ギターにもありませんかね。小指で懸垂とかか。
適当に見てたら、muzieというサイトがあるのを知る。今更ですか。
http://www.muzie.co.jp/artist/a047541/
http://www.muzie.co.jp/artist/a011858/
http://www.muzie.co.jp/artist/a017734/
■
でろでろ(16) <完> (KCデラックス ヤングマガジン)
- 作者: 押切蓮介
- 出版社/メーカー: 講談社
- 発売日: 2009/08/06
- メディア: コミック
- 購入: 2人 クリック: 12回
- この商品を含むブログ (13件) を見る
センパイの人生は波乱万丈だなあ。
あの妖怪は、センパイの嫁として扶養されるんだなーと思ったんですが、違ったのか。
■
「アイの物語」読了。
- 作者: 山本弘
- 出版社/メーカー: KADOKAWA/角川書店
- 発売日: 2009/03/25
- メディア: 文庫
- 購入: 25人 クリック: 168回
- この商品を含むブログ (107件) を見る
次はこの辺を。
- 作者: 山本弘
- 出版社/メーカー: 早川書房
- 発売日: 2008/01/01
- メディア: 文庫
- 購入: 7人 クリック: 96回
- この商品を含むブログ (96件) を見る
- 作者: 山本弘
- 出版社/メーカー: KADOKAWA
- 発売日: 2006/11/23
- メディア: 文庫
- 購入: 5人 クリック: 128回
- この商品を含むブログ (111件) を見る
- 作者: 山本弘
- 出版社/メーカー: KADOKAWA
- 発売日: 2006/11/23
- メディア: 文庫
- 購入: 4人 クリック: 21回
- この商品を含むブログ (81件) を見る
文庫化が待てなければ、これも。
- 作者: 山本弘,徒花スクモ
- 出版社/メーカー: 角川グループパブリッシング
- 発売日: 2008/09/25
- メディア: 単行本
- 購入: 4人 クリック: 40回
- この商品を含むブログ (59件) を見る
ソードワールドのフォーセリア世界のパロディ、ファイブリア世界でのTRPGリプレイのライトノベル、
・コクーン・ワールドシリーズ
・ティルト・ワールドシリーズ
・アビス・ワールドシリーズ
は全巻揃えたなー、、、とか思いながら「アイの物語」を読んでたんですが、これらは山本弘ではなく、友野詳でした。
若いときの記憶は、年をとっても色鮮やかに云々をよくどこかで見たり聞いたりしたと思うんですが、なんなんだこの勘違いのオンパレード。