アカウント名:
パスワード:
フレドリック・ブラウン編『SFカーニバル』所収（創元SF文庫刊） 参考 [wikipedia.org] ネットワークに接続されたコンピュータ群が構成するデータベースが、問い合わせに対して異常な回答を始
その本は知らんけど、むしろ「未来の二つの顔」じゃね？
https://ja.wikipedia.org/wiki/%E6%9C%AA%E6%9D%A5%E3%81%AE%E4%BA%8C%E3%... [wikipedia.org] 「ある日、月面の掘削工事現場が、マスドライバーから打ち出された岩石で爆撃されるという事故が起きる。調査の結果、工事担当者が丘陵を掘削する工事の立案と施工を推論コンピュータHESPERに命じるにあたり示した条件＜緊急度高・制限事項なし＞にもとづいて、HESPERが「通常の土木機械を手配して工事を行うよりも遙かに短い工期で工事を完了する」ために、配下の貨物用マスドライバーで打ち出した岩石を落下させて丘陵を破砕する「掘削工事手法」を編
> 今回のAlexaも質問には完璧に答えている。ただ人間の側が、検索条件に> 「挑戦者の生命の安全を保証する」のような条件を入れ忘れたことが問題の本質
やはり現実のAIにもロボット三原則が必要だ。# ただしトロッコ問題でどう振る舞うかは考えないものとする
トロッコ問題に対するロボット三原則の動作は、既に著作内で答が示されてる。
この「ロボット三原則はトロッコ問題を解決できない」という奴は，有名なデマなんだよね。誰が言いふらしてるのかしらないけど。
ロボット三原則の実装が極めて難しいというのはまた別の問題。ロボット三原則には言及してないものの、「未来の二つの顔」でもその実装の難しさについては触れられている。HESPERくらいに高度に進化したAIでも、ロボット三原則の実装は不可能だった。
> トロッコ問題に対するロボット三原則の動作は、既に著作内で答が示されてる。というデマを言いふらしてるのは少なくとも君だな
補足トロッコ問題を「暴走したトロッコが〜云々〜、あなた（ロボット）ならどうしますか？」と小学生の学級会レベルの議題だと思ってる前提からしてそもそも間違っている正しいトロッコ問題は「暴走したトロッコが〜云々〜、切り替えるは（法的な話を無視して）道徳的に許されるか？」だぞ君やロボットがどうするか、どうするべきか、何ぞ聞いとらんのに、答えが既に著作内で答が示されてるわけないだろ
ロボット三原則とトロッコ問題が結びつくこと自体、トロッコ問題を全然理解できてないってことだよね
> ロボット三原則とトロッコ問題が結びつくこと自体、トロッコ問題を全然理解できてないってことだよね
そういうことだね倫理・道徳的観点から功利を考える問題なんだから、三原則でこうだとかその実装上どうだなんてのはそもそもナンセンス法やロボット三原則とは、ルール・規格・実装であり手段なんだから何故の答えになる訳がない、何故の答えは目的
また「私ならレバー操作する。理由は〇〇だからだ」なんてのは、小学生が「犬と猫なら犬のほうが好きです。何故ならお手を覚えておりこうだからです。」などと言ってるのと本質的に同じで、好みの表明でしかないそんな学級会をサンデルが古い論文引っ張り出してわざわざ大学でやるわきゃないし、俺らよりはるかに優秀なハーバード大学生が支持するわけがない
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
192.168.0.1は、私が使っている IPアドレスですので勝手に使わないでください --- ある通りすがり
マレイ・ラインスター『ジョーという名のロジック』 (スコア:3, 参考になる)
フレドリック・ブラウン編『SFカーニバル』所収（創元SF文庫刊） 参考 [wikipedia.org]
ネットワークに接続されたコンピュータ群が構成するデータベースが、問い合わせに対して異常な回答を始
JPホーガン「未来の二つの顔」 (スコア:4, 参考になる)
その本は知らんけど、むしろ「未来の二つの顔」じゃね？
https://ja.wikipedia.org/wiki/%E6%9C%AA%E6%9D%A5%E3%81%AE%E4%BA%8C%E3%... [wikipedia.org]
「ある日、月面の掘削工事現場が、マスドライバーから打ち出された岩石で爆撃
されるという事故が起きる。調査の結果、工事担当者が丘陵を掘削する工事の立案と
施工を推論コンピュータHESPERに命じるにあたり示した条件＜緊急度高・制限事項なし＞
にもとづいて、HESPERが「通常の土木機械を手配して工事を行うよりも遙かに短い
工期で工事を完了する」ために、配下の貨物用マスドライバーで打ち出した岩石を
落下させて丘陵を破砕する「掘削工事手法」を編
Re: (スコア:0)
> 今回のAlexaも質問には完璧に答えている。ただ人間の側が、検索条件に
> 「挑戦者の生命の安全を保証する」のような条件を入れ忘れたことが問題の本質
やはり現実のAIにもロボット三原則が必要だ。
# ただしトロッコ問題でどう振る舞うかは考えないものとする
Re: (スコア:0)
トロッコ問題に対するロボット三原則の動作は、既に著作内で答が示されてる。
この「ロボット三原則はトロッコ問題を解決できない」という奴は，
有名なデマなんだよね。誰が言いふらしてるのかしらないけど。
ロボット三原則の実装が極めて難しいというのはまた別の問題。
ロボット三原則には言及してないものの、「未来の二つの顔」でも
その実装の難しさについては触れられている。HESPERくらいに高度に
進化したAIでも、ロボット三原則の実装は不可能だった。
Re: (スコア:0)
> トロッコ問題に対するロボット三原則の動作は、既に著作内で答が示されてる。
というデマを言いふらしてるのは少なくとも君だな
補足
トロッコ問題を「暴走したトロッコが〜云々〜、あなた（ロボット）ならどうしますか？」と小学生の学級会レベルの議題だと思ってる前提からしてそもそも間違っている
正しいトロッコ問題は「暴走したトロッコが〜云々〜、切り替えるは（法的な話を無視して）道徳的に許されるか？」だぞ
君やロボットがどうするか、どうするべきか、何ぞ聞いとらんのに、答えが既に著作内で答が示されてるわけないだろ
Re:JPホーガン「未来の二つの顔」 (スコア:0)
ロボット三原則とトロッコ問題が結びつくこと自体、トロッコ問題を全然理解できてないってことだよね
Re: (スコア:0)
> ロボット三原則とトロッコ問題が結びつくこと自体、トロッコ問題を全然理解できてないってことだよね
そういうことだね
倫理・道徳的観点から功利を考える問題なんだから、三原則でこうだとかその実装上どうだなんてのはそもそもナンセンス
法やロボット三原則とは、ルール・規格・実装であり手段なんだから何故の答えになる訳がない、何故の答えは目的
また「私ならレバー操作する。理由は〇〇だからだ」なんてのは、小学生が「犬と猫なら犬のほうが好きです。何故ならお手を覚えておりこうだからです。」などと言ってるのと本質的に同じで、好みの表明でしかない
そんな学級会をサンデルが古い論文引っ張り出してわざわざ大学でやるわきゃないし、俺らよりはるかに優秀なハーバード大学生が支持するわけがない