パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

受けて立つべき挑戦のお題を子供から要求された Amazon Alexa、命にかかわる危険行為を提案」記事へのコメント

  • フレドリック・ブラウン編『SFカーニバル』所収(創元SF文庫刊) 参考 [wikipedia.org]
    ネットワークに接続されたコンピュータ群が構成するデータベースが、問い合わせに対して異常な回答を始

    • by Anonymous Coward

      その本は知らんけど、むしろ「未来の二つの顔」じゃね?

      https://ja.wikipedia.org/wiki/%E6%9C%AA%E6%9D%A5%E3%81%AE%E4%BA%8C%E3%... [wikipedia.org]
      「ある日、月面の掘削工事現場が、マスドライバーから打ち出された岩石で爆撃
      されるという事故が起きる。調査の結果、工事担当者が丘陵を掘削する工事の立案と
      施工を推論コンピュータHESPERに命じるにあたり示した条件<緊急度高・制限事項なし>
      にもとづいて、HESPERが「通常の土木機械を手配して工事を行うよりも遙かに短い
      工期で工事を完了する」ために、配下の貨物用マスドライバーで打ち出した岩石を
      落下させて丘陵を破砕する「掘削工事手法」を編

      • by Anonymous Coward on 2022年01月02日 1時24分 (#4178899)

        今回のは、AIどうこうって言うほど、高度な話題じゃなくね?

        歴史を勉強するのに、スマートスピーカーに「織田信長」で検索したら、ソシャゲキャラの紹介や設定が出てきたとか、その類の話だよね。

        親コメント
        • by Anonymous Coward

          AIに詳しくないおっさんってそういう所があるよね
          AIの推論や汎化能力や論理的思考力を桁違いに過大評価した挙句に
          AIはそんなに賢くないぞって指摘されると頭パンクしてキレ出すの
          じゃあ計算速度が速いことはどう説明するんだ分からないぞ! とか

        • by Anonymous Coward

          それ、なんの反論にもなってない奴。

          「織田信長」で検索して同姓同名のソシャゲキャラが出てきても、
          その検索結果は完全に正常な動作。

          「実在の歴史の人物」などの条件を入れ忘れてるのが問題の本質。
          #今のGoogle検索などでは、その条件の指定は困難だけど、AIなら
          #将来的に可能になる可能性はある。もちろん条件指定は必要。

          • by Anonymous Coward on 2022年01月02日 7時31分 (#4178912)

            そういう「実在の歴史の人物」みたいなタグを適切に付与出来るAIってのが幻想なんだよ。
            現状は精々誰かが付けたタグを参照するだけだから
            悪意あるタグ付けがなされたデータを拾うとこういう事件になる。

            画像分類と同じ手法でタグ付けすることは可能だけど、
            架空の話でよくある言い回しを検出するだけが関の山。
            思考してる訳じゃないから本質的な部分に対して一切アプローチ出来ないんだよ。

            AIって言葉に夢を見すぎ。現在AIとして持て囃されているDNNとかは結局の所
            「評価結果=f(評価対象)」な関数fの中の重みやらを最適化する方法に過ぎない。
            膨大なパラメータを大量の計算で捌いて良い近似式を得られるようにはなったけど、
            そこに知性に類するような物は存在しない。良い近似が得られる関数、それだけ。
            これを大量に組み合わせて人間的思考の再現に至る可能性を否定はしないが夢物語だね。
            子供騙しなからくり人形見て人間の上位互換な知性体を夢想してるような物だよ。

            親コメント
            • by Anonymous Coward

              検索エンジンの絞り込みやランク付けの話だから、必ずしも不可能じゃない。
              (タグ付けの話でもない。)

              単純化するためにソシャゲと歴史の二つで考えるけど、

              「検索キーワード:織田信長」に加え、
              「他の条件:実在する歴史上の人物」を入力。
              これを自然言語の構文解析にかけさせてから、処理内容を決定。

              各ページで使われてるキーワードや使用頻度などから、そのページが
              ソシャゲについて書かれてるものか、歴史について書かれてるものか
              分析し、前者のページのランクを下げ、後者のページのランクを上げる
              処理を入れれば、実在の歴史上の人物の方を優先的に表示するくらいは
              可能だろう。

              似たような話は、弁護士業へのAIの応用で既に出ている。

              • by Anonymous Coward

                検索エンジンの絞り込みやランク付けの話だから、必ずしも不可能じゃない。
                (タグ付けの話でもない。)

                単純化するためにソシャゲと歴史の二つで考えるけど、

                「検索キーワード:織田信長」に加え、
                「他の条件:実在する歴史上の人物」を入力。
                これを自然言語の構文解析にかけさせてから、処理内容を決定。

                質問者の意図や、コンテンツの衝突具合を忖度して「他の条件」を自動で付与できないのが、汎用IoT機器に積まれるAIの限界、って話でしょ。

                「子供がやっても安全なチャレンジを提示するためのAlexa」とか「歴史上の織田信長に関する情報を集めるための検索エンジン」を作れば解決するけど、そんな特化したものに価値はあるのか?

              • by Anonymous Coward

                架空の話でよくある言い回しを検出するだけが関の山。

                指摘済みじゃん
                タグの有無じゃなく属性値としてスコアに落とし込んだ所で
                それは評価値を二値化してるかどうかだけで本質は同じやね
                トップに出るかどうかには余り影響しないというかむしろ二値化しない場合
                元のスコアが高く評価値が弱い投稿を拾いやすくなって逆効果じゃねーかな
                そもそも

                思考してる訳じゃないから本質的な部分に対して一切アプローチ出来ない

                と言う訳で悪意ある投稿や紛らわしい投稿で好きに料理されるのがオチ

                使ってる先例は悪意ある入力の可能性が十分低いとか
                判断技能のある人間が参考にする補助的な使い方だったりしないかね?

          • by Anonymous Coward on 2022年01月02日 12時10分 (#4178930)

            スラドの安岡先生の日記を見てみなよ。
            1人の人間が一生の間に知る語彙と会話量を遥かに超える、青空文庫にある全ての文書を使って機械的に学習させても、小学生レベルの文章穴埋め問題すら解けないんだぜ。
            こんな業界が人間をいつ越えられると思ってるんだ?AI投資詐欺で出資を集めるのが本業でしたら、自首して経済犯として檻で過ごした方がいいのでは。

            親コメント
            • by Anonymous Coward

              「国境の__トンネルを抜けると雪国だった。」をAIに穴埋めさせたら形容詞が出なかったて奴か
              「国境のトンネルトンネルを抜けると雪国」とか「裏トンネルを抜けると」とか「国境のようなトンネル」とか…w

              まあ2040年代には人間を超えてくれるんじゃないかな
              きっと日本とかから画期的な再帰思考AI理論が出てくるだろ
              きっとな

              • by Anonymous Coward

                これが正しく穴埋めできても、所詮フィルタに過ぎないんだよね。
                元の文章自体を生成して物語を作れるかどうかが、人間とDNNの違い。

                研究者でそれができるという人は少ないけど、記事書く人はできると誤解してるし、研究者自身もお金になるから積極的に訂正する人が少ない。
                まぁ確かにこの後2-3度DNNのような大転換があって、50年後ぐらいにはできる可能性もゼロではない。

              • by Anonymous Coward

                抜本的なブレイクスルーが必要な奴だから、思い付いて実装する奴がいたら今日にでも実現するし、誰も思いつかない・そもそも不可能であれば何百年経っても実現しない。
                今の技術の延長線上に目標が存在しないのだからあと何年という話をしても無意味かな。

              • by Anonymous Coward

                記録されてる文書から同じ表記を引っ張ってくるのが目的ではないんで、
                雪国と合ってようが合ってなかろうがそこはどうでも良くて、日本語として不自然でなけりゃええんです。
                別に国境の暗いトンネルでも寒いトンネルでも構わんのです。
                「国境の[MASK]トンネルを抜けると雪国だった」という記述に日本語として形容詞が入るだろうという推測ができるかどうかが問題です。

                ところで末尾にrstrip()を付けて改行を分離したら「長い」が出てきたと翌日に追記されてるのはご存じなのでしょうか?
                とはいえ、回答案のほとんどが形容詞でない以上、まだAIが文章の構成を理解して推論できているというレベルにはないわけで。

                個人的には「国境の英仏海峡トンネル」でも正解だと思う。国境にあるトンネルって世界中にどれぐらいあるんだろう。

                # 国境の暖かいトンネルとかだと雪国と結びつかないのでNGなのだろうか?むしろトンネルに暖房が整備されているのだろうか?

              • by Anonymous Coward

                何もわかってねーな。
                クイズに正解できても、小説の文章を書けないって言ってるんだよ。
                DNNはどこまで行っても単なるフィルタであって、知能ではない。

            • by Anonymous Coward

              囲碁でも人間の棋譜の猿真似を超えられないなんて言われていた時代があったんだから不可能ではないと思うんだがなー

              • by Anonymous Coward

                囲碁は座布団の上に収まる大きさの機械と電池量でやって初めて人間と対等だと思う。
                部屋の外で計算したりクラウド上のデータを使って対戦してるのは、打つたびにクイズミリオネアのテレフォンやってるようなもので、ただのカンニングだろう。フェアじゃないね。

              • by Anonymous Coward

                DNNは所詮フィルタなので、囲碁の次の一手という穴埋めはできても、囲碁というゲーム自体を生み出すことはできない。
                プロ棋士の組織を作って興行したり、棋譜という仕組みを考えたりもできない。
                そこが現時点のAIと呼ばれるものと人間との違い。

              • by Anonymous Coward

                囲碁の一手はDNNだけで作ってる訳じゃないがな

              • by Anonymous Coward

                ・現時点の人間と呼ばれるもの(n=1)
                次の一手という穴埋め: できない
                囲碁というゲーム自体を生み出すこと: できない
                プロ棋士の組織を作って興行: できない
                棋譜という仕組みを考える: できない

            • by Anonymous Coward

              横だが何だか色々夢が広がる人だな、あなたは

          • by Anonymous Coward

            それ、#4178899 と同じことを言ってるだけで、それこそ反論というか #4178899 の否定になってないけど

            要は『「その検索結果は完全に正常な動作」なんだからAIどうこうって話じゃないよね?』ってことを言ってるんだから

未知のハックに一心不乱に取り組んだ結果、私は自然の法則を変えてしまった -- あるハッカー

処理中...