パスワードを忘れた? アカウント作成
21498502 story
テクノロジー

自動運転車を欺くステルスカーは実現可能か 81

ストーリー by nagazou
将来起こりうる問題 部門より

横浜国立大学の研究者らは、LiDAR(光遠隔検知および測距装置)を用いた自動運転車から検知されない車両の可能性を検証した論文を発表した。論文は「LiDARベース物体検出を連続してすり抜ける『ステルスカー』は作れるか?」というタイトルで、具体的な手法としては、赤外線カットフィルムを車両に貼り付け、自動運転車が使用するLiDARを欺くことができるかが焦点となっている(ITmedia)。

LiDARは自動運転車の周囲環境を認識することで、緊急ブレーキ機能や車線維持機能などの安全機能を実現している。しかし現在、LiDARを用いた物体検出を誤らせる攻撃が問題視されているのだという。この研究では特別な機器を必要とせず、日焼け防止などで使われる一般的な赤外線カットフィルムを使って、車両を検出できないようにする物理的偽装攻撃を提案している。

実験では、シミュレーター上で高精度なLiDAR物体検出モデルを使用し、5種類の連続シーンにおける点群欠損攻撃を評価したところ、連続シーンの中で平均して約92%のフレームで車両検出が失敗することが分かったという。現実でもこの車両の点群欠損を実現できることが分かったとしている。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by hogehogehogehoge (27968) on 2023年12月12日 16時28分 (#4578059)
    さすがに無灯火で走ってる自動車は滅多に見ないけど、無灯火+反射板無しの自転車は人間様でも見つけづらいのでやめてくれ
    • by Anonymous Coward

      それと激しい点滅は目潰しにしかならんのでやめてくれ。
      特に前照灯。

      奴らは自分らが攻撃されないと思って、本当に殺りたい放題だよな。

  • LIDARと言ってもいくつか方式はありますけど、最近の単一光子…SPADとかいうやつは反射にも外光にも比較的強くないですか? そんなに影響されるのかな。

  • by jizou (5538) on 2023年12月12日 16時15分 (#4578049) 日記

    カメラ+LiDARとかの
    複数で認識してるんだと思う..

    赤外線の絶対値がわかればそれでもいいけど。

    • by Anonymous Coward

      まぁでもこれで、LiDARだけでも十分! っていう廉価へっぽこ自動運転の登場が牽制・排除されると思えば有意義な研究だと思う。

      #シングルカメラのみの自動ブレーキの精度が低くて批判されてたなぁ…。まだ残ってるんかねシングルカメラのみ。

  • むしろ、逆に不可視不可聴な機械認識用ビーコンを標準カッして、装備することを義務化、とかやったら良いと思う。

    --
    しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
    • by Anonymous Coward

      嫌がらせとか暗殺とかで使われたら、人間目視の運転より危ないって話じゃない?障害物は車である必要ないんだし、IRカット塗装の亀甲羅とかバナナ皮とかを避けずに突っ込んでいくってことでしょ。法ではどうにもならん。

      • 自動運転じゃなくても、というか有人運転の方が簡単に嫌ガセやら暗殺に使えるからなぁ……。
        そういうことをされないために現行でも運転免許制度やら、整備義務があったり取り締まりしているわけで、同じように取り締まるしかない。
        自動運転が規格を満たしていないなんてのは機械で判定できる分取締も簡単にできるはず。まあ一から制度設計する必要があるわけだから、時間かけて最適化していくしかないね。

        --
        しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
        親コメント
      • by Anonymous Coward

        そんなのより釘撒けよ

  • by Anonymous Coward on 2023年12月12日 16時11分 (#4578043)

    こういうの [google.co.jp]案外有効だったり?

    • by Anonymous Coward

      草間彌生がデザインした車とかあったら大変なことになりそう。

    • by Anonymous Coward

      天下一品の逆で、通行可の標識っぽいマークを後ろに付けておくとそのまま進んできたりして

    • by Anonymous Coward

      それをQRコードみたいにして車載コンピューターに悪さを・・・

      #ってのをどっかのアニメで見たような

  • by Anonymous Coward on 2023年12月12日 16時12分 (#4578046)

    行きつくところはフレーム問題なんだから、自動運転なんて無理だって。
    開発している人は、そうは考えないのだろうか。
    それとも、克服できると考えているのだろうか。

    • by Anonymous Coward on 2023年12月12日 16時38分 (#4578076)

      「絶対に事故らない自動運転車」を作りたいわけじゃなくて「人間よりも事故率の低い自動運転車」であれば十分。

      あとはその自動運転車が事故を起こしたときに誰が責任を取るかという問題が残ってるけど
      そこはそれ、運転中は常にログを保存してカメラも記録し続けてる限りにおいて保険でカバー、とかいう仕組みを作ればなんとかなるんじゃないの

      親コメント
      • by Anonymous Coward on 2023年12月12日 17時53分 (#4578148)

        自動運転車の誤認識が原因とログから判断できる死亡事故が起こったとき、
        似たような条件下で、その自動運転車の誤認識率が人間の判断による場合の誤認識率より十分に低ければ
        「損害の賠償は保険で賄われますが、自動車メーカーの過失として責任を問うことはできません」
        となるんだろうけど、そう言われて納得できる人が多数派とは思えないなあ……
        自動運転車によって事故を減らすという目的からすれば合理的な仕組みだとは思うけど、
        感情面で(特に非技術系からの)理解を得るのは難しそう。

        親コメント
    • by Anonymous Coward on 2023年12月12日 23時41分 (#4578312)

      行きつくところはフレーム問題なんだから

      もしかして、、、フレームの元

      親コメント
    • by Anonymous Coward

      その理屈なら人類も運転は無理ってことになるが…

      • 「フレーム問題」というのは、
        人間が簡単そうにやってる状況認識は
        その裏でこの世界についての膨大な知識がある上に成り立っているので
        人工知能にやらせようとしたらすごく難しい、って話

        だから、フレーム問題って文脈で「人間も無理」と返すのは的外れ。

        ただ、最近のAI研究は、「ものすごく大量のデータをぶちこんだら、結構それっぽい結果を出せる」って路線だし、
        もはや「フレーム問題だから自動化出来ない」というものでも無くなってる気がします。
        どんどんデータをぶち込めば「運搬中の何か」判定もできるようになると思うし

        問題は、致命的な結果は出さないように、という視点で、どこまで精度を出せるかで、
        その学習には、失敗例である、大量の「事故のデータ」が要ると思うけど、
        用意するのが難しいでしょうね

        テスラなら、実車でそういうデータを集められそうだけど

        親コメント
        • テスラ車同士がお互いの画像を送り合って
          A「これって道路の模様かな本当の人間かな」
          B「あ、それは見たことあるぞ、踏んでも大丈夫なやつだ」
          A「ありがとう!!」ドーン!!
          親コメント
        • by Anonymous Coward on 2023年12月12日 22時10分 (#4578281)

          Cruiseの自動運転タクシー、近くで見るとものすごい数のセンサーを搭載してるんですよね。
          自動運転本気でやってるところは簡単だと考えてないし、人間より頑張ってる感じがする。

          親コメント
        • > 問題は、致命的な結果は出さないように、という視点で、どこまで精度を出せるかで、

          こここそ、人類でも致命的な結果は出ることが稀によくあるので、「平均的な人間よりも10倍マシ」くらいならいいんじゃないですかね。

          親コメント
    • by Anonymous Coward

      最初から事故を起こすつもりで特別な仕掛けをしているクルマ相手ならまだしも、
      普通の快適装備としていくらでも転がっているフィルムに『勝手に』騙されてしまう状態だもんな。
      こわいこわい。

    • by Anonymous Coward

      プリウスミサイルよりマシならいいじゃない。
      そんなレベルじゃ受け入れられないのなら自分で運転すればいいし、突っ込んでくるプリウスミサイルも減るんだぞ?

    • by Anonymous Coward

      また出たよ。聞きかじった知識で知ったかぶりする素人が。

      そもそも「道路を運転する」というフレームを前もって決めて、その枠内で
      動くロボットカーを創る話をしてるんだから、一般的なフレーム問題とは
      話が違うでしょ。

      それと人間が簡単にやってる(ように見える)ことは、膨大な学習の結果
      実現可能になった物なので、それが(現時点の)AIに極めて難しいとしても
      別に驚くほどのことじゃない。

  • by Anonymous Coward on 2023年12月12日 16時58分 (#4578097)

    自動運転車を欺いてどうすんだと思うけど(わざと事故るのか?)、本質的にはLiDARやらの技術を何とかしろという話か

    • by Anonymous Coward on 2023年12月12日 18時18分 (#4578162)

      セキュリティ界隈のいわゆる「分厚い壁の向こうで入力しているパスワードをオフラインで盗み取る技術」と同じ感じだわね。
      実際の攻撃者に先に開発されてゼロデイ攻撃される前に警鐘をならし、公開しちゃうことで対策を促すみたいな。

      これの場合悪用は「交通テロ」くらいしかできないけど、事故発生時や見落としに対する原因究明の助けにはなりそう。

      親コメント
    • by Anonymous Coward

      「警鐘」を鳴らすならまだしも推奨ととられる「提案」として掲載しちゃあかんよね

    • by Anonymous Coward

      法で禁止する

      オービスの赤外線カメラに写らない様にするナンバープレートのカバーが禁止されてるし

    • by Anonymous Coward

      自動運転パトカーから逃げ放題の強盗団ができるじゃないか。
      同様に警備ロボに見つからずに盗み出す怪盗ロボとか。

      あとはやっぱし軍用やテロ目的かなあ。

  • 「絶対に事故らない自動運転車」とか「人間よりも事故率の低い自動運転車」とかいうよりも
    「車道を車両優先とする」ことも前提にしないと、無理。
    #計算機科学者とは、壊れていないものを修理する人々のことである

    • by Anonymous Coward

      歩道が広いではないか…行け

  • by Anonymous Coward on 2023年12月12日 17時06分 (#4578107)

    今後100年くらいはこの辺が落とし所かもしれないね
    地方の高速道路は完全自動化できるわ

    • by Anonymous Coward

      道路作る、維持するコストが増加するな。レーンや識別マーカーが消えたり壊れたりしていたことで事故が起こったら道路管理者にいくばくかの責任がくるわけだから。

      • by Anonymous Coward

        今でも横断歩道とか消えてるとこあるからなあ。
        幹線道路だけ自動運転車。街中は人力車になったりして。

    • by Anonymous Coward

      踏切も作らないと(アレ?

  • by Anonymous Coward on 2023年12月12日 18時43分 (#4578180)

    それまでステルス飛行機は滑らかな曲面で構成されると信じられていたけど、一部に強く反射すれば(レーダーの)発信元には戻らないということから特定の方向へは強く反射して元へは戻らないようにするポリゴンで構成された飛行機が出ました。
    同じようにテスラトラックみたいな感じにゲームのポリゴン風で鏡で構成されたらおそらく LiDAR には写らなくなるんじゃないでしょうか。ってか、人間の目でも鏡の後ろに立たれると見えないですけどね。

typodupeerror

にわかな奴ほど語りたがる -- あるハッカー

読み込み中...