自動運転車を欺くステルスカーは実現可能か 81
ストーリー by nagazou
将来起こりうる問題 部門より
将来起こりうる問題 部門より
横浜国立大学の研究者らは、LiDAR（光遠隔検知および測距装置）を用いた自動運転車から検知されない車両の可能性を検証した論文を発表した。論文は「LiDARベース物体検出を連続してすり抜ける『ステルスカー』は作れるか?」というタイトルで、具体的な手法としては、赤外線カットフィルムを車両に貼り付け、自動運転車が使用するLiDARを欺くことができるかが焦点となっている（ITmedia）。
LiDARは自動運転車の周囲環境を認識することで、緊急ブレーキ機能や車線維持機能などの安全機能を実現している。しかし現在、LiDARを用いた物体検出を誤らせる攻撃が問題視されているのだという。この研究では特別な機器を必要とせず、日焼け防止などで使われる一般的な赤外線カットフィルムを使って、車両を検出できないようにする物理的偽装攻撃を提案している。
実験では、シミュレーター上で高精度なLiDAR物体検出モデルを使用し、5種類の連続シーンにおける点群欠損攻撃を評価したところ、連続シーンの中で平均して約92％のフレームで車両検出が失敗することが分かったという。現実でもこの車両の点群欠損を実現できることが分かったとしている。
無灯火自転車 (スコア:2)
Re: (スコア:0)
それと激しい点滅は目潰しにしかならんのでやめてくれ。
特に前照灯。
奴らは自分らが攻撃されないと思って、本当に殺りたい放題だよな。
Re:無灯火自転車 (スコア:1)
今のレーザー距離計は比較的反射強度依存が弱いような (スコア:2)
LIDARと言ってもいくつか方式はありますけど、最近の単一光子…SPADとかいうやつは反射にも外光にも比較的強くないですか? そんなに影響されるのかな。
だから (スコア:1)
カメラ+LiDARとかの
複数で認識してるんだと思う..
赤外線の絶対値がわかればそれでもいいけど。
Re: (スコア:0)
まぁでもこれで、LiDARだけでも十分！ っていう廉価へっぽこ自動運転の登場が牽制・排除されると思えば有意義な研究だと思う。
＃シングルカメラのみの自動ブレーキの精度が低くて批判されてたなぁ…。まだ残ってるんかねシングルカメラのみ。
可能だとしても違法化されるでしょ (スコア:1)
むしろ、逆に不可視不可聴な機械認識用ビーコンを標準カッして、装備することを義務化、とかやったら良いと思う。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
嫌がらせとか暗殺とかで使われたら、人間目視の運転より危ないって話じゃない？障害物は車である必要ないんだし、IRカット塗装の亀甲羅とかバナナ皮とかを避けずに突っ込んでいくってことでしょ。法ではどうにもならん。
Re:可能だとしても違法化されるでしょ (スコア:1)
自動運転じゃなくても、というか有人運転の方が簡単に嫌ガセやら暗殺に使えるからなぁ……。
そういうことをされないために現行でも運転免許制度やら、整備義務があったり取り締まりしているわけで、同じように取り締まるしかない。
自動運転が規格を満たしていないなんてのは機械で判定できる分取締も簡単にできるはず。まあ一から制度設計する必要があるわけだから、時間かけて最適化していくしかないね。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
そんなのより釘撒けよ
ダズル迷彩 (スコア:0)
こういうの [google.co.jp]案外有効だったり？
Re: (スコア:0)
草間彌生がデザインした車とかあったら大変なことになりそう。
Re: (スコア:0)
Re:ダズル迷彩 (スコア:2, 興味深い)
なんかこう、想像していたものと違った
https://www.nettam.jp/blog/2010/08/post-48/ [nettam.jp]
Re: (スコア:0)
天下一品の逆で、通行可の標識っぽいマークを後ろに付けておくとそのまま進んできたりして
Re: (スコア:0)
それをQRコードみたいにして車載コンピューターに悪さを・・・
＃ってのをどっかのアニメで見たような
運搬中の信号機を誤認とか (スコア:0)
行きつくところはフレーム問題なんだから、自動運転なんて無理だって。
開発している人は、そうは考えないのだろうか。
それとも、克服できると考えているのだろうか。
人間が運用するよりも低い事故率になればいい (スコア:1)
「絶対に事故らない自動運転車」を作りたいわけじゃなくて「人間よりも事故率の低い自動運転車」であれば十分。
あとはその自動運転車が事故を起こしたときに誰が責任を取るかという問題が残ってるけど
そこはそれ、運転中は常にログを保存してカメラも記録し続けてる限りにおいて保険でカバー、とかいう仕組みを作ればなんとかなるんじゃないの
Re:人間が運用するよりも低い事故率になればいい (スコア:1)
自動運転車の誤認識が原因とログから判断できる死亡事故が起こったとき、
似たような条件下で、その自動運転車の誤認識率が人間の判断による場合の誤認識率より十分に低ければ
「損害の賠償は保険で賄われますが、自動車メーカーの過失として責任を問うことはできません」
となるんだろうけど、そう言われて納得できる人が多数派とは思えないなあ……
自動運転車によって事故を減らすという目的からすれば合理的な仕組みだとは思うけど、
感情面で(特に非技術系からの)理解を得るのは難しそう。
Re:運搬中の信号機を誤認とか (スコア:1)
行きつくところはフレーム問題なんだから
もしかして、、、フレームの元
Re: (スコア:0)
その理屈なら人類も運転は無理ってことになるが…
Re:運搬中の信号機を誤認とか (スコア:3, 参考になる)
「フレーム問題」というのは、
人間が簡単そうにやってる状況認識は
その裏でこの世界についての膨大な知識がある上に成り立っているので
人工知能にやらせようとしたらすごく難しい、って話
だから、フレーム問題って文脈で「人間も無理」と返すのは的外れ。
ただ、最近のAI研究は、「ものすごく大量のデータをぶちこんだら、結構それっぽい結果を出せる」って路線だし、
もはや「フレーム問題だから自動化出来ない」というものでも無くなってる気がします。
どんどんデータをぶち込めば「運搬中の何か」判定もできるようになると思うし
問題は、致命的な結果は出さないように、という視点で、どこまで精度を出せるかで、
その学習には、失敗例である、大量の「事故のデータ」が要ると思うけど、
用意するのが難しいでしょうね
テスラなら、実車でそういうデータを集められそうだけど
Re:運搬中の信号機を誤認とか (スコア:1)
A「これって道路の模様かな本当の人間かな」
B「あ、それは見たことあるぞ、踏んでも大丈夫なやつだ」
A「ありがとう！！」ドーン!!
Re:運搬中の信号機を誤認とか (スコア:1)
Cruiseの自動運転タクシー、近くで見るとものすごい数のセンサーを搭載してるんですよね。
自動運転本気でやってるところは簡単だと考えてないし、人間より頑張ってる感じがする。
Re:運搬中の信号機を誤認とか (スコア:1)
> 問題は、致命的な結果は出さないように、という視点で、どこまで精度を出せるかで、
こここそ、人類でも致命的な結果は出ることが稀によくあるので、「平均的な人間よりも10倍マシ」くらいならいいんじゃないですかね。
Re:運搬中の信号機を誤認とか (スコア:1)
人間には簡単なことでもAIには難しい、というのがフレーム問題なんだから
> 人間はフレーム問題をなんとかしてるんだからAIだってなんとでもなるだろ
フレーム問題を「人間は出来るんだからAIにも出来るだろう」と、その難易度を無視してるのがが的外れなの。
その上で、
フレーム問題はAIにとって難題であることはふまえても、
今のAIのトレンドは大量のデータにもとづいてフレーム問題を解決する方向で、
うまくやれば「確かにフレーム問題だけど頑張れば自動運転は実現できるだろう」
ってのが元コメの私の主張なんですけどね。
Re:運搬中の信号機を誤認とか (スコア:1)
>元々のコメントは「フレーム問題は解決不能だからAIには運転は無理」と言ってる
言ってない。元コメの主張は「フレーム問題はAIには解決不能だからAIには運転は無理」でしょ。人間にも解決できないとは言ってない
(ここで、人間にはフレーム問題は解決できているのか、という別の命題があるけど)
このスレッドのタイトルは「運搬中の信号機を誤認とか」なんだから、
元ACはフレーム問題を「人間には解けるけど、AIには解けない」と考えてるのは明白
で、私のスタンスは「原理はよく分からんけど、人間には解けてる」「最近のAIは解けてるように見えるそれっぽい答えをある程度出せる」
AIにフレーム問題の解決は無理だろうけど、自動運転はある程度の精度で可能だろうって考え
Re:運搬中の信号機を誤認とか (スコア:1)
なるほど、どうすれ違ってるかは理解しました。
#4578046はフレーム問題は人間には解けるけどAIには解けない、という主張なんだから、
#457805で、いきなり「その理屈なら」って出だしなのに
「AIと人間の知能に本質的な違いなんかない」「それ(フレーム問題がAIには解決不能な問題)なら人間にも不可能だ」と読み取るのは無理。
どの理屈やねん、と愚痴っときます。
Re: (スコア:0)
最初から事故を起こすつもりで特別な仕掛けをしているクルマ相手ならまだしも、
普通の快適装備としていくらでも転がっているフィルムに『勝手に』騙されてしまう状態だもんな。
こわいこわい。
Re:運搬中の信号機を誤認とか (スコア:1)
窓だけじゃなく大部分をフィルムで包んだ自動車なんて
> 最初から事故を起こすつもりで特別な仕掛けをしているクルマ
以外にないでしょう。
Re: (スコア:0)
プリウスミサイルよりマシならいいじゃない。
そんなレベルじゃ受け入れられないのなら自分で運転すればいいし、突っ込んでくるプリウスミサイルも減るんだぞ？
Re: (スコア:0)
また出たよ。聞きかじった知識で知ったかぶりする素人が。
そもそも「道路を運転する」というフレームを前もって決めて、その枠内で
動くロボットカーを創る話をしてるんだから、一般的なフレーム問題とは
話が違うでしょ。
それと人間が簡単にやってる（ように見える）ことは、膨大な学習の結果
実現可能になった物なので、それが（現時点の）AIに極めて難しいとしても
別に驚くほどのことじゃない。
そもそも (スコア:0)
自動運転車を欺いてどうすんだと思うけど（わざと事故るのか？）、本質的にはLiDARやらの技術を何とかしろという話か
Re:そもそも (スコア:1)
セキュリティ界隈のいわゆる「分厚い壁の向こうで入力しているパスワードをオフラインで盗み取る技術」と同じ感じだわね。
実際の攻撃者に先に開発されてゼロデイ攻撃される前に警鐘をならし、公開しちゃうことで対策を促すみたいな。
これの場合悪用は「交通テロ」くらいしかできないけど、事故発生時や見落としに対する原因究明の助けにはなりそう。
Re: (スコア:0)
「警鐘」を鳴らすならまだしも推奨ととられる「提案」として掲載しちゃあかんよね
Re: (スコア:0)
法で禁止する
オービスの赤外線カメラに写らない様にするナンバープレートのカバーが禁止されてるし
Re: (スコア:0)
自動運転パトカーから逃げ放題の強盗団ができるじゃないか。
同様に警備ロボに見つからずに盗み出す怪盗ロボとか。
あとはやっぱし軍用やテロ目的かなあ。
運転手付き車両を限定的として、全て自動運転車両以外原則禁止とする以外に無い…。 (スコア:0)
「絶対に事故らない自動運転車」とか「人間よりも事故率の低い自動運転車」とかいうよりも
「車道を車両優先とする」ことも前提にしないと、無理。
#計算機科学者とは、壊れていないものを修理する人々のことである
Re: (スコア:0)
歩道が広いではないか…行け
自動走行レーンと識別マーカー義務化 (スコア:0)
今後100年くらいはこの辺が落とし所かもしれないね
地方の高速道路は完全自動化できるわ
Re: (スコア:0)
道路作る、維持するコストが増加するな。レーンや識別マーカーが消えたり壊れたりしていたことで事故が起こったら道路管理者にいくばくかの責任がくるわけだから。
Re: (スコア:0)
今でも横断歩道とか消えてるとこあるからなあ。
幹線道路だけ自動運転車。街中は人力車になったりして。
Re: (スコア:0)
踏切も作らないと（アレ？
鏡張りの F117 (スコア:0)
それまでステルス飛行機は滑らかな曲面で構成されると信じられていたけど、一部に強く反射すれば（レーダーの）発信元には戻らないということから特定の方向へは強く反射して元へは戻らないようにするポリゴンで構成された飛行機が出ました。
同じようにテスラトラックみたいな感じにゲームのポリゴン風で鏡で構成されたらおそらく LiDAR には写らなくなるんじゃないでしょうか。ってか、人間の目でも鏡の後ろに立たれると見えないですけどね。
Re:鏡張りの F117 (スコア:2)
F-117をサンドブラストして銀色のラメとクリアコートで塗ったら銀色のラメで塗ったF-117に見えると思いますけど…
Re:鏡張りの F117 (スコア:2)
鏡はガラス板の裏面に加工するので、クリアコートは掛かってますね…あとはどのくらいの粒度からラメと呼ぶか、かな…
Re:鏡張りの F117 (スコア:2)
…? 海外の方です?
Re:鏡張りの F117 (スコア:1)
前向きのカメラで撮影した光景を、車体後方全面ディスプレイに映し出すと、後続車の(雑な)カメラからは車がいないように見える。
全方向に有効な光学迷彩はかなり無理があるけど、真後ろからだけに有効な奴なら割と簡単かも。
てゆーか、鏡面仕上げなタンクを背負ったタンクローリーは法的に規制できないものか。
あれ、自動運転車のカメラにとっては天敵じゃ無いか？
Re:鏡張りの F117 (スコア:1)
横方向片面だけですけど、メルセデスベンツが作った光学迷彩車 [gigazine.net]
結構それっぽい。すぐ近くに有る物は大きさがおかしくなるけど、
今の技術なら、そのあたりも結構補正できそう
Re: (スコア:0)
車体の向こうが見える「透明トラック」 サムスンが開発中
https://www.cnn.co.jp/business/35066343.html [cnn.co.jp]
https://www.youtube.com/watch?v=6GNGfse9ZK8 [youtube.com]
途上国でバスの後ろに人がしがみ付いて乗ってるのを、歩行者と認識して止まってしまうってのもXで見たな。