Uber自動運転車の死亡事故の報告書

自動運転システムトラブル

報告書はこれかな? https://dms.ntsb.gov/pubdms/search/hitlist.cfm?docketID=62978 
特にコレ “Vehicle Automation Report” https://dms.ntsb.gov/public/62500-62999/62978/629713.pdf

概ね前から予想されたとおり.

女性の存在を自律走行車が最初に認識したのは、衝突の5.6秒前である。だが、そのとき車両は彼女のことを「自動車」であると誤って認識していた。続いて認識は「その他」に変わったが、再び「自動車」に戻り、「その他」「自転車」「その他」を経て、最終的に「自転車」に落ち着いた。


ショボいのはここ.

車両は検知した“謎の物体”が何であるのかを推測しようとするたびに、その物体(すなわち横断していた女性)の向かう先を予測する処理を最初からやり直していた。そしてシステムは衝突の1.2秒前になってようやく、車両が女性に衝突すること、ハンドルを切っても回避できないこと、そして急ブレーキをかける必要があることを認識したのである。

その結果、Uberが「動作の抑制(action suppression)」と呼ぶ機能が動作した。システムは「発見した危険の性質」を検証するために1秒間、ブレーキをかけずに待機する結果となったのである。*1

  • まず最初に対象物の種類を特定する.歩行者か自動車か自転車か,或いは「未知の物体」か
    • 歩行者と予想できるのは,地図データにある横断歩道周辺のみ.それ以外の場所だと歩行者は歩行者ではなく自動車や自転車,或いは「未知の物体」になる.
  • 次にその動作を推測する.例えば次のような感じで,(もちろん詳細は実装依存.)
    • 自動車だとレーンにそって車線にそって最高で時速百キロ以上で移動する(と仮定する).
    • 自転車だと,おそらくレーンにそって最高時速40km程度で移動する.
    • 歩行者だと時速10km程度までで,横断歩道に沿って移動する.

横断歩道以外を渡る歩行者は歩行者として認識できず,自転車や自動車と誤認する危険も増えるし,その行動も予測しにくくなる.

対称がなんであるか分類できない場合は,未知の物体になる.その後,状況に応じて認識をあらためることがあるが,その都度,認識を変更するごとに位置や衝突可能性について何度でもリセットして最初から計算をやり直す.*2 相手が特定できるくらいまで近づいた時には,もはや手遅れ.

プログラマ的には理解できると言えば理解できる話なんだが,この完成度で公道テストしちゃいかんだろってレベル.

しかし、そのとき彼は道路に視線を向けていなかった。車両が衝突0.2秒前に警告音を出して初めて、彼はステアリングを握り、自動運転システムを解除したのである。女性に衝突してから1秒近くたって、ようやくオペレーターはブレーキを踏み込んだ。

しかもドライバーがワンオペ.*3

長時間集中して運転に専念しないといけないのに,一人だと厳しい.二人乗車で,1時間おきにドライバーとオペレータを交代するくらいでないと,集中が続かないだろ.*4

https://b.hatena.ne.jp/entry/s/news.yahoo.co.jp/byline/kazuhirotaira/20191108-00149956/

  • id:nowa_s 道路に落石や倒木といった障害物があったり、事故で前の車から転落した人とかがいたりしても、フルスピードで衝突してたってこと?/オブジェクトの認識がブレなければ、さすがにそれは減速・停止するのかな。
  • id:fai_fx 全身緑のレインポンチョの幼稚園児の飛び出しを避けられるくらいじゃないと厳しい気がしていて、それはもう人間かどうかの認識以前に、あらゆる動体との衝突を避けるくらいの覚悟が必要なのでは・・と思ったり。
  • id:eru01 テスト中に動画見てるのは論外としても、そもそも人だろうがチャリだろうがOtherだろうが、路上になんかある認識自体はできてんのに回避しないってロジックに問題があるやろこれ。 Uber(笑)

そういうことですね.

この事故を「人間がルールを守らないのが悪い」なんて誤解してる人もいるけど,それは違う.

地図データが古かったり間違ってたり,工事中で交通規制されてたり,事故車両や濃霧で徐行運転しているだけでも,フルスピードで突っ込んで事故を起こすということだから.危険極まりない.

  • id:jaguarsan 車載カメラの映像見て自分には判別出来なかったとか言ってる人ピュア過ぎだろ。まずはカメラの性能疑えよ。普通のカメラで夜間撮影するのどれくらい大変だか知ってんのか?

激しく同意.

昔は市販のビデオカメラで夜間撮影なんて考えなかったくらいだものなあ.撮影したければナイター設備みたいなド派手な光源が必要だった.

最近の高感度カメラに馴れてしまうと,全てのカメラがそうであると誤解するんだろうか.

  • id:yogasa 自動運転車,実用化してもやることないけど飛び出しとかにはピリピリしてないといけないのめっちゃ疲れそうだな / それはそうとヒトと認識してなくても突っ込んでいくのはアカンと思うのだが

同感である.

  • id:geopolitics 人工知能にある典型的な問題(フレーム問題)かな。自動運転だと人は寝るというのが飛行機であった。たぶん完全自動で人が安全装置で入るシステムは駄目だと思う。

まず第一に,自動運転と人工知能はなんの関係ないわな.

仮に人工知能だとしても,自動運転専用AIに自動運転というフレーム内で動作させてるだけなんだから,問題はなにもない.

上記の報告書でもAIなんて記述はなさそう.

よく見たらYahooの記事だけ,なぜかタイトルにAIが入ってるのか.

悪のAI論 あなたはここまで支配されている (朝日新書)

悪のAI論 あなたはここまで支配されている (朝日新書)

要するに,こういう芸風の人ってことね.素人が流した単なるデマやフェイクニュースの類.

信じてはいけない 民主主義を壊すフェイクニュースの正体 (朝日新書)

信じてはいけない 民主主義を壊すフェイクニュースの正体 (朝日新書)

一方でこういう本も出しているのは, いったい何の冗談だろう.

  • id:cordante1980 440ページにのぼる報告書。→ そこは、404ページに収めて欲しかった。 さーせんm(_ _)m

たしかに Not Found の問題だった.

https://b.hatena.ne.jp/entry/s/wired.jp/2019/11/07/ubers-self-driving-car-didnt-know-pedestrians-could-jaywalk/

  • id:redra22 Uberに問題がある事は確かなんだけど、当該の動画を見るに人間が回避出来る気がしない。https://www.afpbb.com/articles/-/3168375 /指摘ありがとう。自分は人間が運転するよりマシな未来を期待している。
  • id:birisuken8574 動画を見ずにコメントしてる奴が多すぎだな。はてブ民の質はいつからこんなに劣化してしまったのか。
  • id:mayumayu_nimolove ドラレコ見たけどありゃ無理だわ。にしても海外って横断歩道渡る方が珍しい国だってあるぞ。どうすんの。しかし結構スピード出してるのな。
  • id:mamiske ドラレコの映像見て、自分なら回避できるかというと自信がない。こういうのはむしろ人の目より機械の方が得意だと思うので、なんとか検知できるように頑張ってほしい。


それは単にドライブレコーダーのカメラの性能が悪いだけでしょってことで結論が出ていたと思うが.

なにより本当にあそこまで近づかないと見えないような貧弱なライトしか装備してなかったんだとしたら,それ自体がUber車の致命的な欠陥だ.もっと強力なライトをつけろってだけのこと.*5

  • id:koinobori グーグル自動運転開発者が、実地実験でアヒルの親子が道路にいる状況に遭遇し、検知リストに加えたという笑い話があったけど、歩行者を想定していなかったのは笑えない。
  • id:a446 たまにUber eatsで配達してるけどサポート軽視な上にアプリに問題多いし予想通りといえば予想通り

*1: 「また、Uberのエンジニアは誤作動によるアラートの発生を恐れたのか、衝突の危険性を検知してから車両が反応するまでに1秒のタイムラグを設定していた。」 

*2:「事前に言われていた通りのことだけはできるけど,それ以外の良く分からない事態にでくわすと自分では判断できずに,パニック状態になってひたすら右往左往する」ような話.
「横断歩道があれば,そこで検知した障害物は歩行者の可能性が高い」と仮定するのはあながち間違いではないが,その情報がない時には判断できない/判断に致命的な遅れが生じるというのでは実用的な自動運転車とは言えない.

*3:さらに出所してきたばかりの前科者との噂も.

*4:人間が自分で運転してるなら,疲れてきたので速度を落とすとか,よくわからないものには早めにブレーキかけるとかできるけど,自動運転のテストだと車が実際に衝突する寸前までブレーキを踏まずに我慢しなければならないから精神的にはかえって辛いと思う.自動車教習所の教官の苦労が忍ばれる.

*5:せめて速度を落とせ.前が見えないまま暴走する奴があるか.

カテゴリー:

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト /  変更 )

Google フォト

Google アカウントを使ってコメントしています。 ログアウト /  変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト /  変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト /  変更 )

%s と連携中