# 自動運転車のセキュリティ ## 定義 自動運転車のセキュリティとは、自動操縦・運転支援システムの物理的な安全性(safety)と、車載ネットワークや車両群管理システムへの悪意ある攻撃への耐性(security)という、伝統的には別々に扱われてきた2つの問題が融合する領域を指す。SAE(Society of Automotive Engineers)は自動化を5段階で定義する——(1) Driver assistance: ソフトウェアが操舵か速度のどちらかを制御し残りは人間が担う、(2) Partial automation: 一部モードで両方を制御するがソフトウェアが混乱した場合の環境監視と即時の制御権掌握は人間の責任、(3) Conditional automation: 環境監視もソフトウェアが行うが人間が引き継げることを前提とする、(4) High automation: 一部の運転条件でソフトウェアが環境監視と運転の両方を行い人間の介入を前提とせず、混乱すれば路肩に停止する、(5) Full automation: 人間ができることを全てソフトウェアが行う。2020年時点で市販車が持つのはレベル1・2の先進運転支援システム(ADAS)のみであり、保険業界は「autonomous」「autopilot」という語が消費者にレベル4相当の能力があると誤認させ事故を招くとして問題視している。(Source: [[@2020__Wiley__Security Engineering 3e - Chapter 25 New Directions?]] ch.25 §25.2.3) 自動運転が困難である本質的な理由は、他の道路利用者の予測不能性にある。追従車両の急ブレーキのような単純な危険には自動化で対応できるが、自動緊急ブレーキ(AEB)は他ドライバーの意図を推論できないために誤作動する——たとえば対向車が方向指示器を出して減速し始めても、人間ドライバーは「道を外れるだろう」と推測して速度を維持できるが、AEBはこれを理解できず不要な急制動を招く。この問題は自動運転車が「空っぽの砂漠の道」は走破できても実際の交通(人間ドライバー・自転車・歩行者の合図・交渉)には苦戦するという限界として表れる。安全ドライバーが緊急時に引き継ぐという設計も、人間が警報を認識し状況把握を回復するまでに(商用航空のオートパイロット障害後でも)約8秒を要するという知見から機能しないとされる。(Source: 同上 ch.25 §25.2.2, §25.2.3) 車載ネットワークのセキュリティは、CANバスが全ノードを信頼する設計であることに起因する脆弱性を中心に展開する。あるノードが乗っ取られ再プログラムされて連続送信し続ける「blethering idiot」状態になるとバス全体が使用不能になり、パワートレインバスであれば操舵・ブレーキのパワーアシストを失い深刻な事故リスクを生む。数百万台規模の車を同時に遠隔攻撃し大量の交通事故を引き起こすという最悪シナリオは受け入れられないため脆弱性は修正が必須とされるが、平均的な車は20社以上のベンダー由来の50〜100個の電子制御ユニットを持ち、統合テストのコストが修正を高価にしている。(Source: 同上 ch.25 §25.2.4) ## 横断的知見 - 現時点では本章(Security Engineering 3e 第25章)が唯一のソースであり、横断的な突き合わせはまだ行えていない。自動運転車の機能安全(ISO 26262等)を扱う他ソースが ingest され次第、本ページの CAN バス・AEB・SAE自動化レベルの議論と、機能安全の FMEA/FTA・多点故障といった方法論的知見を突き合わせる。 ## 未解決の問い - 本章が指摘する CAN バスの「全ノードを信頼する設計」という脆弱性は、[[機能安全]] が集約する ISO 26262 などの業界規格でどこまで是正されているか。本ページのソース(ch.25)は規格名を挙げず、この接続は未検証。 - 「リスクサーモスタット」(リスク低減の知覚が危険行動を誘発する)という調整機構は、運転支援システムの普及が進んだ現在(2020年以降)、実際にどの程度の事故率変化として観測されているか。本章は2020年時点の記述にとどまる。 - 賠償責任(liability)の所在をめぐる駆け引き——自動車メーカーがオートパイロット作動時の事故を過小計上する疑いがあるという指摘——は、[[セキュリティにおけるインセンティブ不整合]] が扱う「守る者と失敗のコストを負う者の不一致」の枠組みでどこまで説明できるか。本ページと当該概念ページの双方向の接続は未整理。 - AEB(自動緊急ブレーキ)がAIの誤分類ではなく意図推論の欠如によって機能しない、という本章の説明は、[[敵対的摂動]] が扱う「モデルの盲点」の議論とは異なる種類の限界(訓練データの表現力ではなく将来予測・意図推定の欠如)であるように見える。両者の関係は未検証。 ## 関連 - 概念: [[機能安全]] / [[敵対的摂動]] / [[セキュリティにおけるインセンティブ不整合]] - source: [[@2020__Wiley__Security Engineering 3e - Chapter 25 New Directions?]](§25.2.1-§25.2.4) - 実体: [[Ross Anderson]] / [[Tesla]] ## 出典 - Ross Anderson, *Security Engineering: A Guide to Building Dependable Distributed Systems*, 3rd Edition, John Wiley & Sons, 2020, Chapter 25 (§25.2.1-§25.2.4).