車両単体にとどまらない、自動運転に潜むセキュリティリスクとは - ＠IT MONOist

sharyo.prelol.com

　2021年は自動運転元年――。そんな声があちこちから聞こえてくるほど、自動運転車に関する話題が盛り上がっている。

　既に国内の複数の地域で自動運転バスやタクシーの実証実験が展開されているのに加え、ホンダは2021年春に部分的自動運転に対応するレベル3に対応した市販車を販売すると発表した。目を海外に向ければ、テスラがレベル5に相当する完全自動運転技術（FSD）の開発を積極的に進めている他、アップルやグーグルといったIT大手からスタートアップに至るまで、多くの企業がこの変革期の波に乗ろうとしている。

自動運転元年？　道路インフラの整備も含めれば10年スパンの取り組みに

　ただし、日本の道路事情も考慮しながら冷静に見てみると、多くの人がイメージする「自動運転」の実現にはまだ時間がかかりそうだ。このように予測するのは、加賀FEI（2020年12月29日に富士通エレクトロニクスから社名変更）グローバルビジネス推進本部第三事業部長の吉田稔氏だ。

加賀FEI グローバルビジネス推進本部第三事業部長の吉田稔氏

　「特定サービスのトライアルが動き始め、やっと技術としてレベル3が実現できるようになった段階です。より自動運転の範囲が広いレベル4を目指すとなればさらに法規制も厳しくなる上、V2X（Vehicle to Everything）通信や道路インフラ側の整備も必要となるため、レベル5まで今後10年スパンで動いていくのではないでしょうか」（吉田氏）

　カーナビゲーションなどのインフォテインメント系システムから始まり、コネクテッドカーから自動運転の実現に向けた流れは、ADAS（先進運転支援システム）やLiDAR（Light Detection and Ranging）といった技術革新もあって日々進展し、自動運転を構成する要素技術自体は完成に近づきつつある。だが、それらを組み上げた自動運転が、「特区での実証実験」から飛び出して一般に広がるには、まだ時間を要するだろうというわけだ。

　加賀FEIとパートナーシップを結び、自動車のセキュリティに関するペネトレーションテストやコンサルティングサービスを提供しているエフセキュアサイバーセキュリティ技術本部本部長の島田秋雄氏も「日本の道路事情はあまりに複雑すぎて例外処理が多いため、レベル4の実現はまだ難しいと思います」と同意見だ。そしてさらに、セキュリティ専門家の立場から「実証実験などが終わり、自動運転が商用化されたときに何が起こるかに非常に注目しています」（島田氏）という。

自動運転を支えるAI技術に対する攻撃のリスク

　島田氏らが何に注目しているかというと、自動運転を支える機械学習に基づくAI（人工知能）技術が悪用される可能性だ。

エフセキュアサイバーセキュリティ技術本部本部長の島田秋雄氏

　自動車もまたサイバー攻撃者に狙われる可能性があることは、ジープ「チェロキー」の脆弱性を指摘したセキュリティ研究者の発表を皮切りに、この数年たびたび指摘されてきた。ただその多くはソフトェアの脆弱性や認証の不備、アクセス制御の不備といった、ITの世界で繰り返されてきた問題だった。

　これに対し島田氏が懸念するのは、今まさに技術革新のただ中にあるAI技術だ。

　「自動運転では機械学習や深層学習に基づくAI技術を徹底的に活用しています。ITセキュリティ製品でも一足先にクラウド上で機械学習や深層学習を駆使し、PCを侵害するマルウェアを発見する仕組みを搭載していますが、既にこれに対して不正なデータを送り込み、誤検知、過検知を起こさせるように学習させる攻撃手法が存在しています」と島田氏は述べた。そして、こうした攻撃手法がそのまま自動運転に適用されれば、自動車が誤作動するような攻撃が登場する可能性が十分想定されると警鐘を鳴らした。

　自動運転では、高感度なカメラやセンサーから周囲の情報を収集し、高性能なGPUやFPGAを用いて画像処理を行って認識したデータに基づいて進むべき方向や速度を決めている。もし、そのデータ自体に誤りが含まれてしまうと影響は計り知れない。

　だが既に、ある画像のそばにシールを貼るだけで、画像処理用のディープラーニングが誤認識を引き起こし、人間が見れば同じ画像でも、全く別のものとして認識させることが可能だという研究結果が発表されている。これを悪用すれば、「この先危険、停止」といった標識にステッカーを貼り、自動運転の車両を直進させて事故を引き起こすといったサイバー攻撃の可能性もゼロとはいえない。

　エフセキュアでは、本社でリサーチに当たるセキュリティ専門家の知見とAIの専門家の知見を組み合わせ、XAI（説明可能なAI）の研究成果も視野に入れながら「こうしたリスクに対して何ができるか」を検討している。加賀FEIとの意見交換を通して日本市場の動向も踏まえながら、今のうちから対策を考えていくという。

　島田氏はいずれにせよ、「これまでの自動車に対するアタックサーフェス（攻撃経路）はUSBメモリやWi-Fi、Bluetoothなどでしたが、自動運転が現実化してくると画像認識ユニットもアタックサーフェスの1つになるのではないかと認識しています」とし、増える攻撃経路に応じた対策を検討していかなければならないとした。

物理的なアクセスが攻撃経路を広げる？　道路インフラに潜むリスク

　エフセキュアは同時に、ITS（Intelligent Transport Systems：高度道路交通システム）のセキュリティにも着目しているという。これは、エフセキュアが欧州市場で行ってきた航空管制システムや船舶管理システムのペネトレーションテストの経験、知見も踏まえての指摘だ。エフセキュアサイバーセキュリティ技術本部シニアセールスエンジニアの目黒潮氏は「今後ITSと自動運転の車両がつながっていくにつれ、その連携の部分、インフラの部分が攻撃を受けてしまった場合の影響も大きくなるのではないかと懸念しています」と説明する。

エフセキュアサイバーセキュリティ技術本部シニアセールスエンジニアの目黒潮氏

　しかも、自動車単体に対する攻撃はあくまで1対1のものであり、攻撃に成功したとしても乗っ取り可能なのは特定車両のみ、少し広げても同車種など限定的だ。だがもしインフラ側、ITS側からの攻撃が可能になれば、車種やメーカーに関係なく、誤情報を与えて暴走させるといった攻撃を行うことも理論上は可能になる。「攻撃者からすると、リモートからインターネット経由で自動車を攻撃するには幾つかハードルがあり難易度が高いのですが、ITSを構成するインフラであるRSU（Roadside Unit）は道路に沿って配置され、物理的にアクセスしやすいため、アタックサーフェスが広がります」（目黒氏）という。

自動運転車は自動車単体だけでなく、他車両やRSUなどのITSインフラと連携することによって実現される。物理的にアクセスしやすいRSUによりアタックサーフェスが広がる（クリックで拡大）

　そこで同社は、この分野にフォーカスし英Zenzic社と共同で執筆したホワイトペーパーを発行した。このホワイトペーパーでは、攻撃者がセンサーやロードサイドユニットに物理的にアクセスし、それらに手を加えて誤情報や不正な制御情報を車に送信できるとしたらどんなリスクが生じうるかについて説明している。

　もちろんこれらは全て仮定の話にすぎない。そもそもレベル4どころか、レベル3の自動運転もようやく実用化が視野に入った段階であり、決して無用に危険性を煽りたいわけではないと目黒氏は言う。だがだからこそ、今のうちにリスクをきちんと認識し、対策を考えておくことが重要だとした。

　では具体的な対策としては何が考えられるのだろうか。ITSで用いられるロードサイドユニット単体については、物理的な改ざんや加工などを防ぐ強力な耐タンパリングシステムなどが考えられるが、それ以上に必要なのは業界全体での取り組みだ。「もしITSインフラが攻撃を受けてしまったらどうすべきか、そのセキュリティを担保するには何が必要かという観点で、自動車のメーカーや部品メーカーはもちろん、道路の建設、管理に当たる企業やセキュリティ企業が連携して大規模なコンソーシアムを作り、実際の道路や車両と同じものを使って入念にチェックが行えるテストベッドを準備する必要があると考えています」（目黒氏）。

　つまり、業界全体にまたがるエコシステムを構築し、対策に取り組む必要があるという。そして目黒氏は「エフセキュアも、国内の車載ソフトウェア標準化団体であるJASPARの会員として何らかの形で貢献できれば」と述べる。

車両単体だけでなく自動運転システム全体を見据えた対策を検討

　まだしばらく時間がかかるものの、決して夢物語のような遠い話ではない自動運転。実現に向けては、技術的な要素はもちろん、法律的な側面からもセキュリティやプライバシーについて検討していく必要があるだろう。島田氏は「自動運転のシステムでは、個々の車両からさまざまなデータやフィードバックを収集して活用していくはずです。その情報収集をどのように行うか、個人情報の取り扱いや海外の法制度、国際標準なども視野に入れながら、適正な方法を見いだしていく必要があるでしょう」と強調する。

　またエフセキュアは、飛行機内のエンターテインメントシステムにはじまり、航空管制システムやグラウンドシステム、船舶航行システムのペネトレーションテストで培ってきたノウハウを有している。「自動運転の時代になればなるほど関連するシステムも膨大になります。ユニット単体、車両単体だけでなく、クラウドやITSも含めた自動運転システム全体という具合にセキュリティを見ていかなければいけなりません。エフセキュアの航空や船舶の分野でのノウハウを含めて、トータルなセキュリティコンサルティングメニューを加賀FEIとともに提供していきたいと考えています」（島田氏）という。

　吉田氏によれば、「基本的に自動運転とインフラはワンセット」であり、自動運転やV2Xを視野に入れたセキュリティについても、エフセキュアの知見も生かしながら、今のうちから準備を整えていくとしている。