スマートカー反対論：なぜ我々はそれらなしの方が良いのか

「スマートカー反対論：それらがない方が良い理由」は、公開された証拠がそれをインターネットインフラ、ガバナンス、運用依存性、または市場の可視性に結びつけているため、BTW Media によってプロファイルされています。

• 業界と政府における技術の理解不足は深刻であり、AI 搭載車に関する知識は広く普及させる必要がある。
• AI の故障モードは予測が難しく、このような機械が決してミスをしないと保証できる者はいない。
• ハッカーには衝突を引き起こす多くの方法がある：マルウェア攻撃、中間者攻撃、サービス拒否攻撃、ランサムウェア攻撃。
• 自動車における人工知能の規制はまだ始まっておらず、AI 搭載車にはまだ長い道のりがある。

AI 技術は現在、センサー、カメラ、レーダーなどとともに自動運転車に広く使用されており、人間の介入なしに目的地間を運転します。自動運転車を開発・テストしている企業には、Audi、BMW、Ford、Google、General Motors、Tesla、Volkswagen、Volvo が含まれます。素晴らしい！ドライバーは手を放してただ流れに任せることができます。しかし、本当にそうでしょうか？

AI がリスクにも利益にもなり得るという考えは長い間議論されてきました。これは特に車や車両において当てはまると私は考えます。

ある程度まで、AI は運転の方程式から人的エラーを取り除くことで大きな利点を提供します。しかし、何かがうまくいかなかった場合はどうなるのでしょうか？

ここに、私が AI に見合う価値がないと思う 4 つの理由があります：

• 誤った安心感がドライバーの注意をそらす。
• AI の誤判断
• ハッカー攻撃
• 事故認識に関する規制の欠如

シートベルトを締めてください。AI なしの車が出発します！

懸念 1：誤った安心感

Mary (Missy) L. Cummings、IEEE シニアフェローでありデューク大学デューク脳科学研究所（DIBS）の教授は、2016 年に米国上院商業科学運輸委員会に対し、自動車における人工知能の使用を規制するよう求めました。しかし、Mary (Missy) L. Cummings の嘆願も、Brown の死も、政府を動かすことはできませんでした。業界と政府における技術の理解不足は深刻です。

ここで考慮すべき問題は、自動運転車が普及すれば、運転操作における人的ミスがコーディングにおける人的ミスに置き換わるということです。これは道路の殺人者からの脱出でしょうか？

自動運転車の支持者は、ドライバーを排除すればするほど道路上で安全になるとよく主張します。米国道路交通安全局（NHTSA）の統計を引用し、事故の 94％が人間のドライバーによって引き起こされると主張します。しかし、この統計は文脈を無視しており不正確です。さらに、自動運転車が人間の運転する車よりも安全になるという主張は、ソフトウェア開発に携わったことのある人なら誰でもよく知っている事実を見落としています。ソフトウェアコードは非常にエラーが発生しやすく、システムが複雑になるにつれて問題は悪化するばかりです。

2021 年 10 月にはPonyの自動運転車が標識に衝突する事故があり、2022 年 4 月にはTuSimpleのトレーラーがコンクリートバリアに衝突する事故、2022 年 6 月にはCruise のロボタクシーが左折中に突然停止する事故、2023 年 3 月には別の Cruise 車がバスに追突する事故がありました。

こちらもお読みください: Volkswagen のドライバーが ChatGPT の会話に参加しようとしている

懸念 2：AI システムが作動すべきでないときに作動する

考慮すべきシナリオは、AI システムが作動すべきでないときに作動する（前方の障害物の「影」を検出して急停止する）、あるいは応答すべきときに応答しない場合です。あなたはどのような状況に置かれるでしょうか？

AI の故障モードを予測するのは確かに難しく、そのような機械が決してミスをしないと保証できる人は誰もいません。

LLM は、トレーニング中に収集された既存のデータファイルを参照して、次に来る単語やフレーズを推測します。自動運転モジュールは、ラベル付けされた画像のデータベース（これは車、これは歩行者、これは木）に基づいてシーンを解釈し、障害物の周りをどう進むかを決定するために同様の推測を行います。これらのラベル付けされた画像もトレーニング中に提供されました。しかし、すべての可能性をモデル化することはできないため、多数の故障モードを予測するのは非常に困難です。

以前は予想されていなかった故障モードの 1 つがファントムブレーキでした。明白な理由もなく、自動運転車が突然ブレーキをかけ、後続車やその後の車に追突を引き起こす可能性があります。2022 年 5 月、NHTSA は Tesla に書簡を送り、Model 3 および Y 車両におけるファントムブレーキに関する 758 件の苦情を受け取ったと指摘しました。5 月には、ドイツの新聞 Handelsblatt が Tesla 車のブレーキ問題に関する 1,500 件の苦情と、突然の加速に関する 2,400 件の苦情を報じました。現在では、自動運転車の追突率は人間の運転する車の約 2 倍であるようです。AI ベースの IBM の Watson は、現在の LLM の前身であり、推測は得意でしたが、特に不確実性の下での判断や不完全な情報に基づく行動の決定に関しては、本当の知識を持っていませんでした。現在の LLM も例外ではありません。基盤となるモデルは情報不足に対処できず、その推定がこの文脈で十分かどうかを評価する能力もありません。

これらの問題は自動運転の分野ではよく見られます。2022 年 6 月の事故は、Cruise のロボタクシーが 2 台の車の間で大きな左折をしようと決めたときに発生しました。自動車安全専門家 Michael Woon による事故報告書に詳述されているように、車は実行可能な軌道を正しく取っていましたが、曲がっている途中で急ブレーキをかけ、交差点の真ん中で停止しました。右車線を接近してくる車が曲がるだろうと推測しましたが、その車が走行していた速度では物理的に曲がることは不可能でした。この不確実性が Cruise を混乱させ、最悪の決定を下す原因となりました。接近していた Prius は曲がらず、Cruise に正面衝突し、両車の乗員が負傷しました。

こちらもお読みください: Apple が 10 年にわたる EV 開発プロジェクトを中止

こちらもお読みください: Huawei が Audi、Mercedes とスマートカー企業への投資を協議

クイックテスト

リチウム電池の最適な動作温度はどれですか？

A. 摂氏 30 度

B. 摂氏 50 度

C. 摂氏 60 度

D. 摂氏 70 度

答えはこの記事の最後にあります。

懸念 3：ハッカー攻撃

AI 駆動のイノベーションの時代において、自動運転車の登場は、向上したモビリティの約束だけでなく、重要な倫理的懸念も提起しています。

Ratan Bajaj 氏、MindWell AI 創設者兼 CEO

2019 年には早くも、新型 Tesla Model 3 がわずか数分でハッキングされました。ハッカーの Amat Cama と Richard Zhu は、「インフォテインメント」システムの弱点を悪用して、車のコンピューター（物理世界）の 1 つにアクセスしました。

成功すると、Amat Cama と Richard Zhu は自分のコード行を実行できました。攻撃のデモをビデオで見ることができます。

以下にいくつかの過去の例を示します、私はでたらめを言っているのではありません。

マルウェア攻撃

2011 年、Chevrolet Malibu が攻撃者に制御される遠隔侵入の最初の車両となりました。ハッカーは「Bluetooth スタックの弱点を悪用して車両のラジオを操作し、電話をラジオと同期させて悪意のあるコードを挿入しました」（自動運転車への攻撃とその対策：調査）。正常に挿入されると、コードは車の ECU にメッセージを送り、ブレーキをロックすることができます。

中間者攻撃（MiTM）

中間者攻撃では、ハッカーは 2 つのエンティティ間の通信を操作し、エンティティ間で送信されるメッセージの盗聴、再生、変更によって ECU や路側機（RSU）を制御することができます。

サービス拒否攻撃（DoS）

DoS は自動運転車に発生し得る最も危険な攻撃の 1 つであり、重大な事故や死を引き起こす可能性があります。攻撃者は DoS 攻撃を使って「カメラや LiDAR、レーダーが物体、道路、安全標識を検知できないようにする」ことができます（自動運転車への攻撃とその対策：調査）。DoS 攻撃はブレーキシステムにも影響を与え、車が突然停止したり全く停止しなくなったりして、ブレーキシステムが正常に機能しなくなる可能性があります。

ランサムウェア攻撃

この種の攻撃は商用車にとって非常に危険です。2017 年、Honda Motor Company は大規模な WannaCry ランサムウェア攻撃を受け、攻撃者は「復号鍵を提供するために多額の暗号通貨を要求しました」（「自動運転車への攻撃とその対策：調査」）。

この攻撃は自動運転車を標的としたものではありませんでしたが、攻撃中にソフトウェアアップデートを取得する多くの Honda の自動運転車に影響を与えました。この攻撃は、ハッカーがランサムウェア攻撃を非常に成功させているため、他の攻撃よりも一般的である可能性が高いです。

自動運転車を脆弱にするものは何か？

自動運転車は、「ドライバーの財務データを盗んだり、車両を武器に変えて高度なテロ攻撃を仕掛けようとする」サイバー犯罪者にとって魅力的な標的です。
AI システムの突然の故障のような意図しない脅威に加えて、AI システムの重要な安全機能を特に侵害するように設計された意図的な攻撃もあります。例えば、ナビゲーションシステムを騙すために道路を塗装したり、停止標識にステッカーを貼って識別されないようにすることです。
LiDAR（Light Detection and Ranging）は、カメラとレーザーパルスシステムであり、自動運転車の「目」を構成し、運転シーンと環境に関する情報を CNN コンピューターモデルに供給して、速度調整やステアリング補正などの決定を下します。残念ながら、CNN は「肉眼では見えない入力画像のピクセルレベルの小さな変更を加える」ことで簡単にハッキングされる可能性があります。残念ながら、この脆弱性は悪意のある行為者が自動運転車を攻撃することを可能にする可能性があります（The Lighthouse）。

車載診断（OBD）は自動運転車の最も脆弱な部分の 1 つであり、悪意のあるコードが OBD を通じて電子制御ユニット（ECU）に挿入される可能性があります。挿入されたマルウェアは ECU を変更し再プログラムすることができます。感染した ECU は、LiDAR、カメラ、レーダーなどの車載ユニット（OBU）の他のコンポーネントと通信できなくなり、自動運転車の安全性が損なわれる可能性があります。

結論：車の自動制御を取得する様々な方法

• インターネットを介した遠隔アクセス
• Bluetooth を介した遠隔アクセス
• 車両メーカーを通じた自動運転車へのバックドアの挿入（サプライチェーン）
• 車両に埋め込まれた特別な装置
• 車両の感覚を撹乱する

これについて考えてください：

ハッキングのシナリオと意図しない結果：自動運転車がハッキングの被害に遭い、制御を失ったり、さらに悪いことに事故を起こしたらどうなるか？

道徳的ジレンマ：誰が責任を負うのか？自動運転車が侵害された場合の責任問題は非常に大きい。

自動運転の未来を確保する：倫理的要件を検討し、自動運転車をハッキングの脅威から保護するために必要な対策を掘り下げます。厳格なサイバーセキュリティ基準を施行するために規制はどのような役割を果たすべきか？

人間の生命、道徳的リスク：AI にハンドルを委ねるとき、特に生命と安全の問題に関して、多くのことが懸かっています。ハッキング関連の事故を防ぐために、倫理的配慮が自動運転車技術の開発を導くように社会はどのように保証できるでしょうか？

懸念 4：規制の欠如

AI は無視できないシステムレベルの影響を持っています。
自動運転車は道路の状況を把握するためにワイヤレス接続に依存していますが、その接続が失われたらどうなるでしょうか？あるドライバーは、遠隔操作センターとの連絡を失った 20 台の Cruise 車両の間に挟まれ、大規模な交通渋滞を引き起こしました。

こちらもお読みください: Cruise が初の車椅子対応車を発売へ

テクノロジーに友好的なサンフランシスコでは、かつて楽観的だった自動運転車に対する態度が、市が多数の問題を経験しているため否定的な方向に転じています。妨害された自動運転車が時間内に病院に到着できない人の死を招いた場合、その感情は最終的に一般市民がこの技術を拒否する方向に導く可能性があります。

では、自動運転車の経験は、より広範に AI を規制することにどのような意味を持つのでしょうか？企業は AI のより広範なシステムレベルの影響を理解するだけでなく、監視を必要とし、自主規制を許されるべきではありません。

AI は車やトラックにおいてまだ長い道のりがあります。私は自動運転車の禁止を求めているわけではありません。AI の使用には明らかな利点があり、その使用の禁止や一時停止を求めるのは無責任です。しかし、不必要なリスクを負うのを避けるために、より多くの政府の監督が必要です。

しかし、車における AI の規制はまだ始まっていません。これは一部には過剰な要求と業界の圧力に起因しますが、規制当局の能力不足にもよります。欧州連合は、特に自動運転車において、人工知能の規制により積極的に取り組んでいます。

クイックテストの正解は A. 摂氏 30 度です。