デトロイト警察署が顔認識技術の使用制限に同意

デトロイト警察署の顔認識技術制限合意は、公開証拠に基づきインターネットインフラ、ガバナンス、運用依存関係、市場の可視性と関連付けられているため、BTW Media が追跡しています。

• 顔認識の結果のみに基づいて容疑者を逮捕することを禁止する新方針が発表された。ただし、容疑者と犯罪を結びつける他の証拠がある場合を除く。
• 新方針は市民の権利とプライバシーを保護することを目的としており、顔認識技術の悪用に対する警鐘でもある。

当社の見解
2020 年 1 月にロバート・ウィリアムズが逮捕された事件は、米国で顔認識技術に基づく不当拘束が記録された初の事例であり、今回の新規則のきっかけとなった。これまで警察は、プライバシーや人種バイアスへの潜在的脅威があるにもかかわらず、捜査に AI システムへの依存を強めてきた。
– BTW ジャーナリスト、ゾラ・リン

何が起きたか

法的和解の一環として、デトロイト警察署は、6 月 28 日以降、顔認識技術の使用を制限する新たなガイドラインを策定することに合意した。この新方針では、顔認識の検索結果のみを唯一の根拠として容疑者を逮捕することを禁止し、容疑者と犯罪を結びつける他の証拠が必要とされる。

また、新方針では警察官に対し、顔認識技術のリスクと危険性に関する訓練の受講が義務付けられ、2017 年以降に顔認識が逮捕状の取得に使用されたすべての事案の監査も求められる。

これに先立ち、黒人男性のロバート・ウィリアムズは、2018 年に高級時計店で万引きした男として撮影された映像と彼の運転免許証の写真が誤って一致したために逮捕された。新規則は、被害者であるロバート・ウィリアムズとの訴訟和解の一部であり、警察署はウィリアムズに 30 万ドルを支払う。

サンフランシスコなどの都市では、法執行機関による顔認識技術の使用が禁止されている。マイクロソフトも最近、警察が顔認識に自社の AI 技術を使用することを禁止した。

あわせて読む：モバイルエッジコンピューティング：定義、例、そして未来

あわせて読む：サイバーセキュリティにおける AI：課題と機会

なぜ重要か

顔認識技術は便利だが、冤罪を引き起こし、無実の人々に害を及ぼす可能性がある。顔認識の検索結果のみに基づいて容疑者を逮捕することを禁じる新方針は、ウィリアムズのような事件の再発防止を目指し、重要な人権保護となる。

警察に顔認識技術のリスクと危険性を訓練することで、警察官の専門性と意識を高め、AI への盲目的な依存を避け、より慎重な使用を促すことができる。テクノロジー企業も、自社の製品や技術が悪用されないように努め、技術の健全な発展を促進する必要がある。

サンフランシスコなどの都市が顔認識技術の法執行機関による使用を禁止しているからといって、この技術が無価値であるわけではない。重要なのは、その利用が合理的かつ公正であることを保証することだ。新方針は、顔認識技術の合理的な利用のための参考事例を提供する。