要約

  • 印象的なデモではなく、完了した仕事、代表的な誤り、復旧を測る。
  • 根拠、確認、取り消しが実環境で機能してから権限を広げるべきだ。

人工知能はデータから推論、分類、生成、提案を行う仕組みを広く指す。その呼び名だけでは安全性も採算も分からない。支援する判断、誤りの費用、人が確認する地点、変更できるシステムを先に定めたい。限定試験では採用された結果、修正、事故を記録する。知的に見えるかではなく、責任者のいない失敗経路を増やさず成果を改善できるかが判断基準になる。

情報源