Summary

  • NMRGの意図ベースネットワーク草案は11月2日の第05版で、AIエージェントの統治と説明責任をセキュリティー上の論点に加えた。
  • 草案は具体的な導入事例や事故を示していない。運用を評価するには、最初の意図と承認、投入された設定、その後の結果を結ぶ記録が要る。

「完了」の一言では装置は語らない

NMRGの告知によれば、draft-irtf-nmrg-ibn-usecases-05 は11月2日に公開された。Datatracker上ではIRTFの現行Internet-Draftだ。意図ベースネットワークでは、管理者が望む結果を示し、ソフトウェアがそれをポリシーや装置の変更へ落とし込む。

第04版にもAIエージェントの議論はあった。第05版が加えたのは、エージェントが意図を誤訳したり、有害なポリシーを投入したり、予期しない行動を取ったりする場合の統治だ。検討すべき最低限として、やり取りや管理領域をまたいで確認できる継続的な身元、すべての判断と行動を残す改ざん不能な監査記録、重大な行動や結果に対する明示的な人の関与、誤りの巻き戻しと是正を挙げる。草案はこの四点を検討対象として挙げている。まだ強制力のある規格にはなっていない。

追加部分は、入力された意図を確かめ、ポリシーの結果を見積もる計算・記録の仕組みも提案する。投入後には監視と分析でポリシーが実際に守られたか確認し、管理者へ報告する。草案の既存の手順も、意図とポリシーの変換から検証、投入、監視、妥当性確認、最適化、報告へ進む。エージェントの「作業完了」という返事だけでは途中を飛ばしてしまう。

七つの点を一本の線にする

故障した区画を隔離せよと頼んだ場合、後から原文の指示、エージェントの身元、生成したポリシー、人の承認、装置に入った版、観測した効果、復旧経路を突き合わせたい。この一続きの作業伝票は草案の統治案から導いた編集上の判断であり、草案に定義されたデータ形式ではない。

監査記録が完全でも、間違った判断を完全に保存しただけかもしれない。承認画面に出た版と投入された版が違えば、承認は結果を説明しない。草案には特定の運用者のログ、障害、実測値はない。実際の導入を判断する材料は、各段階を時刻付きで装置変更と観測結果に結ぶ記録だ。

Sources