中国、人間らしい対話をする AI を規制する規則を策定

「China drafts rules to rein in AI with human-like interaction」は、公開証拠がこれをインターネットインフラストラクチャ、ガバナンス、運用依存関係、市場の可視性に結び付けているため、BTW Media によってプロファイルされています。

• 中国は、人間との対話を模倣する AI システムを規制する規則案を公表し、生成 AI への監視を拡大しました。
• この提案は、北京が社会の安定と情報管理を重視していることを示しており、中国で活動する開発者や外国企業に新たな課題を提起しています。

何が起こったか：中国が AI システムを規制する規則案を発表

中国サイバースペース管理局が公表した規則案は、自然言語での会話、感情的な反応の模倣、人間のように対話している印象を与えることができる AI サービスに焦点を当てています。この提案によれば、提供者はこれらのシステムが「社会主義的核心的価値観」を尊重し、国家安全保障、社会秩序、善良な風俗を損なう可能性のあるコンテンツを生成しないようにする必要があります。

開発者はまた、AI 生成コンテンツを明確にラベル付けし、ユーザーが感情的または社会的な対話を模倣するシステムに過度に依存するのを防ぐ仕組みを導入する必要があります。これらの規則は、生成 AI サービスを一般に提供する前に、安全性評価を受け、当局に登録しなければならないという既存の要件に追加されるものです。

この規則案はパブリックコメントに付されており、これは中国の規則制定プロセスにおける標準的な手順です。これは、国内のテクノロジー企業がカスタマーサービスから教育、エンターテインメントに至るまで、会話型 AI ツールの展開を急いでいる中で行われており、国際企業は中国の規制姿勢が国境を越えた協力にどのような影響を与えるかを注視しています。

中国はすでに、推薦アルゴリズムやディープフェイク技術に関する措置を導入しています。この新たな草案は、規制当局が人間と機械の対話の境界を曖昧にする可能性のある AI システムの心理的・社会的影響に、より持続的な注意を払っていることを示唆しています。

関連記事：CAIGA、資源保有者不在のままアフリカの知財規則を書き換え
関連記事：英国、イノベーション促進のため AI 研究規則を緩和

なぜ重要か

提案された規則は、中国が人工知能に対して独自の規制の道筋をつけ、社会統治と政治的統制を技術監視の中心に据えていることを示しています。チャットボット、バーチャルコンパニオン、高度なアシスタントを開発する企業にとって、コンプライアンスを満たすためには、感情的な手がかりや会話の深さを制限するように製品を再設計する必要が出てくるかもしれません。

規制の支持者は、操作、誤情報、AI システムへの不健全な依存を防ぐために防護策が必要だと主張します。しかし、規則案の文言の範囲は、開発者にとって不確実性を生み出す可能性があり、特に「感情的依存」や有害な影響といった概念を規制当局がどのように判断するかが問題となります。

この措置はまた、人間の行動を模倣する AI をどの程度規制すべきかという世界的な議論の激化を反映しています。EU が AI 法を通じてリスクカテゴリーと透明性に焦点を当てているのに対し、中国のアプローチはコンテンツ管理と国家の優先事項への適合をより重視しています。

国際企業にとって、この規則案は、中国の厳しく規制されたデジタル環境で AI サービスを運用する上での課題を改めて浮き彫りにします。厳格な監視がイノベーションを遅らせるのか、あるいは実験をより目立たない経路に追いやるのか、当局が成長と管理のバランスを取ろうとする中で、疑問が残ります。