中国は最近、生成人工知能（AI）サービスを提供する企業向けに厳格なセキュリティ要件を導入しました。この措置は、国家情報安全標準化委員会によって発表され、AI モデルの悪用とその潜在的危険を抑制することを目的としています。

倫理的制限

OpenAI の ChatGPT などの有名なモデルで人気を博している生成 AI は、学習データに基づいてテキストや画像などの新しいコンテンツを生成する能力を持っています。中国の新しい規制は、AI モデルが一定の倫理的境界内で動作することを保証する取り組みを示しています。

これらの規制の顕著な特徴の 1 つは、AI モデルのトレーニングに使用する禁止ソースのブラックリストの作成です。このブラックリストは、AI システムが有害または違法なコンテンツの影響を受けるのを防ぐのに役立ちます。具体的には、違法または有害と判断される情報が 5%以上含まれるデータは、一切使用が許可されません。

禁止されるコンテンツには、「テロの称賛」や暴力、「社会主義体制の転覆」の試み、「国のイメージを損なう」活動、「国家統一と社会の安定を損なう」活動などが含まれます。これにより、中国は AI システムが憎悪や不和を扇動する可能性のあるコンテンツを生成または支持するのを避けることを目指しています。

関連記事:

中国、生成 AI プラットフォームに対する規制を強化

Google Bard、生成 AI の強力な競合として台頭するも課題残る

検閲されたデータも禁止

さらに、ガイドラインでは、中国のインターネットエコシステム内で検閲されたデータを AI モデルのトレーニング資料として使用してはならないとも規定されています。この措置は、管理されたデジタル環境を維持し、望ましくないコンテンツの拡散を制限するという中国の広範な取り組みの一環です。

この動きは、巨大企業 Baidu を含む複数の中国テクノロジー企業に AI ベースのチャットボットのリリースを許可する最近の決定に続くものです。ただし、この許可には、これらの企業が生成 AI サービスを一般公開する前に徹底的なセキュリティ評価を実施する義務が伴います。中国サイバースペース管理局は 4 月以来、このアジェンダを積極的に推進しています。

個人の同意が必要

説明責任を確保するため、セキュリティ要件案では、生体認証データを含む個人情報が AI モデルのトレーニングに使用される場合、組織は本人の同意を得ることも義務付けています。これは、データプライバシーと同意に関する世界的な動向に沿ったものです。

中国の AI への注力は、このテクノロジー分野で米国と競争しようとする野心によって裏付けられています。同国は 2030 年までに AI の世界的リーダーになることを目指しており、今回発表された規制はその目標に向けた重要な一歩となります。世界が AI テクノロジーの境界線と基準を定めようと努力する中、中国の積極的なアプローチは、AI の悪用から保護しつつ、その可能性を活用するというコミットメントを反映しています。これらの規制は、中国における AI の状況を形作るだけでなく、AI 倫理と安全性に関する進行中の世界的な議論にも貢献すると期待されています。