Anthropic、カリフォルニア州 AI 法案の恩恵がコストを上回る可能性

「Anthropic thinks benefits of California’s AI bill may outweigh costs」は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場での可視性にリンクしているため、BTW Media によってプロファイルされています。

• Anthropic は木曜日、同州における人工知能（AI）の開発と展開方法を規制することを目的としたカリフォルニア州の改正法案のメリットがコストを上回る可能性があると発表した。
• サンフランシスコに拠点を置く Anthropic は、ChatGPT の開発元である OpenAI の競合であり、Amazon と Alphabet が出資している。

当社の見解
ウィーナー上院議員は最近、SB 1047 を修正してテクノロジー企業をなだめるために、一部で Anthropic の貢献に基づいて修正を加えた。改正法案では、政府の AI 監視委員会を設置する規定が削除されており、当初は AI セクターの急速な成長を阻害する恐れがあったが、その懸念は修正版では大幅に軽減されている。
— イディア・ディン、BTW レポーター

発生の経緯

カリフォルニア州で提案されているAI規制法案であるSB 1047（民主党のスコット・ウィーナー州上院議員が提出）は、開発費用が 1 億ドルを超える、または一定の計算能力を必要とする多くの最先端 AI モデルに対し、安全性テストを義務付けるものだと、Anthropicは木曜日に述べた。改正されたカリフォルニア州法案は、同州における AI の開発と展開方法を規制することを目的としており、そのメリットがコストを上回る可能性がある。サンフランシスコを拠点とする Anthropic は、ChatGPT の開発元である OpenAI の競合であり、Amazon と Alphabet の支援を受けている。

同州で事業を行う AI ソフトウェア開発者は、AI モデルが誤作動した場合に停止させる手段（いわゆる「キルスイッチ」）を説明する必要がある。また、この法案は、違反した場合に州司法長官が開発者を訴追する権限も与える。「我々の評価では、新しい SB 1047 は大幅に改善されており、その恩恵がコストを上回る可能性があると考えています。ただし、確信はなく、法案の一部には懸念や曖昧さが残っています」と、Anthropic の CEO であるダリオ・アモデイは、8 月 21 日付のカリフォルニア州知事ギャビン・ニューサム宛ての書簡で述べた。

あわせて読みたい:著者らが AI トレーニングにおける著作権侵害で Anthropic を提訴

あわせて読みたい:AI チャットボット Claude の開発元 Anthropic が著作権侵害で提訴される

なぜ重要か

ウィーナー上院議員は、テクノロジー企業をなだめるため、最近 SB 1047 を修正し、その一部に Anthropic の意見を取り入れた。改正法案では、政府の AI 監視委員会を設置する規定が削除されている。当初は AI セクターの急速な成長を阻害する恐れがあったが、修正版ではその懸念は大幅に軽減された。

テキスト、画像、または音声を完全な形で生成し、最小限の介入で反復的なタスクを実行できる AI を開発するテクノロジー企業は、この法案に概ね反対している。

Alphabet 傘下の Google と Meta は、ウィーナー氏宛ての書簡で懸念を表明し、Meta はこの法案が州を AI の開発と展開に敵対的な環境にする可能性があると述べた。OpenAI は、AI は連邦政府によって規制されるべきであり、カリフォルニア州法案は不確実な法的環境を生み出すと指摘した。しかし、AI 技術が急速に進歩するにつれて、法律と規制は実施される過程で洗練され、徐々に状況の現実に適応していくだろう。