アンソロピック、カリフォルニア州の AI 法案の利益がコストを上回る可能性があると考える

「アンソロピック、カリフォルニア州の AI 法案の利益がコストを上回る可能性があると考える」は、公開証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性に関連しているため、BTW Media によってプロファイリングされています。

• アンソロピックは木曜日、カリフォルニア州の改正法案について、人工知能の開発・展開を規制しようとするもので、その利益はコストを上回る可能性があると述べた。
• サンフランシスコに拠点を置くアンソロピックは、ChatGPT 開発元の OpenAI の競合であり、Amazon と Alphabet が出資している。

OUR TAKE
ウィーナー上院議員は先ごろ、テクノロジー企業をなだめるために SB 1047を修正したが、その修正にはアンソロピックの意見が一部反映されている。修正法案は政府の AI 監視委員会の条項を削除した。この監視委員会は、AI 分野の急速な成長によりイノベーションを阻害する可能性があるとして当初懸念されていたが、修正版ではその懸念は大幅に軽減されている。
— Iydia Ding, BTW 記者

出来事

カリフォルニア州で提案されているAI規制法案SB 1047は、民主党のスコット・ウィーナー州上院議員が提出したもので、開発に1億ドル以上かかる、または一定の計算能力を必要とする多くの最先端 AI モデルに対して安全性テストを義務付けるものだ。同法案は木曜日にアンソロピックが発表した。カリフォルニア州の修正法案は、州内での AI の開発・展開方法を規制しようとするもので、その利益がコストを上回る可能性があるとしている。サンフランシスコに拠点を置くアンソロピックは、ChatGPT 開発元の OpenAI の競合であり、Amazon と Alphabet が出資している。

州内で事業を展開する AI ソフトウェア開発者は、AI モデルに問題が生じた場合に停止する方法（事実上の停止スイッチ）を明示する必要がある。また、同法案は、開発者が従わない場合、州司法長官が開発者を訴える権限を与える。「当社の評価によれば、新しい SB 1047は大幅に改善されており、その利益がコストを上回る可能性があると確信しています。ただし、確信があるわけではなく、法案の一部は懸念すべき点や曖昧な点もあります」と、アンソロピックの CEO ダリオ・アモデイは8月21日にギャビン・ニューサム・カリフォルニア州知事に宛てた書簡で述べている。

関連記事：著者らが AI トレーニングをめぐりアンソロピックを著作権侵害で提訴

関連記事：Claude AI チャットボット開発元アンソロピック、著作権侵害で提訴される

なぜ重要か

ウィーナー上院議員は先ごろ、テクノロジー企業をなだめるために SB 1047を修正したが、その修正にはアンソロピックの意見が一部反映されている。修正法案は政府の AI 監視委員会の条項を削除した。この監視委員会は、AI 分野の急速な成長によりイノベーションを阻害する可能性があるとして当初懸念されていたが、修正版ではその懸念は大幅に軽減されている。

人工知能（プロンプトに対して完全にフォーマットされたテキスト、画像、音声で応答し、最小限の介入で反復作業を実行できる）を開発するテクノロジー企業は、この法案に概ね反対している。

Alphabet 傘下の Google と Meta は、ウィーナー氏への書簡で懸念を表明し、Meta は法案によってカリフォルニア州が AI の開発・展開に敵対的になる可能性があると述べた。OpenAI は、AI は連邦政府によって規制されるべきであり、カリフォルニア州の法案は不確実な法的環境を生み出すと述べている。しかし、AI 技術が急速に進歩するにつれて、法律や規制は洗練され、実施に伴って徐々に現実に適応していくだろう。