• 米国初の大規模 AI システムに対する安全対策を確立することを目的とした、カリフォルニア州の画期的な法案が重要な票決を得ました。
  • この提案は、AI がもたらす潜在的リスクを軽減することを目的としており、企業に対してモデルのテストと安全プロトコルの公開を義務付けています。

当社の見解
法案の支持者らは、この法案が、システムの訓練に 1 億ドル以上のデータを必要とする大規模な米国の AI モデルにとって、最初の不可欠な安全規則の一部を確立すると主張しています。現在の AI モデルでこの閾値に達するものはなく、テクノロジー大手は適切な組織と協力して、社会的に適切な AI 利用基準を作成すべきです。
— Iydia Ding, BTW ジャーナリスト

何が起こったのか

カリフォルニア州が米国初の最大の人工知能システムに対する安全対策を創設する取り組みは、水曜日に重要な票決を通過し、急速に進化する技術に対する米国の規制への道を開く可能性があります。AI がもたらす潜在的リスクを軽減することを目的とするこの提案は、企業に対し、モデルのテストを実施し、セキュリティプロトコルを公開して、モデルが操作されて州の電力網を破壊したり、化学兵器の製造を支援することを防ぐことを義務付けます。専門家は、業界が急速に発展する将来、こうしたことが可能になると見ています。

この法案は、会期末の最終週に議員らが採決した数百の法案の一つでした。ニューサム知事は 9 月末までに、署名するか、拒否権を発動するか、署名なしに法律として成立させるかを決定します。この法案は水曜日に下院に提出され、知事の机に届く前に上院での最終投票を受ける必要があります。

合わせて読みたい：Elon Musk、カリフォルニアの AI 規制法案を支持

合わせて読みたい：OpenAI、カリフォルニア州の AI コンテンツ透かし法案を支持

なぜ重要なのか

法案の支持者らは、この法案が、システムの訓練に 1 億ドル以上のデータを必要とする大規模な米国の AI モデルにとって、最初の不可欠な安全規則の一部を確立すると主張しています。現在の AI モデルでこの閾値に達するものはなく、テクノロジー大手は適切な組織と協力して、社会的に適切な AI 利用基準を作成すべきです。「テックジャイアントが何らかのルールを守る時が来た」と、共和党のデボン・マティス下院議員は水曜日、法案への支持を表明しました。

民主党のウィーナー上院議員が起草したこの提案は、ベンチャーキャピタル企業や、OpenAI、Google、Facebook と Instagram の親会社である Meta などのテクノロジー企業から強い反対を受けました。彼らは、安全規則は連邦政府が策定すべきであり、カリフォルニアの法案は、AI システムを使用・運用して害を引き起こす者ではなく、開発者を標的にしていると主張しており、カリフォルニア州下院の複数の議員もこの法案に反対しています。