• Исторический законопроект Калифорнии, направленный на установление первых в стране мер безопасности для крупнейших систем ИИ, получил поддержку на важном голосовании.
  • Предложение, призванное снизить потенциальные риски ИИ, обяжет компании тестировать свои модели и публично раскрывать протоколы безопасности.

НАШЕ МНЕНИЕ
Сторонники законопроекта утверждают, что он установит одни из первых обязательных правил безопасности для крупномасштабных американских моделей ИИ, для обучения которых необходимы данные более чем на 100 миллионов долларов. Ни одна из существующих моделей ИИ пока не достигает этого порога, и технологическим гигантам следует сотрудничать с профильными организациями, чтобы выработать социально приемлемые нормы использования ИИ.
— Iydia Ding, журналистка BTW

Что произошло

Усилия Калифорнии по созданию первых в стране мер безопасности для самой крупнойсистемы искусственного интеллектапрошли важное голосование в среду, которое может открыть путь к американскому регулированию технологии, развивающейся с головокружительной скоростью. Предложение, направленное на снижение потенциальных рисков ИИ, обяжет компании тестировать свои модели и публично раскрыватьпротоколы безопасности, чтобы предотвратить манипуляции с моделями — например, их использование для вывода из строя энергосистемы штата или помощи в созданиихимического оружия; эксперты считают это возможным в будущем по мере стремительного развития отрасли.

Законопроект был одним из сотен, которые законодатели проголосовали принять на последней неделе сессии. Затем у Newsom есть время до конца сентября, чтобы подписать их, наложить вето или позволить им стать законом без его подписи. Мера была представлена в Ассамблее в среду и должна пройти финальное голосование в Сенате, прежде чем попасть в офис губернатора.

Читайте также:Elon Musk поддерживает калифорнийский законопроект о регулировании ИИ

Читайте также:OpenAI поддерживает калифорнийский законопроект, требующий маркировки ИИ-контента

Почему это важно

Сторонники законопроекта утверждают, что он установит одни из первых обязательных правил безопасности для крупномасштабных американских моделей ИИ, для обучения которых необходимы данные более чем на 100 миллионов долларов. Ни одна из существующих моделей ИИ пока не достигает этого порога, и технологическим гигантам следует сотрудничать с профильными организациями, чтобы выработать социально приемлемые нормы использования ИИ. «Техногигантам пора соблюдать хоть какие-то правила», — заявил в среду, поддерживая законопроект, республиканец Devon Mathis.

Законопроект, автором которого выступил сенатор-демократ Wiener, столкнулся с резкой оппозицией со стороны венчурных компаний и технологических предприятий, включая OpenAI, Google и Meta, материнскую компанию Facebook и Instagram. Они считают, что правила безопасности должно устанавливать федеральное правительство, а калифорнийское законодательство нацелено на разработчиков, а не на тех, кто использует и эксплуатирует системы ИИ для причинения вреда; кроме того, против законопроекта выступили несколько членов Палаты представителей Калифорнии.