• Министерство торговли США предлагает новые требования к отчётности для разработчиков ИИ и облачных провайдеров, чтобы обеспечить кибербезопасность.
  • Правила потребуют отчётов о разработке моделей ИИ, мерах кибербезопасности и результатах red-teaming — для выявления таких рисков, как содействие кибератакам или снижение барьеров на пути создания оружия массового уничтожения.

НАШЕ МНЕНИЕ
Это решение отражает растущую обеспокоенность влиянием ИИ и необходимость строгого надзора. Вводя подробную отчётность, американское правительство усиливает усилия по снижению рисков, связанных с передовым ИИ, — таких как злоупотребление в кибератаках или опасные технологии. Такой упреждающий подход подчёркивает баланс между стимулированием инноваций и защитой от потенциальных угроз: развитие ИИ должно оставаться безопасным и контролируемым.
— Tacy Ding, журналист BTW

Что произошло

В понедельник Министерство торговли США объявило о предложении ввести подробные требования к отчётности для разработчиков передового искусственного интеллекта и поставщиков облачных вычислений, чтобы гарантировать безопасность этих технологий и их способность противостоять кибератакам.

Предложение Bureau of Industry and Security, входящего в состав министерства, потребует отчётов перед федеральным правительством о разработке передовых моделей ИИ и вычислительных кластеров.

Оно также потребует отчётности о мерах кибербезопасности и о результатах так называемого red-teaming — тестов опасных возможностей, включая потенциал содействия кибератакам или снижения для неспециалистов барьеров на пути создания химического, биологического, радиологического или ядерного оружия.

Внешний red-teaming уже много лет используется в кибербезопасности для выявления новых рисков; термин происходит из американских учений времён холодной войны, где противника обозначали как «красную команду».

Читайте также:DOJ следит за планами Google по ИИ в борьбе с монополией на поиск

Читайте также:США вводят новые ограничения на передовые технологии вместе с международными партнёрами

Почему это важно

Генеративный ИИ, способный создавать тексты, изображения и видео по открытым запросам, вызывает одновременно и восторг, и тревогу. Существуют опасения, что он сделает некоторые профессии ненужными, повлияет на выборы и потенциально превзойдёт людей, что приведёт к катастрофическим последствиям.

Министерство торговли заявило, что данные, собранные в рамках предложения, «будут иметь ключевое значение для обеспечения того, чтобы эти технологии соответствовали строгим стандартам безопасности и надёжности, могли противостоять кибератакам и представляли минимальный риск злоупотребления со стороны иностранных противников или негосударственных субъектов».

В октябре 2023 года президентJoe Bidenподписал указ, требующий от разработчиков систем ИИ, создающих риски для национальной безопасности, экономики, общественного здоровья или безопасности США, передавать американскому правительству результаты тестов безопасности до публикации таких систем.

Правило введёт требования к отчётности для передовых моделей искусственного интеллекта (ИИ) и вычислительных кластеров.