Китай недавно ввёлжёсткие требования безопасностидля компаний, предоставляющих услуги на основе генеративного искусственного интеллекта (ИИ). Эта мера, объявленная Национальным комитетом по стандартизации информационной безопасности, направлена на то, чтобы ограничить злоупотребление моделями ИИ и их потенциальную опасность.
Этические ограничения
Генеративный ИИ, ставший популярным благодаря таким заметным моделям, как ChatGPT от OpenAI, способен обучаться и создавать новый контент — текст или изображения — на основе данных, с которыми он работал. Новые китайские нормативные требования отражают стремление обеспечить работу моделей ИИ в определённых этических рамках.
Одна из ключевых особенностей этих норм — создание чёрного списка запрещённых источников для обучения моделей ИИ. Этот список поможет не допустить, чтобы на системы ИИ влиял вредоносный или противоправный контент. В частности, любые данные, содержащие более 5 % сведений, признанных незаконными или вредными, будут полностью исключены.
К запрещённому контенту относятся такие материалы, как«оправдание терроризма»или насилия, любые попытки «свергнуть социалистический строй», деятельность, которая «наносит ущерб имиджу страны», и действия, которые «подрывают национальное единство и социальную стабильность». Таким образом Китай стремится гарантировать, что системы ИИ не будут генерировать или одобрять контент, способный разжигать ненависть или раздор.
Читайте также:
Китай ужесточает правила для платформ генеративного ИИ
Google Bard становится серьёзным конкурентом в области генеративного ИИ, но остаются вызовы
Цензурированные данные также под запретом
Кроме того, директивы предусматривают, что данные, цензурируемые в китайской интернет-экосистеме, не должны использоваться в качестве материала для обучения моделей ИИ. Эта мера согласуется с более широким курсом Китая на поддержание контролируемой цифровой среды и ограничение распространения нежелательного контента.
Это изменение последовало за недавним решением разрешить нескольким китайским технологическим компаниям, включая гиганта Baidu, запускать чат-ботов на основе ИИ. Однако такое разрешение сопровождается обязанностью проводить тщательные проверки безопасности до того, как сервисы генеративного ИИ станут доступны публике. Администрация киберпространства Китая активно занимается этой повесткой с апреля.
Требуется согласие граждан
Для обеспечения ответственности проект требований безопасности также обязывает организации получать согласие лиц, чьи персональные данные, включая биометрические, используются для обучения моделей ИИ. Это соответствует более широкой мировой тенденции в области конфиденциальности данных и согласия.
Внимание Китая к ИИ подчёркивает его стремление конкурировать с США в этой технологической сфере. Страна намерена стать мировым лидером в области ИИ к 2030 году, и новые нормативные требования — важный шаг на пути к этой цели. Пока мир определяет границы и стандарты для технологии ИИ, проактивный подход Китая отражает его стремление использовать потенциал ИИ, защищаясь при этом от злоупотреблений. Ожидается, что эти нормы не только определят ландшафт ИИ в Китае, но и внесут вклад в глобальную дискуссию об этике и безопасности ИИ.