• Китай опубликовал проект правил, направленных на регулирование систем искусственного интеллекта, которые имитируют человеческое взаимодействие, расширив тем самым надзор за генеративным ИИ.
• Эти предложения подчёркивают внимание Пекина к социальной стабильности и контролю над информацией, порождая новые вопросы для разработчиков и иностранных компаний, работающих в Китае.
Что произошло: Китай опубликовал проект регулирования, призванный ограничить системы искусственного интеллекта
Проект правил, опубликованный Администрацией киберпространства Китая, касается сервисов ИИ, способных вести беседы на естественном языке, имитировать эмоциональные реакции или создавать впечатление общения с человеком. Согласно этим предложениям, провайдеры должны будут обеспечивать соответствие таких систем «основным социалистическим ценностям» и не допускать генерации контента, способного нанести ущерб национальной безопасности, общественному порядку или общественной нравственности.
Разработчики также должны будут чётко маркировать контент, созданный ИИ, и внедрять механизмы, предотвращающие чрезмерную зависимость пользователей от систем, имитирующих эмоциональное или социальное взаимодействие. Эти правила дополняют действующие требования о том, что сервисы генеративного ИИ должны проходить оценку безопасности и регистрироваться у властей до выхода на публичный рынок.
Проект регулирования открыт для общественных комментариев — это стандартный этап нормотворческого процесса в Китае. Он появился в тот момент, когда отечественные технологические компании спешат развернуть инструменты разговорного ИИ в самых разных сферах — от обслуживания клиентов до образования и развлечений, а зарубежные компании следят за тем, как регуляторная позиция Китая может повлиять на трансграничное сотрудничество.
Китай уже вводил меры в отношении рекомендательных алгоритмов и технологий дипфейков. Новый проект указывает на то, что регуляторы уделяют более пристальное внимание психологическому и социальному воздействию систем ИИ, способных стирать границу между человеческим и машинным взаимодействием.
Читайте также:CAIGA переписывает правила интеллектуальной собственности в Африке без её держателей ресурсов
Читайте также:Великобритания смягчает правила исследований в области ИИ для стимулирования инноваций
Почему это важно
Предложенные правила показывают, как Китай формирует собственный регуляторный путь для искусственного интеллекта, ставя социальное управление и политический контроль в центр надзора за технологиями. Для компаний, разрабатывающих чат-ботов, виртуальных компаньонов или продвинутых ассистентов, соблюдение требований может потребовать перепроектирования продуктов, чтобы ограничить эмоциональные сигналы или глубину диалога.
Сторонники регулирования утверждают, что защитные механизмы необходимы для предотвращения манипуляций, дезинформации или нездоровой зависимости от систем ИИ. Однако формулировки проекта могут создать неопределённость для разработчиков, особенно в том, как регуляторы будут оценивать такие понятия, как «эмоциональная зависимость» или вредное влияние.
Эта мера также отражает усиление глобальных споров о том, насколько далеко правительства должны заходить в регулировании ИИ, имитирующего поведение человека. В то время как Европейский союз сосредоточился на категориях риска и прозрачности в своём Законе об ИИ (AI Act), китайский подход делает больший акцент на контроле контента и соответствии приоритетам государства.
Для международных компаний проект правил усиливает сложности работы с сервисами ИИ в строго регулируемой цифровой среде Китая. Остаётся неясным, сможет ли жёсткий надзор замедлить инновации или вытолкнет эксперименты в менее заметные каналы, в то время как власти пытаются балансировать между ростом и контролем.