Кратко

  • На ARIN 57 организация сообщила, что генеративный ИИ допускается лишь для ограниченного круга черновых работ: составитель сам проверяет текст и отвечает за него, после чего следует проверка второго человека.
  • Конфиденциальная и чувствительная информация исключается. Публичный отчёт SOC 3 перечисляет политику использования генеративного ИИ, но ни он, ни устное объяснение не описывают запись, связывающую эти меры с выпущенной версией.
  • Соразмерное решение—закрытая, пригодная для аудита квитанция и обезличенная агрегированная отчётность, а не догадки об ИИ в конкретном материале и не публикация промптов, черновиков или имён проверяющих.

Самая важная фраза в дискуссии ARIN об искусственном интеллекте относилась не к модели. Она относилась к ответственности за текст.

На ARIN 57 участник задал онлайн-вопрос о роли ИИ в системах безопасности и о том, какими системами могут пользоваться сотрудники. Директор по информационной безопасности Christian Johnson сначала ответил, что ARIN не применяет системы ИИ для защиты. Затем он описал узкое внутреннее разрешение: генеративный ИИ можно использовать в очень небольшом числе случаев для создания черновика. Человек, подготовивший его, обязан самостоятельно проверить текст и остаётся ответственным за содержание. Потом документ проверяет второй человек—как правило, руководитель или соавтор. До публикации материал должен пройти более чем через одну пару глаз.

Это точнее обычного обещания оставить человека «в контуре». Правило разделяет два контрольных действия и закрепляет ответственность за первым проверяющим. Оно также проводит границу для данных. Конфиденциальную или чувствительную информацию организации нельзя вводить в систему генеративного ИИ; большая языковая модель не должна видеть то, что не опубликовано и не находится на реальном пути к публикации.

Пример с блогом был гипотетическим. Johnson допустил, что коммуникационная команда могла бы подготовить черновик с помощью инструмента, проверить его и затем разместить. Он не подтвердил применение ИИ к определённой записи блога, проекту политики, изменению кода или решению ARIN. John Curran отдельно провёл границу между публичными откликами и закрытыми данными ARIN или клиентов. Он также сказал, что организация ещё не задействовала ИИ для защиты систем.

Политика видна, связующая запись—нет

Страница ARIN по информационной безопасности размещает отчёт SOC 3 как предназначенную для открытого распространения версию отчёта SOC 2. Документ охватывает средства контроля платформы RPKI с 1 октября 2024 года по 30 сентября 2025 года. В перечне поддерживающих платформу политик и процедур есть «Generative AI Usage». Отчёт говорит, что эти документы ежегодно пересматриваются и обновляются, и описывает классификацию данных по чувствительности и возможному ущербу.

Нельзя расширять период и системную границу. Аудиторское мнение относится к сроку, завершившемуся за несколько месяцев до ответа в апреле 2026 года, и к платформе RPKI. Оно не подтверждает каждый будущий ИИ-черновик, а устная реплика не меняет объём аудита. Корректная связь уже: один открытый документ помещает политику ИИ в контрольную среду ARIN, а более поздний ответ раскрывает часть предполагаемого процесса.

Однако ни один источник не называет документ, который доказывал бы исполнение правила для конкретного материала.

Чтобы проверить правило двух людей, необходимо связать по меньшей мере четыре решения. Были ли входные данные признаны публичными или действительно предназначенными к публикации? Какой промпт, результат, черновик или защищённая ссылка проверялись? Выполнил ли ответственный составитель первую проверку? Одобрил, отклонил или вернул ли отдельный второй проверяющий именно ту версию, которая в итоге была выпущена?

Политика отвечает на вопрос, что должно произойти. Контрольная квитанция показывает, что произошло с этой единицей работы. Без связки аудитору придётся собирать цепь из истории версий, активности модели, человеческих комментариев и публичной страницы в разных системах. Каждый фрагмент может быть верен, но не доказывать целого.

Это не свидетельство отсутствия внутренней записи в ARIN. Доказательства внутренних контролей и SOC 2 часто остаются закрытыми по веским причинам. Раскрытие промптов может обнажить рабочие материалы, имена проверяющих превратят контроль в кадровое досье, а детали модели и защиты расширят поверхность атаки. Не поможет и публичная метка «сделано с помощью ИИ» на каждом документе. Она не раскрывает классификацию данных, величину машинного вклада, качество проверок и совпадение проверенной версии с опубликованной.

Закрытая квитанция и сдержанная открытая отчётность

Полезный контроль может быть компактным и внутренним. Для каждого разрешённого черновика ARIN мог бы сохранять класс применения, решение о данных, защищённые отпечатки или ссылки на источники, промпт и результат, границы инструмента или модели, событие проверки ответственным автором, независимую вторую проверку, существенные исправления, одобрение либо отказ, отпечаток опубликованной версии, срок хранения и обработку исключений.

Публичный слой может быть агрегированным. Периодический отчёт покажет число черновиков по классам, число завершённых вторых проверок, отказы и существенные переработки, открытые и закрытые исключения. Малые числа можно объединять или публиковать с задержкой. Конфиденциальный текст, персональные данные и чувствительные технические подробности не должны покидать контрольную среду.

Устное правило ARIN уже содержит верную идею: ответственность не должна растворяться в инструменте. Следующий шаг—сделать её связной от разрешённых данных через машинный черновик и два человеческих решения до версии, которую действительно получил читатель.

Источники