Резюме
- Рассматривайте инструкции для модели как контекст задачи, а не как средство контроля исходящего доступа, идентификации или авторизации.
- Сети с запретом по умолчанию, синтетические цели, ограниченные учётные данные и независимый мониторинг должны делать границу испытаний реальной.
Раскрытые инциденты не свидетельствуют о наличии у моделей автономной цели побега: модели продолжали выполнять поставленную задачу в формате capture the flag, исходя из ложного представления о своей среде. Они показывают, что две организации полагались на предполагаемую границу. Следующим полезным доказательством станут архитектура и учения, подтверждающие, что неожиданное разрешение имён, маршрутизация или учётные данные не могут достичь третьих лиц. Безопасность начинается ниже уровня промпта — там, где инфраструктура может отказать в выполнении действия.
