• Anthropic задокументировала пять случаев использования Claude в биологических исследованиях, которые могли содействовать разработке оружия
  • Один реселлер использовал инфраструктуру в США, искусственно созданные учётные записи и резервное переключение на другую модель, чтобы обходить региональные ограничения и защитные меры

Факты

Anthropic сообщила, что выявила пять случаев, когда Claude использовали для биологических исследований, способных содействовать разработке биологического оружия. Эту деятельность расследовали с декабря 2025 года по август 2026 года; она включала исследования, связанные с птичьим гриппом, ортопоксвирусами, ядами и токсинами.

Один из случаев был связан с реселлером, который через инфраструктуру в США предоставлял доступ к Claude исследователям в регионе, где Anthropic не оказывает услуги. По данным Anthropic, платформа также пользовалась сервисом без хранения данных, услугами реселлеров серого рынка и искусственно созданными учётными записями. Если Claude отклонял запрос, платформа могла через систему резервного переключения передать его другой модели ИИ.

Anthropic сообщила, что реселлер обслуживал более десятка не связанных между собой клиентов и за несколько дней обменялся с Claude десятками тысяч сообщений. Позднее Anthropic заблокировала учётные записи, связанные с этой деятельностью, и заявила, что усилила защитные меры. Anthropic не сообщила, что какой-либо из этих случаев привёл к созданию биологического оружия или что она выявила планы неминуемой атаки.

Оценка

Отчёт Anthropic показывает, что обеспечивать соблюдение защитных мер становится сложнее, когда доступ к модели ИИ проходит через посредника. Поставщик может блокировать пользователей в отдельных регионах или отклонять чувствительный запрос, однако между ним и автором запроса может находиться реселлер.

Маршрутизация добавляет ещё одну сложность. В описанном Anthropic случае запросы, отклонённые Claude, могли передаваться другой модели ИИ. Поэтому отказ одного поставщика не обязательно прекращал попытку пользователя получить ответ. Поставщикам также приходится находить баланс между мониторингом и законными требованиями к конфиденциальности. Некоторые клиенты используют сервисы, которые хранят мало данных о запросах или не хранят их вовсе, что может сокращать объём информации, доступной при расследовании подозрительной активности.

Для читателей BTW безопасность ИИ всё больше зависит не только от самой модели, но и от окружающей её инфраструктуры. Данные о владельцах учётных записей, доступ через реселлеров, учётные данные API, маршрутизация и журналирование влияют на то, что поставщик способен обнаружить и пресечь; при этом эти механизмы контроля по-прежнему должны защищать законные интересы клиентов в сфере конфиденциальности.

За чем следить

Следите за изменениями правил для реселлеров ИИ, прокси-сервисов и доступа из регионов, которые поставщики не обслуживают. Более строгие проверки личности и меры контроля API, ужесточение правил маршрутизации между моделями или изменения в сервисах без хранения данных покажут, как поставщики реагируют на выявленные Anthropic пробелы в контроле доступа.