Resumo

  • Anthropic documentou cinco casos em que o Claude foi usado em pesquisas biológicas que poderiam apoiar o desenvolvimento de armas
  • Um revendedor usou infraestrutura nos Estados Unidos, contas sintéticas e encaminhamento a outro modelo para contornar controles regionais e de segurança

O fato

Em 10 de setembro, Anthropic afirmou ter identificado cinco casos em que o Claude foi usado em pesquisas biológicas que poderiam apoiar o desenvolvimento de armas biológicas. Os casos faziam parte de uma atividade que a empresa investigou entre dezembro de 2025 e agosto de 2026.

Em um dos casos, um revendedor deu acesso ao Claude, por meio de infraestrutura nos Estados Unidos, a pesquisadores de uma região onde Anthropic não oferece serviço. Anthropic afirmou que a plataforma também usava um serviço sem retenção de dados, revendedores do mercado cinza e contas sintéticas. As solicitações recusadas pelo Claude podiam ser encaminhadas a outro modelo de IA por meio de um sistema de contingência.

Anthropic afirmou que o revendedor atendeu a mais de uma dúzia de clientes sem relação entre si e trocou dezenas de milhares de mensagens com o Claude ao longo de vários dias. O relatório também descreveu pesquisas separadas envolvendo influenza aviária, ortopoxvírus, venenos e toxinas.

Anthropic afirmou que baniu contas associadas ao uso indevido e reforçou suas salvaguardas. A empresa não disse que algum dos casos tenha resultado na produção de uma arma biológica nem que um ataque iminente tenha sido identificado.

A avaliação

O relatório da Anthropic mostra que pode ser mais difícil aplicar salvaguardas quando o acesso a um modelo de IA passa por um intermediário. Um provedor pode bloquear usuários em determinadas regiões ou recusar uma solicitação sensível, mas um revendedor pode atuar entre o provedor e a pessoa que faz essa solicitação.

O roteamento traz outra complicação. No caso descrito por Anthropic, as solicitações rejeitadas pelo Claude podiam ser encaminhadas a outro modelo de IA. A recusa de um provedor, portanto, não necessariamente encerrava a tentativa do usuário de obter uma resposta.

Os provedores também precisam equilibrar o monitoramento com requisitos legítimos de privacidade. Alguns clientes usam serviços que retêm poucos dados das solicitações ou não retêm dado algum, o que pode reduzir as informações disponíveis durante a investigação de atividades suspeitas.

Para os leitores da BTW, a segurança da IA depende cada vez mais tanto da infraestrutura ao redor do modelo quanto do próprio modelo. A identidade das contas, o acesso por revendedores, as credenciais de API, o roteamento e o registro de atividades influenciam o que um provedor consegue ver e impedir, enquanto esses controles ainda precisam atender a requisitos legítimos de privacidade dos clientes.

O que acompanhar

Acompanhe mudanças nas regras aplicáveis a revendedores de IA, serviços de proxy e acesso a partir de regiões não atendidas. Verificações de identidade mais rigorosas, controles de API, políticas de roteamento entre modelos ou mudanças em serviços sem retenção de dados mostrariam como os provedores respondem às lacunas de acesso identificadas por Anthropic.