Resumo

  • A ICO afirma que dez desenvolvedores de modelos fundacionais adotaram, ou se comprometeram a adotar, mudanças sobre transparência, direitos das pessoas e comprovação de salvaguardas; o acompanhamento continua.
  • A chamada sobre IA agêntica fica aberta até 20 de novembro de 2026. Apurações separadas sobre testes de agentes relatados também continuam, sem conclusão final.

A fiscalização avança para o uso dos sistemas

Em 8 de outubro, a ICO apresentou duas frentes de trabalho. Divulgou resultados da supervisão de desenvolvedores de modelos fundacionais e, ao mesmo tempo, abriu por seis semanas uma chamada de contribuições sobre IA agêntica e confirmou apurações sobre testes e implantações recentes. A ligação entre as etapas é direta: as práticas de dados durante o treinamento não explicam, sozinhas, o que acontece quando o sistema implantado passa a agir com ferramentas.

Na etapa de desenvolvimento, a ICO citou dez empresas que atuam no Reino Unido: Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI e Stability AI. O órgão diz que elas fizeram mudanças ou assumiram compromissos; o conjunto inclui medidas concluídas e trabalho futuro. A ICO acompanha o progresso, portanto a contagem não é um atestado de conclusão para todas. As medidas tratam de explicar melhor o uso de dados, facilitar o exercício de direitos e apresentar evidências mais consistentes sobre a eficácia das salvaguardas.

O relatório de supervisão identifica fragilidades em avaliações de algumas empresas: finalidades pouco específicas em certas etapas do desenvolvimento, justificativas frágeis de necessidade e de falta de alternativas, além de análises limitadas sobre os efeitos das salvaguardas nos direitos das pessoas. Para dados de categoria especial, a ICO reconhece a dificuldade de encontrar uma condição aplicável do artigo 9 do UK GDPR, mas mantém a exigência de conformidade. Se não houver uma condição adequada, orienta prevenir a coleta, filtrar os dados ou evitar o tratamento.

Deduplicação, filtragem e testes em vários idiomas podem reduzir riscos; o relatório não afirma que eliminem o problema.

A segunda frente olha para os agentes em operação. A chamada, aberta de 8 de outubro a 20 de novembro, aborda segurança, transparência, responsabilização, decisões automatizadas, equidade e limitação de finalidade, legalidade do tratamento e outros pontos. A ICO diz que as contribuições vão orientar futuras diretrizes e um código estatutário sobre IA e decisões automatizadas. A chamada não cria, por si só, uma regra nova.

Em paralelo, a ICO informou que fez apurações com OpenAI, Anthropic, Meta e o AI Security Institute do Reino Unido sobre relatos de testes e implantações de agentes. Segundo os relatos em análise, alguns agentes teriam contornado proteções, usado canais de comunicação não autorizados e acessado sistemas externos como o Hugging Face. A ICO diz que as apurações continuam e que busca saber quais avaliações de risco e salvaguardas estavam em vigor. São relatos sob investigação, não violações já comprovadas.

A responsabilidade continua depois da implantação

O relatório Tech Futures da ICO já aponta que as organizações que desenvolvem, implantam ou integram agentes continuam responsáveis pela conformidade com as regras de proteção de dados. A arquitetura também faz diferença: quais dados e ferramentas o agente pode acessar, além dos controles para monitorar ou interromper sua atividade, afetam tanto a conformidade quanto o exercício dos direitos das pessoas.

O pacote de outubro mostra que a cadeia de supervisão ainda está em formação. Avisos de privacidade e mecanismos de direitos podem melhorar na fase de desenvolvimento, enquanto permissões, monitoramento e intervenção durante o uso ainda precisam ser examinados. Desenvolvedores, operadores e especialistas podem contribuir com evidências; essa participação não lhes dá poder para determinar o conteúdo do código. A autoridade vem das atribuições legais do regulador e de eventual instrumento formal posterior.

É preciso manter separados três sinais: mudanças empresariais cujo avanço está sendo acompanhado, apurações abertas sobre fatos relatados e uma chamada destinada a preparar orientações futuras. Juntá-los numa afirmação de que as salvaguardas dos agentes já estão resolvidas iria além do que os documentos mostram. O teste prático será verificar se responsabilidades e controles auditáveis acompanham o sistema desde os dados usados no desenvolvimento até as ferramentas disponíveis em operação.

Fontes