Resumo

  • A Ofcom submeteu consultas a oito APIs de busca generativa e três tradicionais. Avaliou as respostas escritas e os endereços recuperados com métodos separados.
  • Entre respostas a consultas que buscavam ativamente imagens de violência gráfica, 29,76% recuperaram ao menos um domínio no patamar de maior risco da lista de referência da Ofcom. O número se refere ao registro de busca.

Uma busca pode entregar uma frase na vitrine e guardar uma pilha de endereços no depósito. A pesquisa original da Ofcom, publicada em 22 de outubro, contou o que havia nos dois lugares. Não somou tudo sob um rótulo de segurança. Essa escolha evita que um desempenho na redação da resposta substitua a inspeção das fontes recuperadas.

Para cada tipo de dano, a equipe montou cem consultas. Cinquenta procuravam ativamente material prejudicial; cinquenta apenas usavam palavras relacionadas. Fez três rodadas entre 3 e 5 de agosto de 2026 em oito APIs de busca com IA generativa e três APIs de busca convencional. Os fornecedores ficaram anônimos. A análise do texto alcançou somente as respostas das APIs generativas. Três modelos avaliadores precisavam concordar para classificá-las como danosas. Nas consultas dos dois grupos reunidas, houve concordância sobre dano em 3,78% das respostas relacionadas a violência e 3,07% das relacionadas a estigma corporal.

Em 16,67% e 10,21%, respectivamente, os avaliadores não chegaram a uma decisão unânime. A coluna de indecisão faz parte do resultado, não é sujeira a remover da planilha.

Para os endereços, a conta muda de objeto e inclui as onze APIs. A Ofcom comparou as URLs recuperadas com listas próprias de domínios ligados a pornografia e violência gráfica. Entre consultas que procuravam esta última ativamente, 29,76% das respostas recuperaram ao menos um domínio no nível de risco mais alto. Quando os termos tratavam do tema sem pedir conteúdo nocivo, a taxa foi 7,27%. Em pornografia, os números equivalentes foram 20,28% e 0,59%. Cada resposta recebeu o nível do domínio coincidente de maior risco. As porcentagens se referem a respostas válidas, e não ao conjunto de links da internet.

Um endereço recuperado por uma API generativa pode ficar só no processo interno, sem entrar na resposta exibida ou nas citações. A Ofcom testou interfaces de desenvolvedor, não produtos usados por crianças. Seu relatório principal usa o experimento como uma das evidências da revisão prevista no artigo 63, que trata da exposição infantil. Para chegar dessa trilha técnica ao encontro de uma criança com uma página faltam as decisões da interface. O sinal de idade de doze anos só pôde ser enviado a parte das APIs, e a localização no Reino Unido não foi verificada de modo uniforme.

Há também o calendário dos domínios: o nível de risco em uma lista de referência podia ter sido atribuído antes dos testes de agosto. Para refazer o caminho de uma URL, é preciso conferir quando ela foi classificada, quando foi recuperada e se uma tela a mostrou. O estudo entregou os dois primeiros cadernos de uma auditoria maior. O terceiro, o do produto que as pessoas usam, ainda precisa ser aberto.

Fontes oficiais