Resumo

  • A pauta de 24 de setembro do IESG inclui o exame, sob a RFC 5742, do draft-irtf-nmrg-ai-challenges-06, pesquisa do NMRG com publicação pretendida na categoria Informational.
  • A versão -00 propunha ausência de conflito e uma nota sobre ataques e saídas inseguras. A -01 de 24 de setembro mantém a conclusão proposta, mas retira a nota. O registro ainda mostra IESG Evaluation e um DISCUSS não resolvido.
  • Uma defesa contra envenenamento de dados não impede, por si, que um controlador bem-intencionado altere filtros ou solicite mais capacidade do que o enlace oferece.

Há duas maneiras de uma sugestão automática chegar errada ao equipamento. A primeira começa antes da sugestão: dados de treinamento contaminados ou entradas feitas para enganar um classificador de tráfego. A segunda começa no instante de agir: o modelo funciona como foi construído, mas propõe uma alteração de filtragem que contraria a política de acesso, ou uma reserva de qualidade de serviço superior à capacidade física. Quando ambos os casos são colocados sob o rótulo genérico de “segurança da IA”, some a pergunta decisiva sobre onde colocar o bloqueio.

A comparação das respostas mostra a fronteira institucional em movimento. A -00 propunha ausência de conflito e pedia atenção a um comentário do IRSG sobre as seções 9.2 e 9.3. No histórico, Mohamed Boucadair concorda com a conclusão de ausência de conflito, mas rejeita pedir que comentários do IRSG sejam tratados neste instrumento; Tommy Jensen apoia essa posição. A -01 mantém a conclusão proposta e elimina a nota. A sequência não prova sozinha todas as razões da edição, muito menos uma decisão final: o Datatracker ainda registra IESG Evaluation e DISCUSS. Os dois riscos continuam no estudo de pesquisa, não na redação atual da resposta.

Na seção 9.2, o alvo é o sistema de IA. O texto enumera envenenamento de dados, evasão da classificação e extração indireta de dados usados no treinamento. Evidências úteis aí seriam origem dos dados, permissão para alterá-los e testes contra manipulação. Na seção 9.3, o alvo são as consequências de uma saída: uma tabela de filtros alterada de modo impróprio ou uma alocação impossível de banda. Para esse lado, interessa uma regra externa ao modelo que confira capacidade, acesso, alcance da mudança e caminho de reversão. O estudo também discute decisões graduais e rollback, sem demonstrar que uma implantação particular seja segura.

A RFC 5742 delimita a função institucional. Ao examinar textos de outro fluxo de publicação, o IESG procura conflitos com o trabalho do IETF; não endossa a aptidão técnica de uma ferramenta de IA. A pesquisa é consenso de um grupo IRTF e pretende ser Informational, não uma norma da Internet. Mesmo uma resposta final de ausência de conflito não comprovaria adoção por uma operadora, eficácia de proteção ou ocorrência de incidente. Nenhum desses fatos consta das fontes consultadas.

Daniel Kade propõe que uma adoção real deixe dois comprovantes distintos. Um trataria de ameaças aos dados e ao modelo, seus responsáveis e ensaios adversariais. O outro registraria comandos permitidos, limites checados independentemente, execução gradual, condições de parada e estado observado após uma reversão. Não é obrigação criada pelo IESG; é um critério editorial para impedir que a verificação do primeiro risco dispense a do segundo.

Sources