Inspect: U.K. Safety Institute lança kit de segurança de IA

O Inspect: U.K. Safety Institute lança kit de ferramentas de segurança de IA é perfilado pela BTW Media porque evidências publicadas o vinculam a infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• O U.K. Safety Institute, a recém-criada autoridade de segurança de IA do Reino Unido, publicou um kit de ferramentas para fortalecer a segurança de IA.
• O Inspect oferece uma estrutura abrangente para realizar avaliações e resumir resultados em métricas significativas.
• O Inspect desempenha um papel importante na plataforma de teste de segurança de IA como uma ferramenta fundamental para a comunidade global de IA.

O U.K. Safety Institute apresentou o Inspect, um kit de ferramentas para avaliar aspectos específicos de modelos de IA, incluindo o conhecimento central dos modelos e sua capacidade de raciocínio lógico, e cria uma avaliação com base nos resultados.

Inspect

Com um passo inovador, o U.K. Safety Institute apresentou o Inspect, um kit de ferramentas avançado para melhorar as avaliações de segurança de IA na indústria, instituições de pesquisa e academia. Esta plataforma de código aberto, publicada sob alicença MIT, concentra-se na avaliação de aspectos críticos de modelos de IA, como conhecimento central e habilidades de raciocínio, e, em última análise, cria uma avaliação abrangente com base nas avaliações.

Leia também:Reino Unido publica primeira lei de segurança de IoT para prevenir crimes cibernéticos

Leia também:EUA e Reino Unido cooperam em segurança e testes de IA

Enfrentando os desafios da transparência em modelos de IA

Diante dos desafios inerentes à natureza complexa dos modelos de IA, especialmente suas estruturas opacas e detalhes proprietários, o Inspect se destaca por sua extensibilidade e adaptabilidade a métodos de teste em evolução. Composto por conjuntos de dados, solvers e scorers, o kit de ferramentas oferece uma estrutura abrangente para realizar avaliações e resumir resultados em métricas significativas.

Um dos principais recursos do Inspect é sua flexibilidade para integração com pacotes Python de terceiros, permitindo que os usuários expandam suas capacidades e as adaptem a requisitos específicos.

Um marco significativo

O anúncio recente do U.K. Safety Institutemarca um marco significativo no campo dos testes de segurança de IA, pois é a primeira iniciativa desse tipo liderada por uma entidade apoiada pelo governo e disponibilizada para uso generalizado. Ian Hogarth, presidente do U.K. Safety Institute, enfatizou a importância dos esforços conjuntos nas avaliações de segurança de IA e destacou o potencial do Inspect como uma ferramenta fundamental para a comunidade global de IA.