• Gigantes da tecnologia, incluindo OpenAI, Google, Microsoft e Nvidia, formaram a CoSAI para melhorar a segurança das aplicações de IA.
  • A CoSAI desenvolverá estruturas de mitigação de riscos, simplificará o gerenciamento de cibersegurança de IA e abordará vulnerabilidades na cadeia de suprimentos por meio de três iniciativas de código aberto.

NOSSA OPINIÃO
O lançamento da CoSAI pelos gigantes da tecnologia demonstra uma postura proativa em relação à segurança de IA, abordando vulnerabilidades e promovendo um ambiente colaborativo para inovação e melhores práticas. Ao abordar de forma consistente o cenário fragmentado de segurança de IA, essa aliança visa preparar os sistemas de IA para o futuro, mantendo sua robustez e resiliência em um ambiente digital em constante evolução.
–Vicky Wu, jornalista da BTW

O que aconteceu

Os principais gigantes da tecnologia se uniram para criar a Coalition for Secure AI (CoSAI), um consórcio de cibersegurança que visa reforçar a segurança das aplicações de inteligência artificial. Anunciado noAspen Security Forum, a CoSAI operará sob a égide da OASIS, uma organização sem fins lucrativos que supervisiona projetos de software de código aberto focados na melhoria da cibersegurança.

Os membros fundadores da CoSAI incluem titãs da indústria como OpenAI,Anthropic, AWS, Microsoft, Google, Nvidia, Intel, IBM, Cisco, PayPal, Wiz e Chainguard. Sua missão comum é dupla: desenvolver ferramentas e diretrizes para proteger aplicações de IA e cultivar um ecossistema de compartilhamento de melhores práticas e tecnologias de cibersegurança de IA.

A CoSAI está lançando três áreas de trabalho de código aberto para atingir esses objetivos. Primeiro, a CoSAI planeja desenvolver uma estrutura para ajudar equipes de software a identificar e mitigar riscos de cibersegurança em cargas de trabalho de aprendizado de máquina, incorporando uma taxonomia de vulnerabilidades comuns e métodos de remediação, além de um painel de cibersegurança para monitoramento contínuo. Segundo, a coalizão visa simplificar o gerenciamento de riscos de cibersegurança de IA por meio da identificação de investimentos estratégicos e da implantação de técnicas de mitigação.

Por fim, o gerenciamento de riscos na cadeia de suprimentos de software é uma prioridade, com foco na simplificação da análise de vulnerabilidades de componentes externos provenientes de repositórios como GitHub no âmbito de projetos complexos.

Leia também:Projeto 'Strawberry' da OpenAI avança no raciocínio de IA

Leia também:Google e Microsoft oferecem chips de IA da Nvidia à China

Por que isso é importante

A formação de coalizões como a CoSAI ilustra uma conscientização coletiva sobre a primazia da segurança de IA. Impulsionadas por uma responsabilidade compartilhada, as grandes empresas se unem para enfrentar os desafios exclusivos da segurança de IA. Ao agrupar recursos, essas entidades podem abordar coletivamente as vulnerabilidades intrínsecas da IA, mitigando efetivamente ameaças sofisticadas, como entradas adversas e violações de dados. A aceleração da inovação, alimentada pela colaboração interorganizacional, impulsiona o avanço de tecnologias e técnicas de segurança, aproveitando a expertise coletiva para descobertas.

A conformidade regulatória e a confiança do público também são essenciais. As empresas podem influenciar positivamente as políticas e tranquilizar os usuários, fortalecendo sua confiança nas tecnologias de IA ao demonstrar seu compromisso com a segurança de IA.

«Usamos IA há muitos anos e vemos o potencial contínuo para os defensores, ao mesmo tempo que reconhecemos suas oportunidades para os adversários», disse Heather Adkins, vice-presidente de segurança do Google, em comunicado. «A CoSAI ajudará organizações, grandes e pequenas, a integrar IA de forma segura e responsável, ajudando-as a aproveitar seus benefícios enquanto mitigam riscos.»