A China recentemente introduziuexigências de segurança rigorosaspara empresas que oferecem serviços baseados em inteligência artificial (IA) generativa. Esta medida, anunciada pelo Comitê Nacional de Padronização de Segurança da Informação, visa coibir o uso abusivo dos modelos de IA e seus perigos potenciais.
Limites éticos
A IA generativa, que ganhou popularidade graças a modelos notáveis como o ChatGPT da OpenAI, possui a capacidade de aprender e gerar novos conteúdos, sejam textos ou imagens, com base nos dados de treinamento aos quais foi exposta. As novas regulamentações chinesas demonstram um esforço para garantir que os modelos de IA operem dentro de certos limites éticos.
Uma das características marcantes dessas regulamentações é o estabelecimento de uma lista negra de fontes proibidas para o treinamento de modelos de IA. Essa lista negra ajudará a impedir que os sistemas de IA sejam influenciados por conteúdos prejudiciais ou ilegais. Mais especificamente, qualquer dado contendo mais de 5% de informações consideradas ilegais ou prejudiciais será categoricamente excluído.
Os conteúdos proibidos incluem elementos como'apologia ao terrorismo'ou violência, qualquer tentativa de 'derrubar o sistema socialista', atividades que 'prejudicam a imagem do país' e aquelas que 'minam a unidade nacional e a estabilidade social'. Dessa forma, a China visa garantir que os sistemas de IA evitem gerar ou endossar conteúdos que possam incitar ódio ou discórdia.
Leia também:
China endurece regras para plataformas de IA generativa
Google Bard surge como forte concorrente em IA generativa, mas desafios permanecem
Dados censurados também proibidos
Além disso, as diretrizes também estipulam que dados censurados dentro do ecossistema de internet chinês não devem ser usados como material de treinamento para modelos de IA. Essa medida está alinhada com o compromisso mais amplo da China em manter um ambiente digital controlado e limitar a disseminação de conteúdos indesejados.
Essa evolução segue uma decisão recente que autorizou várias empresas de tecnologia chinesas, incluindo a gigante Baidu, a lançar chatbots baseados em IA. No entanto, essa autorização vem com a obrigação de essas empresas realizarem avaliações de segurança completas antes de tornar seus serviços de IA generativa acessíveis ao público. A Administração do Ciberespaço da China está promovendo ativamente essa agenda desde abril.
Consentimento necessário dos indivíduos
Para garantir a responsabilidade, o projeto de exigências de segurança também impõe que as organizações obtenham o consentimento das pessoas cujas informações pessoais, incluindo dados biométricos, são usadas para o treinamento de modelos de IA. Isso está alinhado com a tendência global mais ampla em relação à privacidade de dados e consentimento.
O foco da China em IA é evidenciado por sua ambição de competir com os Estados Unidos neste setor tecnológico. O país aspira se tornar um líder global em IA até 2030, e essas regulamentações recém-divulgadas representam um passo crucial em direção a esse objetivo. Enquanto o mundo se esforça para estabelecer limites e padrões para a tecnologia de IA, a abordagem proativa da China reflete seu compromisso em aproveitar o potencial da IA enquanto se protege contra seu uso abusivo.
Espera-se que essas regulamentações não apenas moldem o cenário da IA na China, mas também contribuam para o discurso global em andamento sobre ética e segurança da IA.