Em um imenso centro de conferências de vários níveis com vista para um lago estilizado com o pano de fundo de uma montanha verdejante, milhares de delegados se reuniram recentemente em Kyoto, no Japão, para discutir e refletir sobre o futuro da Internet.
Este evento de cinco dias estava repleto das expressões e fragmentos de discursos habituais que se espera de uma convenção que reúne políticos de alto nível e porta-vozes de empresas e organizações – 'engajamento de múltiplas partes interessadas', 'colaboração', 'confidencialidade, segurança e proteção' estavam entre os termos mais frequentemente pronunciados. Mas algumas sessões superaram o jargão sem inspiração para revelar duas realidades de peso.
Primeiro, a inteligência artificial (IA), sem dúvida o desenvolvimento tecnológico mais poderoso que o mundo já conheceu, é uma força formidável para o bem, e seria um adversário ainda mais formidável. Os desenvolvimentos nesta área devem garantir que a humanidade possua e controle a IA, e nunca devemos permitir que essa relação se inverta. Segundo, a coleta, o fluxo e o compartilhamento de dados, especialmente além das fronteiras internacionais, oferecem oportunidades semelhantes de progresso espetacular, especialmente quando combinados com a IA, mas também trazem ameaças.
Para ilustrar:
Sempre que um terremoto atinge, por exemplo, o Japão, isso fornece enormes quantidades de dados que podem ser analisados usando modelos de IA para tentar prever futuros terremotos e garantir que o próximo seja menos prejudicial e que vidas sejam salvas. Se esses dados forem compartilhados além das fronteiras internacionais, os dados sísmicos do Japão também poderiam ajudar a salvar vidas em outros países, e vice-versa.
Mas a capacidade da IA de 'alucinar' – de inventar coisas – já está bem documentada, e uma previsão falsa de uma catástrofe iminente, especialmente se incluir ordens de evacuação, poderia ser incrivelmente perturbadora e potencialmente perigosa. Além disso, os dados usados para alimentar a IA devem ser precisos, confiáveis e livres de problemas de privacidade e cibersegurança, e, em um nível mais político, devem ser utilizáveis tanto por sociedades tecnicamente avançadas quanto por sociedades em desenvolvimento.
Existem riscos, por exemplo, de que países avançados possam pegar e usar dados de outros países sem depois compartilhar as informações obtidas da análise desses dados pela IA.
"Os dados são a força vital de muitas economias hoje", disse Taro Kono, ministro japonês da Transformação Digital e da Reforma, em uma das sessões de abertura. "Mas eles são fragmentados, a governança é fragmentada, os formuladores de políticas nem sempre estão cientes das tecnologias emergentes que podem ajudar e o público em geral precisa entender as ameaças relacionadas à desinformação e à exatidão dos dados."
Leia também:China revela regulamentações mais rigorosas para dados de treinamento de IA
Como a IA e os dados ajudaram durante a COVID
Os benefícios desse tipo de combinação IA-dados foram particularmente visíveis durante odesenvolvimento das vacinas contra a COVID-19. "A COVID mostrou como os dados são importantes para desbloquear inovações em saúde", disse Courtney Gregoire, diretora de segurança digital da Microsoft. "Bons dados geram melhores ideias, melhor produtividade e ajudam a todos. Mas os cidadãos precisam sentir que seus dados estão seguros e protegidos, por isso precisamos de mecanismos de confiança para a transferência de dados."
Moderna e Pfizer conseguiram criar suas vacinas contra a COVID em tempo recorde e distribuí-las de forma muito mais eficiente graças aos métodos de IA. Por mais longa que a pandemia tenha parecido, teria sido muito pior sem os desenvolvimentos da IA e os protocolos de compartilhamento de dados que permitiram realizar um programa de vacinação global.
Desenvolvimentos como oDHIS2 da Universidade de Oslotambém ajudarão em futuras iniciativas de saúde e epidemias. Trata-se de um sistema de informação de gestão de saúde de código aberto já utilizado em 100 países que concordaram em compartilhar seus dados no sistema.
E a iniciativaData Free Flow with Trust (DFFT), lançada pelo Japão em 2019, reunirá pessoas do governo, academia, setor privado e sociedade civil (ONGs, organizações de consumidores) para tentar preencher algumas das lacunas que existem atualmente nas diretrizes (quando existem) para o fornecimento e uso de dados.
Leia também:Valor do Worldcoin cai 50% em meio a crescentes preocupações com privacidade de dados
Os vieses da IA e como resolvê-los
Além dos ganhos incríveis que podem ser obtidos usando dados globais e IA, existem fraquezas, pelo menos atualmente. Pequenos defeitos nos dados podem ser exacerbados pela máquina. "Os vieses na IA são muito reais", disse Ivana Bartoletti, diretora global de privacidade da Wipro. "Sabemos que a IA oferece empregos com salários mais baixos para mulheres, por exemplo, e, portanto, a tomada de decisão automatizada e esses vieses afetarão vidas."
O problema, no entanto, não é apenas tecnológico, pois os modelos de IA são sempre treinados em dados e informações existentes, que são moldados por humanos. "Esses problemas podem ser abordados de um ponto de vista técnico, mas o problema é mais profundo", acrescentou Bartoletti. "Ele está enraizado na sociedade."
Oprocesso de Hiroshimaespera abordar isso em breve. Criado durante a cúpula do G7 em Hiroshima no início de 2023, o 'Processo de Hiroshima do G7 sobre Inteligência Artificial Generativa' visa fornecer um código de conduta, bem como perguntas a serem consideradas, para qualquer pessoa que use modelos de IA generativa. O relatório final será submetido antes do final de 2023.
Informação falsa e desinformação na IA generativa
Uma das maiores preocupações com a IA generativa é, claro, a produção e proliferação de 'notícias falsas' – imagens, vídeos e histórias que parecem documentar a realidade, mas são ficções, e muitas vezes criadas para fins prejudiciais. "A tecnologia hackeou nossa biologia para contornar nossas mentes racionais enquanto as várias plataformas disputam nossa atenção", disse Maria Ressa, CEO e fundadora da Rappler, e ganhadora do Prêmio Nobel da Paz de 2021. "Setenta por cento do mundo está agora sob regime autoritário, e as plataformas de mídia social continuam a negar, desviar e atrasar. Precisamos agir mais rápido.
Este é um momento cultural para o mundo."
Leia também:Deepfake do Mr. Beast vendendo iPhones por US$ 2 viraliza no TikTok
Ressa destacou que 'as mentiras se espalham seis vezes mais rápido que a verdade', uma estatísticadescoberta pelo MIT Media Lab, e explicada pelo fato de que as falsidades são quase sempre projetadas para explorar nossas respostas emocionais, enquanto os fatos nus e crus não.
O presidente de assuntos globais do Meta, Nick Clegg, destacou o trabalho que eles realizam, usando a própria IA para combater os aspectos negativos da IA generativa. "Os discursos de ódio no Facebook ocorrem a uma taxa de cerca de 0,01% a 0,02%, portanto, para cada 10.000 publicações que você rola, uma ou duas podem ser consideradas prejudiciais. E isso diminuiu 60% nos últimos 18 meses, graças ao nosso uso da IA para combatê-los. Portanto, usamos a IA como uma ferramenta para minimizar o ruim e amplificar o bom."
O presidente de assuntos globais do Google, Kent Walker, também destacou o trabalho que o Google realiza, como com o SynthID, que tenta detectar conteúdo gerado por IA e marcá-lo como tal, e o Secure AI Framework (SAIF), que visa reduzir os riscos na implementação e uso de modelos de IA, especialmente em torno de dados. "Identificar imagens e vídeos no nível do pixel para que possamos autenticar sua proveniência, rotular imagens de IA em anúncios eleitorais – tudo isso é projetado para entender o significado subjacente do conteúdo, para determinar no que podemos e não podemos confiar", disse ele.
Essa palavra 'confiança' é como a reunião de quatro dias começou, e é apropriado que tenha sido repetida várias vezes. Maria Ressa foi particularmente enfática ao afirmar que a confiança está no centro dos problemas e das oportunidades que a IA traz, e que tudo começa com a exatidão dos dados nos quais a IA é treinada. "Sem fatos, você não tem verdade, e sem verdade, você não tem confiança, e sem essas três coisas, você não tem liberdade nem democracia."
Dado que a IA generativa pode criar 'um tsunami de informações instantaneamente', para citar Tatsuhiko Yamamoto, professor da faculdade de direito da Universidade Keio, qualquer trabalho que possa ajudar a mitigar a epidemia de notícias falsas vale a pena.