IGF 2023: IA e big data podem dominar o mundo – e também salvá-lo

IGF 2023: IA e big data podem dominar o mundo – e também salvá-lo é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

Em um enorme centro de conferências de vários andares com vista para um lago estilizado contra um cenário de montanhas verdejantes, milhares de delegados se reuniram recentemente em Kyoto, Japão, para discutir e refletir sobre o futuro da Internet.

O evento de cinco dias estava repleto das frases e bordões usuais que se espera de uma convenção envolvendo políticos de alto nível e porta-vozes corporativos e organizacionais – “engajamento de múltiplas partes interessadas”, “colaboração”, “privacidade, segurança e proteção” foram alguns dos termos mais frequentemente pronunciados. Mas algumas sessões desvendaram o jargão sem inspiração para revelar duas realidades importantes. Primeiro, a Inteligência Artificial (IA), indiscutivelmente o desenvolvimento tecnológico mais poderoso que o mundo já viu, é uma força formidável para o bem e seria um inimigo ainda mais formidável.

Os desenvolvimentos aqui devem garantir que a humanidade domine e controle a IA, e nunca devemos permitir que essa relação se inverta. Segundo, a coleta, o fluxo e o compartilhamento de dados, especialmente através de fronteiras internacionais, oferece oportunidades semelhantes para um progresso dramático, particularmente quando combinados com IA, mas também traz ameaças.

Para ilustrar:

Toda vez que um terremoto atinge, digamos, o Japão, ele fornece enormes quantidades de dados que podem ser analisados usando modelos de IA para tentar prever futuros terremotos e garantir que o próximo seja menos prejudicial e vidas sejam salvas. Se esses dados forem compartilhados através de fronteiras internacionais, os dados de terremotos do Japão poderiam ajudar a salvar vidas em outros países também, e vice-versa.

Mas a capacidade da IA de ‘alucinar’ – inventar coisas – já está bem documentada, e uma previsão falsa de um desastre iminente, particularmente se incluir comandos de evacuação, poderia ser incrivelmente perturbadora e potencialmente prejudicial. Além disso, os dados usados para alimentar a IA precisam ser precisos, confiáveis e livres de preocupações de privacidade e segurança cibernética, e, em um nível mais político, precisam ser utilizáveis tanto por sociedades tecnicamente avançadas quanto por sociedades em desenvolvimento.

Há riscos, por exemplo, de que países avançados possam pegar e usar dados de outros países sem depois compartilhar as informações extraídas pela análise de IA desses dados.

“Os dados são a força vital de muitas economias hoje”, disse Taro Kono, ministro da Transformação Digital e Reforma do Japão, em uma das sessões de abertura. “Mas eles estão fragmentados, a governança está fragmentada, os formuladores de políticas nem sempre estão cientes da tecnologia emergente que pode ajudar e o público em geral precisa entender as ameaças em torno da desinformação e da precisão dos dados.”

Leia também:China Revela Regulamentações Mais Rigorosas para Dados de Treinamento de IA

Como a IA e os dados ajudaram durante a COVID

Os benefícios desse tipo de combinação IA-dados foram melhor observados durante odesenvolvimento das vacinas contra a COVID-19. “A COVID mostrou o quão importantes os dados são para desbloquear inovações em saúde”, disse a diretora de segurança digital da Microsoft, Courtney Gregoire. “Bons dados criam melhores ideias, melhor produtividade e ajudam a todos. Mas os cidadãos devem sentir que seus dados estão seguros e protegidos, por isso precisamos de mecanismos confiáveis para a transferência de dados.”

A Moderna e a Pfizer conseguiram criar suas vacinas contra a COVID em tempo rápido e também distribuí-las de forma muito mais eficaz usando métodos de IA. Por mais prolongada que a pandemia tenha parecido, teria sido muito pior sem os desenvolvimentos de IA e os protocolos de compartilhamento de dados que permitiram que um programa mundial de vacinação fosse realizado.

Desenvolvimentos como oDHIS2 da Universidade de Oslotambém ajudarão em futuras iniciativas e surtos de saúde. É um sistema de informação de gestão de saúde de código aberto que já está em uso em 100 países que concordaram em compartilhar seus dados no sistema.

E a iniciativaData Free Flow with Trust (DFFT), estabelecida pelo Japão em 2019, reunirá pessoas do governo, academia, setor privado e sociedade civil (ONGs, organizações de consumidores) para tentar preencher algumas das lacunas que existem atualmente nas diretrizes (onde existem) para o fornecimento e uso de dados.

Leia também:Valor do Worldcoin Despenca 50% em Meio a Crescentes Preocupações com Privacidade de Dados

Viés da IA e como resolvê-lo

Junto com os ganhos incríveis a serem obtidos usando dados globais e IA, há fraquezas, pelo menos atualmente. Pequenos defeitos nos dados podem ser exacerbados pela máquina. “O viés na IA é muito real”, disse Ivana Bartoletti, diretora global de privacidade da Wipro. “Sabemos que a IA mostra empregos de menor remuneração para mulheres, por exemplo, e assim a tomada de decisão automatizada e esses vieses afetarão vidas.”

O problema não é apenas tecnológico, no entanto, já que os modelos de IA são sempre treinados com dados e informações existentes, que são moldados por humanos. “Esses problemas podem ser abordados do ponto de vista técnico, mas o problema é mais profundo”, acrescentou Bartoletti. “Está enraizado na sociedade.”

OProcesso de Hiroshimaespera enfrentar isso em breve. Criado na cúpula do G7 em Hiroshima no início de 2023, o “Processo de Hiroshima do G7 sobre Inteligência Artificial Generativa” espera fornecer um código de conduta, bem como questões a serem observadas, para qualquer pessoa que use modelos de IA generativa. O relatório final será apresentado antes do final de 2023.

Informações falsas e desinformação na IA generativa

Uma das maiores preocupações em torno da IA generativa é, claro, a produção e proliferação de ‘notícias falsas’ – imagens, vídeos e histórias que parecem documentar a realidade, mas são ficções e muitas vezes são criadas para fins nefastos. “A tecnologia hackeou nossa biologia para contornar nossas mentes racionais enquanto as várias plataformas competem por nossa atenção”, disse Maria Ressa, CEO e fundadora do Rappler, e vencedora do Prêmio Nobel da Paz em 2021. “Setenta por cento do mundo está agora sob regime autoritário, e as plataformas de mídia social continuam a negar, desviar e atrasar. Devemos nos mover mais rápido.

Este é um momento cultural para o mundo.”

Leia também:Deep Fake de Mr Beast Vendendo iPhones por US$2 Viraliza no TikTok

Ressa apontou que “as mentiras se espalham seis vezes mais rápido que a verdade”, uma estatísticadescoberta pelo MIT Media Lab, e explicada pelo fato de que as falsidades são quase sempre projetadas para explorar nossas respostas emocionais, enquanto os fatos secos não o fazem.

O presidente de assuntos globais da Meta, Nick Clegg, apontou para o trabalho que estão fazendo, usando a própria IA para combater os aspectos negativos da IA generativa. “O discurso de ódio no Facebook ocorre a uma taxa de cerca de 0,01% a 0,02%, então para cada 10.000 postagens que você percorre, uma ou duas podem ser consideradas prejudiciais. E isso caiu 60% nos últimos 18 meses, graças ao nosso uso de IA para combatê-lo. Portanto, estamos usando a IA como uma ferramenta para minimizar o ruim e amplificar o bom.”

O presidente de assuntos globais do Google, Kent Walker, também destacou o trabalho que o Google estava fazendo, como com o SynthID, que tenta detectar conteúdo gerado por IA e marcá-lo como tal, e o Secure AI Framework (SAIF), que visa reduzir os riscos ao implementar e usar modelos de IA, particularmente em relação aos dados. “Identificar imagens e vídeos a nível de pixel para que possamos autenticar de onde vieram, rotulagem de imagens de IA em anúncios eleitorais – tudo é projetado para entender o significado subjacente do conteúdo, para determinar no que podemos e não podemos confiar”, disse ele.

Essa palavra “confiança” foi como a reunião de quatro dias começou, e é apropriado que tenha se repetido várias vezes. Maria Ressa foi particularmente enfática ao dizer que a confiança é central para os problemas e oportunidades que a IA traz, e que tudo começa com a precisão dos dados nos quais a IA é treinada. “Sem fatos você não tem verdade, e sem verdade você não tem confiança, e sem os três você não tem liberdade ou democracia.”

Dado que a IA generativa pode criar “um tsunami de informações instantaneamente”, para citar Tatsuhiko Yamamoto, professor da Faculdade de Direito da Universidade Keio, qualquer trabalho que possa ajudar a aliviar a epidemia de notícias falsas vale a pena.