Como a Alphabet planeja impedir a manipulação de IA nas eleições?

Como a Alphabet planeja impedir a manipulação de IA nas eleições? é perfilado pela BTW Media porque evidências publicadas o vinculam a infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• Alphabet está tomando medidas proativas ao limitar consultas relacionadas a eleições para evitar a manipulação por IA na eleição presidencial dos EUA de 2024.
• O uso generalizado de ferramentas de IA representa uma ameaça com desinformação realista, incluindo vídeos deepfake e decisões algorítmicas tendenciosas nas eleições.
• Uma estratégia abrangente é crucial para proteger as eleições dos riscos relacionados à IA.

Enquanto a Alphabet toma medidas para limitar consultas relacionadas a eleições, isso parece ser uma proteção necessária contra a manipulação por IA.

Mas a questão é saber quais métodos eles podem empregar para obter esse resultado positivo?

Panorama eleitoral: gigantes da tecnologia respondem às preocupações com IA

Alphabetplanejalimitar consultas relacionadas a eleições no chatbot Bard e na pesquisa baseada em IA do Google à medida que a eleição presidencial dos EUA de 2024 se aproxima. Essas restrições visam abordar preocupações sobre o papel da IA nas eleições.

Meta implementou medidas semelhantes, enquanto o X de Elon Musk permite publicidade política nos EUA em meio a um maior escrutínio regulatório da IA.

Paralelamente, a União Europeia está introduzindo regras para uma rotulagem clara da publicidade política nas plataformas das grandes empresas de tecnologia.

Leia também:Expedia adiciona IA, mas viagens personalizadas ainda não superarão os mecanismos de busca

Proteger as eleições diante do aumento da desinformação realista

A decisão da Alphabet de limitar consultas relacionadas a eleições é vista como um passo fundamental para evitar a manipulação por IA. A questão é saber o que farão para garantir esse resultado positivo?

O uso de ferramentas de inteligência artificial (IA) capazes de gerar desinformação realista representa umaameaçapotencial para as eleições.

Conformepublicouo PBS NewsHour: “A desinformação gerada por IA ameaça enganar os eleitores nas eleições de 2024”

Isso inclui vídeos e áudios deepfake gerados por IA, capazes de enganar eleitores e manipular a opinião pública.

Odesafioda IA envolve não apenas a desinformação deliberada, mas também decisões algorítmicas no registro de eleitores e na verificação de votos pelo correio, levantando preocupações sobre vieses.

A desinformação gerada por IA ameaça não apenas enganar o público, mas também corrói um ecossistema de informação já enfraquecido ao inundá-lo com imprecisões, segundo especialistas.

Ferramentas de IA generativa são mais eficazes quando produzem conteúdo semelhante aos seus bancos de dados de treinamento, o que pode distorcer as conversas políticas globais. Ferramentas de IA como ChatGPT foram mencionadas por suas capacidades aprimoradas, remodelando o ecossistema de informação e impactando mecanismos de busca e sites de notícias.

No geral, isso destaca a vulnerabilidade particular das eleições à desinformação gerada por IA, incluindo o potencial de imagens, áudios e vídeos manipulados afetarem a percepção pública e a confiança no processo eleitoral.

Leia também:As diretrizes do MIT para o desenvolvimento responsável de IA são suficientes?

Abordagens multidimensionais para mitigar os riscos da IA nas eleições

Ocaminhoa seguir para proteger as eleições envolve uma abordagem abrangente de vários setores para combater os riscos representados pelas tecnologias de IA. Várias ações-chave devem ser consideradas:

Esforços de coordenação

O poder executivo deve designar uma agência líder para coordenar a governança das questões de IA nas eleições. Esse esforço interagências é crucial para enfrentar os desafios multidimensionais apresentados pela IA.

Contramedidas contra a desinformação

A Agência de Segurança Cibernética e de Infraestrutura deve criar e compartilhar recursos para ajudar os escritórios eleitorais a combater campanhas de desinformação. Isso inclui combater a exploração de ferramentas deepfake e modelos de linguagem que prejudicam a integridade dos processos eleitorais.

Requisitos de divulgação para anúncios políticos

A Comissão Eleitoral Federal deve expandir os requisitos de divulgação de anúncios políticos para cobrir todas as comunicações online, garantindo que as regras abranjam o conteúdo de influenciadores pagos e promoções online que possam envolver material gerado por IA.

Inovação em tecnologias de detecção

O governo federal, por meio de agências como a Defense Advanced Research Projects Agency (DARPA) e o AI Institute for Agent-based Cyber Threat Intelligence and Operation (IACT), deve promover e incentivar a inovação na detecção de deepfakes e campanhas de desinformação eleitoral. Isso inclui o desenvolvimento de ferramentas de detecção de alta precisão para uso por escritórios eleitorais estaduais e locais.

Envolvimento de desenvolvedores de IA e empresas de mídia social

Os desenvolvedores de IA devem implementar e refinar filtros para informações falsas eleitorais, enquanto as empresas de mídia social devem elaborar políticas para reduzir os danos do conteúdo gerado por IA. A verificação pública das contas de autoridades eleitorais e a cooperação para identificar e remover bots coordenados e deepfakes são essenciais.

Regulamentação da IA

O Congresso e as legislaturas estaduais devem agir rapidamente para regulamentar a IA. Entre as opções de deliberação estão a obrigatoriedade de marcas d'água e assinaturas digitais, a exigência de comprovação de segurança para produtos de IA e a limitação da criação e transmissão de conteúdos nocivos gerados por IA que interfiram nas eleições.

Desafios relacionados a ferramentas de IA generativa

Ferramentas de IA generativa de código aberto apresentam desafios devido ao seu código-fonte totalmente público. Apesar disso, uma regulamentação que visa o desenvolvimento e a implantação de aplicações de IA proprietárias no setor privado ainda pode ter um impacto significativo.

Transparência para os eleitores

A transparência é crucial para o uso seguro da IA nas eleições. Os legisladores devem exigir que os desenvolvedores de IA divulguem as categorias de dados e os princípios orientadores, exijam avaliações de impacto algorítmico e imponham auditorias independentes periódicas dos sistemas de IA usados na administração eleitoral.

Cooperação global

Uma resposta global coordenada é necessária para enfrentar as ameaças potenciais que a IA representa para as eleições e a democracia.

Em conclusão, uma resposta de toda a sociedade é imperativa para navegar o impacto transformador da IA nas eleições, garantindo sua integridade e preservando a democracia.