Empresa de telecomunicações concorda com multa de US$ 1 milhão por deepfake de Biden

Empresa de telecomunicações concorda com multa de US$ 1 milhão por deepfake de Biden é alvo de perfil da BTW Media porque evidências publicadas o vinculam à infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• As autoridades federais esperam que o acordo desencoraje o uso enganoso de imagens geradas por inteligência artificial se passando por políticos e outros.
• Uma empresa de telecomunicações concordou em pagar uma multa de US$ 1 milhão por seu papel em um robô deepfake que imitou a voz do presidente Joe Biden antes da primária democrata de New Hampshire, anunciarão as autoridades federais na quarta-feira.

NOSSA ANÁLISE
Não há dúvida de que a ação trouxe certa pressão a Biden, mas há tempos não está claro o que a ascensão da IA significa para as eleições gerais. O uso da IA para auxiliar políticos em suas campanhas não é condenável em si, mas o uso indevido da tecnologia de IA acabará por semear perigos ocultos para os dias vindouros. As autoridades competentes devem começar por este caso e regulamentar o uso da IA.
— Iydia Ding, repórter do BTW

O que aconteceu

A empresa de telecomunicaçõesLingo Telecomconcordou em pagar uma multa de US$ 1 milhão por seu papel em um robô deepfake que imitou a voz do presidenteJoe Bidenantes da primária democrata de New Hampshire, anunciarão as autoridades federais na quarta-feira. O robô usou uma simulação gerada por IA da voz de Biden para dizer aos eleitores de New Hampshire que não votassem na primária democrata de janeiro.

Como revelou primeiro a NBC News, a chamada foi orquestrada pelo consultor político de longa dataSteve Kramer, que trabalhava para uma campanha rival na época, embora Kramer tenha dito que o fez para conscientizar sobre os perigos dos deepfakes. Kramer e seu então empregador, o deputado democrata de Minnesota Dean Phillips, insistiram que ninguém da equipe de campanha orientou Kramer ou sequer soube de suas ações.

Kramer também enfrenta uma multa separada de US$ 6 milhões da FCC e 26 acusações criminais de intimidação de eleitores e falsa identidade de funcionário público em New Hampshire. Ele está atualmente em liberdade sob fiança.

Leia também:O presidente Biden estava ligando para eleitores? Pessoas relatam chamadas denunciando a primária de New Hampshire

Leia também:Congo Telecom capacita cadetes da polícia em práticas de cibersegurança

Por que isso é importante

A Lingo Telecom, uma provedora de serviços de voz que distribuiu chamadas automáticas geradas por IA por meio de números de telefone “falsificados” (spoofed), pagará uma multa de sete dígitos e concordará com um protocolo de supervisão mais rigoroso no que as autoridades federais dizem ser a primeira ação de fiscalização contra deepfakes maliciosos ou falsificação de identidade de terceiros impulsionada por IA.

“A intimidação de eleitores, seja realizada pessoalmente ou por meio de chamadas telefônicas automáticas deepfake, campanhas de desinformação online ou outras táticas impulsionadas por IA, pode ser um obstáculo real para os eleitores que buscam ter voz em nossa democracia”, disse a diretora da Divisão de Direitos Civis do Departamento de Justiça, Kristen Clarke, em um comunicado.

O robô de Biden foi o primeiro uso de deepfakes na política nacional dos EUA, então as autoridades dizem que agiram rápida e agressivamente para interromper os deepfakes políticos, que se tornaram cada vez mais desenfreados em vários outros países.

Ao responsabilizar a Lingo Telecom por seu papel na transmissão de robocalls falsificados com mensagens geradas por IA, a FCC envia uma mensagem forte de que não tolerará interferência eleitoral e tecnologias de falsificação”, disse o procurador-geral de New Hampshire, John Formella, em um comunicado.