- As autoridades federais esperam que este acordo desencoraje o uso enganoso de imagens geradas por inteligência artificial se passando por políticos e outros.
- Uma empresa de telecomunicações concordou em pagar uma multa de US$ 1 milhão por seu papel em um robô deepfake que imitava a voz do presidente Joe Biden antes das primárias democratas de New Hampshire, anunciaram as autoridades federais na quarta-feira.
NOSSA OPINIÃO
Não há dúvida de que esta decisão colocou alguma pressão sobre Biden, mas ainda não se sabe o que o avanço da IA significa para a eleição geral. O uso da IA para ajudar os políticos a ajudar.O ato eleitoral em si não é culpado, mas o uso abusivo da tecnologia de IA acabará por semear perigos ocultos para os dias vindouros. As autoridades competentes deveriam começar por este caso e regulamentar o uso da IA.
— Iydia Ding, jornalista da BTW
O que aconteceu
Lingo Telecom, uma empresa de telecomunicações, concordou em pagar uma multa de US$ 1 milhão por seu papel em um robô deepfake que imitava a voz do presidenteJoe Bidenantes das primárias democratas de New Hampshire, anunciaram as autoridades federais na quarta-feira. O robô usava uma simulação gerada por IA da voz de Biden para dizer aos eleitores de New Hampshire para não votarem nas primárias democratas de janeiro.
Conforme revelado pela NBC News em primeira mão, a chamada foi orquestrada pelo consultor político de longa dataSteve Kramer, que trabalhava para uma campanha rival na época, embora Kramer tenha dito que fez isso para conscientizar sobre os perigos dos deepfakes. Kramer e seu empregador na época, o deputado democrata de Minnesota Dean Phillips, insistiram que nenhum membro da equipe de campanha havia orientado Kramer ou sequer estava ciente de suas ações.
Kramer também enfrenta uma multa separada de US$ 6 milhões da FCC e 26 acusações criminais por intimidação de eleitores e suplantação de um funcionário público em New Hampshire. Ele está atualmente em liberdade sob fiança.
Leia também:Congo Telecom treina cadetes da polícia em práticas de cibersegurança
Por que isso é importante
Lingo Telecom, um provedor de serviços de voz que distribuiu chamadas automatizadas geradas por IA através de números de telefone 'usurpados', pagará uma multa de sete dígitos e aceitará um protocolo de supervisão mais rigoroso no que as autoridades federais classificam como a primeira medida repressiva contra deepfakes maliciosos ou suplantação de identidade impulsionada por IA.
“A intimidação de eleitores, seja realizada pessoalmente ou por chamadas telefônicas automatizadas deepfake, campanhas de desinformação online ou outras táticas impulsionadas por IA, pode constituir um verdadeiro obstáculo para eleitores que buscam se manifestar em nossa democracia”, disse em comunicado a diretora da Divisão de Direitos Civis do Departamento de Justiça, Kristen Clarke.
O robô Biden foi o primeiro uso de deepfakes na política nacional americana, por isso as autoridades afirmam ter agido rapidamente e de forma agressiva para acabar com os deepfakes políticos, que se tornaram cada vez mais comuns em vários outros países.
“Ao responsabilizar a Lingo Telecom por seu papel na transmissão de chamadas robotizadas usurpadas com mensagens geradas por IA, a FCC envia uma mensagem forte de que não tolerará interferência eleitoral e tecnologias de usurpação”, disse em comunicado o procurador-geral de New Hampshire, John Formella.