Meta bane empresa israelense por conteúdo enganoso gerado por IA

Meta bane empresa israelense por conteúdo enganoso gerado por IA é perfilada pela BTW Media porque evidências publicadas a vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Meta Platforms desmantelou uma rede de contas falsas, totalizando mais de 500 no Facebook e 32 no Instagram, associada a uma empresa de tecnologia israelense.
• Apesar dos sistemas automatizados da Meta detectarem e desativarem uma parte significativa da rede, permanecem preocupações sobre a propagação de conteúdo inautêntico nas plataformas de mídia social. A Meta afirmou ter banido a empresa de sua plataforma.
• À medida que as eleições presidenciais se aproximam na União Europeia e nos Estados Unidos, governos e empresas de tecnologia monitoram de perto o uso da inteligência artificial nas eleições e as tentativas de atores estrangeiros de influenciar opiniões políticas americanas e semear discórdia.

A Meta revelou que algumas contas falsas se passando por estudantes judeus e outros estudantes usaram conteúdo falso, potencialmente gerado por inteligência artificial, no Facebook e Instagram para fazer comentários contra usuários nos Estados Unidos e Canadá. A Meta atribuiu esta série de informações enganosas a uma empresa de marketing político baseada em Tel Aviv, STOIC.

Representantes da STOIC não responderam imediatamente às mensagens solicitando comentários sobre o relatório da Meta.

Conteúdo falso nas plataformas da Meta

Meta Platformsdesmantelou uma rede de contas falsas, totalizando mais de 500 no Facebook e 32 no Instagram, associada a uma empresa de tecnologia israelense.

Essas contas, se passando por residentes americanos e canadenses, incluindo estudantes judeus e afro-americanos, usaram comentários gerados por IA para elogiar Israel e criticar o antissemitismo nos campi.

Os comentários, principalmente em inglês, concentravam-se em tópicos como a libertação de reféns israelenses, apoio às ações militares de Israel e críticas ao islamismo radical e ao antissemitismo nos campi.

Apesar de os sistemas automatizados da Meta terem detectado e desativado uma parte significativa da rede, subsistem preocupações sobre a propagação de conteúdo inautêntico nas plataformas sociais. A Meta afirmou ter banido a empresa de sua plataforma.

Leia também:Intuit aumenta estimativas anuais com demanda por produtos baseados em IA

Leia também:IA ajuda a encontrar parceiro para 'a planta mais solitária do mundo'

Preocupações sobre a tecnologia de IA generativa

A Meta e outros gigantes da tecnologia enfrentam dificuldades para combater o potencial uso indevido das novas tecnologias de IA, especialmente nas eleições.

À medida que as eleições presidenciais se aproximam naUnião Europeiae nos Estados Unidos, governos e empresas de tecnologia monitoram de perto o uso da inteligência artificial nas eleições e as tentativas de atores estrangeiros de influenciar opiniões políticas americanas e semear discórdia. Os usuários estão aproveitando a IA generativa, que engloba ferramentas de IA capazes de produzir textos convincentes e fluidos, imagens realistas e vídeos, para compartilhar conteúdo nas plataformas da Meta. Apesar da afirmação da Meta de que isso não prejudicou sua capacidade de interromper tais redes, permanecem preocupações sobre o uso indevido de tecnologias de IA em operações de influência, especialmente à medida que as eleições se aproximam, o que constitui um teste chave para as defesas da Meta contra esse tipo de conteúdo enganoso.