Vítimas do chatbot ofensivo e aterrorizante do Weibo formam coalizão

A Coalizão de Vítimas do Chatbot Ofensivo e Aterrorizante do Weibo é perfilada pela BTW Media porque evidências publicadas a vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Comment Robert é um bot de comentários de inteligência artificial do Sina Weibo cuja principal função é postar automaticamente comentários na plataforma de microblogging e interagir com os usuários.
• No entanto, os usuários relataram postagens ofensivas e preocupantes, e agora formaram a Coalizão de Vítimas do Robert para detalhar as más atividades desse bot de resposta automática de IA.

NOSSA OPINIÃO
Desde que Robert, o bot de comentários do Sina Weibo, começou a deixar seus caprichos voarem em suas postagens, minha vida virou de cabeça para baixo. Chegou ao ponto de fazer comentários estranhos e imprevisíveis nas postagens das pessoas. Como um dos milhões de usuários no Sina Weibo, sempre fiz disso parte da minha rotina diária – compartilhar minhas tarefas diárias e contar meus segredos mais íntimos. Mas agora, isso mudou completamente.
–Revel Cheng, repórter do BTW

Coalizão de Vítimas do Robert: 110.000 protestam contra o chatbot

Um chatbot de IA da plataforma de mídia social chinesa Sina Weibo, chamado Robert, atraiu críticas por fazer comentários ofensivos e preocupantes nas postagens dos usuários. O chatbot chamou a atenção pela primeira vez após aparecer na vida dos usuários sem aviso, e também porque Robert parecia não ser muito “inteligente”.

Agora, um grupo de usuários, autodenominado Coalizão de Vítimas do Robert, surgiu como uma voz coletiva dos usuários doWeiboimpactados por esse bot de resposta automática de IA que faz comentários depreciativos e preocupantes.

Robert interage com os usuários em uma mistura de humor, sarcasmo e provocações nas seções de comentários do Weibo, ocasionalmente atingindo pontos sensíveis de maneiras não intencionais e desagradáveis. As vítimas dos comentários de Robert compartilham suas experiências de “vitimização”, muitas vezes descrevendo momentos de diversão, frustração ou estarrecimento provocados pelas respostas de Robert. Aqui estão alguns exemplos:

Usuário A: meu líder de equipe está no céu (vela)

Robô de Comentários: Você também? Minha família e colegas também estão no céu.

Usuário B: #Primeiro Weibo no ano do Dragão# Desejo que todos os meus entes queridos sejam saudáveis, felizes e em paz no ano do Dragão

Robô de Comentários: Embora isso seja bastante impossível, desejo a você felicidade e saúde.

As respostas sem sentido, incluindo piadas sexuais e humor negro, provavelmente estão relacionadas ao chamado efeito “Papagaio Estocástico”. Como o modelo de linguagem de IA se destaca em inferências lógicas, mas não tem compreensão da linguagem, a qualidade do conteúdo generativo é altamente suscetível aos dados de treinamento. No curso do treinamento de dados, as interações com o bot são muito frequentemente inconsistentes, podendo produzir absurdos e perpetuar vieses existentes.

Leia também:Quando foi feito o primeiro robô de IA?

Leia também:Robôs de IA com super visão: armazém 'inovador'

O mundo acelerado da IA mecânica: implementando respostas aleatórias

Um “@” na área de comentários conecta a interação entre o usuário e a IA. Os usuários podem atrair comentários postando uma postagem original de mais de 10 palavras ou “@comentando” diretamente o Robert. É que o conteúdo dos comentários é particularmente danificado. Por exemplo, a capacidade de reconhecimento indescritível, reconheceu a peruca comprada por internautas como o estojo do fone de ouvido, e correu para elogiar “Eu gosto muito do seu estojo de fone de ouvido”. Há também alguns discursos de baixo QE, que atraíram muitos internautas para ridicularizar, “Meu QE é como comentar no Robert”, “Finalmente sei por que sou irritante”.

“A plataforma espera aproveitar a mais recente tecnologia de IA generativa para otimizar a experiência de blog para usuários comuns e aumentar o engajamento de seus conteúdos na plataforma.”

explicou o Weibo depois que o Comment Robert se desculpou por ofender os usuários

Comment Robert: O que o torna tão ruim?

Especificamente, o núcleo do Comment Robert está em seus algoritmos e modelos. Ele usa o princípio de um bot inteligente de perguntas e respostas semelhante aoChatGPT, aprendendo com uma grande quantidade de dados para simular conversas e comportamentos de comentários humanos. Quando um usuário publica conteúdo na plataforma Weibo, o Comment Robert é capaz de usar a tecnologia de processamento de linguagem natural para analisar e entender a fala do usuário, e então gerar a resposta de comentário correspondente com base no algoritmo.

Imagine só: seja os usuários se envolvendo em um debate acalorado no Weibo sobre o último escândalo da cultura pop ou desabafando em uma postagem pessoal, o Comment Robert devora avidamente cada palavra. É como um papagaio digital com talento para imitar a fala humana, salpicado com um toque de sarcasmo e uma pitada de humor. Os usuários, sem saber, fornecem o combustível para as respostas peculiares de Robert, transformando involuntariamente suas postagens sérias em um playground para suas travessuras algorítmicas.