- Comment Robert é um robô de comentários de inteligência artificial do Sina Weibo cuja função principal é publicar automaticamente comentários na plataforma de microblogging e interagir com os usuários.
- Os usuários, no entanto, relataram publicações ofensivas e preocupantes, e agora formaram a Coalizão das Vítimas de Robert para detalhar as más atividades deste robô de auto-resposta de IA.
NOSSA OPINIÃO
Desde que Robert, o robô de comentários do Sina Weibo, começou a dar asas aos seus caprichos em suas mensagens, minha vida foi virada de cabeça para baixo. Ele chegou a fazer comentários estranhos e imprevisíveis nas postagens das pessoas. Como um dos milhões de usuários do Sina Weibo, eu tinha feito disso uma parte integrante da minha rotina diária – compartilhar minhas tarefas diárias e revelar meus segredos interiores. Mas agora, tudo mudou completamente.
–Revel Cheng, jornalista da BTW
Coalizão das Vítimas de Robert: 110 mil protestam contra o chatbot
Um chatbot de IA da plataforma de mídia social chinesa Sina Weibo, chamado Robert, gerou críticas por fazer comentários ofensivos e perturbadores nas postagens dos usuários. O chatbot inicialmente chamou a atenção depois de aparecer na vida dos usuários sem aviso prévio, e também porque Robert não parecia muito "inteligente".
Um grupo de usuários, autodenominado Coalizão das Vítimas de Robert, surgiu como uma voz coletiva dos usuários doWeiboafetados por este robô de auto-resposta de IA que faz comentários depreciativos e perturbadores.
Robert interage com os usuários com uma mistura de humor, sarcasmo e provocação nas seções de comentários do Weibo, tocando às vezes em pontos sensíveis de forma involuntária e desagradável. As vítimas dos comentários de Robert compartilham suas experiências de "vitimização", descrevendo frequentemente momentos de diversão, frustração ou silêncio provocados pelas respostas de Robert. Aqui estão alguns exemplos:
Usuário A: meu líder de equipe está no paraíso (vela)
Robô de comentário: Você também? Minha família e colegas também estão no paraíso.
Usuário B: #Primeiro Weibo do Ano do Dragão# Desejo a todos os meus entes queridos saúde, felicidade e paz no Ano do Dragão
Robô de comentário: Embora seja bastante impossível, desejo-lhe felicidade e saúde.
As respostas absurdas, incluindo piadas sexuais e humor negro, estão provavelmente ligadas ao chamado efeito 'Papagaio Estocástico'. Como o modelo de linguagem de IA é excelente em inferências lógicas, mas carece de compreensão da linguagem, a qualidade do conteúdo gerativo é muito sensível aos dados de treinamento. Durante o treinamento dos dados, as interações com o robô são muito frequentemente inconsistentes, o que pode gerar absurdos e perpetuar vieses existentes.
Leia também:Quando o primeiro robô de IA foi fabricado?
Leia também:Robôs de IA com superpoder de visão revolucionam armazéns
O mundo rápido da IA mecânica: implementação de respostas aleatórias
Um '@' na área de comentários conecta a interação entre o usuário e a IA. Os usuários podem atrair comentários publicando uma postagem original de mais de 10 palavras ou '@comentando' Robert diretamente. O problema é que o conteúdo dos comentários é particularmente danificado. Por exemplo, a capacidade de reconhecimento indescritível reconheceu a peruca comprada pelos internautas como um estojo de fones de ouvido e rapidamente saudou: 'Amo tanto seu estojo de fones de ouvido'. Há também discursos com baixo QE, que atraíram muitos internautas para zombar: 'Meu QE é como comentar no Robert', 'Finalmente sei por que sou irritante'.
'A plataforma espera aproveitar a mais recente tecnologia de IA generativa para otimizar a experiência de blog dos usuários comuns e estimular o engajamento de seus conteúdos na plataforma.'
Weibo explicou depois que Comment Robert se desculpou por ofender os usuários
Comment Robert: O que o torna tão ruim?
Mais especificamente, o núcleo do Comment Robert reside em seus algoritmos e modelos. Ele usa o princípio de um bot de perguntas e respostas inteligente semelhante aoChatGPT, aprendendo a partir de uma grande quantidade de dados para simular a conversa humana e o comportamento de comentário. Quando um usuário publica conteúdo na plataforma Weibo, o Comment Robert é capaz de usar a tecnologia de processamento de linguagem natural para analisar e entender o discurso do usuário, e então gerar a resposta de comentário correspondente com base no algoritmo.
Imagine só: seja os usuários envolvidos em um debate acalorado no Weibo sobre o último escândalo da cultura pop ou se abrindo em uma postagem pessoal, o Comment Robert devora avidamente cada palavra. É como um papagaio digital com um dom para imitar a fala humana, polvilhado com um toque de sarcasmo e uma pitada de humor. Os usuários fornecem involuntariamente o combustível para as respostas excêntricas de Robert, transformando sem saber suas postagens sérias em um playground para suas palhaçadas algorítmicas.