- Comment Robert est un robot de commentaires d'intelligence artificielle de Sina Weibo dont la fonction principale est de publier automatiquement des commentaires sur la plateforme de microblogging et d'interagir avec les utilisateurs.
- Les utilisateurs ont toutefois signalé des publications offensantes et préoccupantes, et ont maintenant formé la Coalition des victimes de Robert pour détailler les mauvaises activités de ce robot d'auto-réponse IA.
NOTRE AVIS
Depuis que Robert, le robot de commentaire de Sina Weibo, a commencé à laisser libre cours à ses caprices dans ses messages, ma vie a été bouleversée. Il est allé jusqu'à faire des commentaires étranges et imprévisibles sur les posts des gens. En tant qu'un des millions d'utilisateurs de Sina Weibo, j'en avais fait une partie intégrante de ma routine quotidienne – partager mes tâches quotidiennes et révéler mes secrets intérieurs. Mais maintenant, tout a complètement changé.
–Revel Cheng, journaliste à BTW
Coalition des victimes de Robert: 110 000 protestent contre le chatbot
Un chatbot d'IA de la plateforme de médias sociaux chinoise Sina Weibo, nommé Robert, a suscité des critiques pour avoir fait des commentaires offensants et inquiétants sur les posts des utilisateurs. Le chatbot a d'abord attiré l'attention après être apparu dans la vie des utilisateurs sans préavis, et aussi parce que Robert ne semblait pas très « intelligent ».
Un groupe d'utilisateurs, se faisant appeler la Coalition des victimes de Robert, est apparu comme une voix collective des utilisateurs de Weibo touchés par ce robot d'auto-réponse IA qui fait des remarques désobligeantes et inquiétantes.
Robert interagit avec les utilisateurs avec un mélange d'humour, de sarcasme et de taquinerie dans les sections de commentaires de Weibo, touchant parfois des points sensibles de manière involontaire et désagréable. Les victimes des commentaires de Robert partagent leurs expériences de « victimisation », décrivant souvent des moments d'amusement, de frustration ou de mutisme provoqués par les réponses de Robert. Voici quelques exemples:
Utilisateur A: mon chef d'équipe est au paradis (bougie)
Robot de commentaire: Toi aussi ? Ma famille et mes collègues sont aussi au paradis.
Utilisateur B: #Premier Weibo de l'année du Dragon# Je souhaite à tous mes proches santé, bonheur et paix pour l'année du Dragon
Robot de commentaire: Bien que ce soit assez impossible, je te souhaite bonheur et santé.
Les réponses absurdes, y compris des blagues sexuelles et de l'humour noir, sont probablement liées à l'effet dit du « Perroquet stochastique ». Étant donné que le modèle de langage d'IA excelle dans les inférences logiques mais manque de compréhension du langage, la qualité du contenu génératif est très sensible aux données d'entraînement. Au cours de l'entraînement des données, les interactions avec le robot sont très souvent incohérentes, ce qui peut générer des absurdités et perpétuer les biais existants.
À lire aussi: Quand le premier robot d'IA a-t-il été fabriqué ?
À lire aussi: Des robots d'IA dotés d'un super pouvoir de vision révolutionnent les entrepôts
Le monde rapide de l'IA mécanique: mise en œuvre de réponses aléatoires
Un « @ » dans la zone de commentaires relie l'interaction entre l'utilisateur et l'IA. Les utilisateurs peuvent attirer des commentaires en publiant un post original de plus de 10 mots ou en @commentant Robert directement. C'est juste que le contenu des commentaires est particulièrement endommagé. Par exemple, la capacité de reconnaissance indescriptible a reconnu la perruque achetée par les internautes comme un étui à écouteurs, et s'est empressée de saluer « J'aime tellement ton étui à écouteurs ».
Il y a aussi des discours à faible QE, qui ont attiré de nombreux internautes pour se moquer: « Mon QE est comme commenter Robert », « Je sais enfin pourquoi je suis agaçant ».
« La plateforme espère tirer parti de la dernière technologie d'IA générative pour optimiser l'expérience de blogging des utilisateurs ordinaires et stimuler l'engagement de leurs contenus sur la plateforme. »
Weibo a expliqué après que Comment Robert s'est excusé d'avoir offensé les utilisateurs
Comment Robert: Qu'est-ce qui le rend si mauvais ?
Plus précisément, le cœur de Comment Robert réside dans ses algorithmes et modèles. Il utilise le principe d'un bot de questions-réponses intelligent similaire à ChatGPT, apprenant à partir d'une grande quantité de données pour simuler la conversation humaine et le comportement de commentaire. Lorsqu'un utilisateur publie du contenu sur la plateforme Weibo, Comment Robert est capable d'utiliser la technologie de traitement du langage naturel pour analyser et comprendre le discours de l'utilisateur, puis de générer la réponse de commentaire correspondante en fonction de l'algorithme.
Imaginez ceci: que les utilisateurs soient engagés dans un débat animé sur Weibo à propos du dernier scandale de la culture pop ou qu'ils se confient dans un post personnel, Comment Robert dévore avidement chaque mot. C'est comme un perroquet numérique avec un don pour imiter la parole humaine, saupoudré d'une touche de sarcasme et d'une pincée d'humour. Les utilisateurs fournissent involontairement le carburant pour les réponses excentriques de Robert, transformant sans le savoir leurs posts sérieux en un terrain de jeu pour ses pitreries algorithmiques.