- Комментатор Роберт — это ИИ-бот для комментариев на Sina Weibo, основная функция которого — автоматически публиковать комментарии на платформе микроблогов и взаимодействовать с пользователями.
- Однако пользователи сообщили об оскорбительных и тревожных публикациях и создали «Коалицию жертв Роберта», чтобы задокументировать вредоносную активность этого ИИ-бота автокомментариев.
НАШЕ МНЕНИЕ
С тех пор как Роберт, бот-комментатор Sina Weibo, начал в своих сообщениях давать волю капризам, моя жизнь перевернулась. Он доходил до того, что оставлял странные и непредсказуемые комментарии под постами людей. Как один из миллионов пользователей Sina Weibo, я сделал его неотъемлемой частью своей повседневной рутины — делился повседневными делами и раскрывал внутренние секреты. Но теперь всё полностью изменилось.
– Revel Cheng, журналист BTW
Коалиция жертв Роберта: 110 000 протестуют против чат-бота
ИИ-чат-бот китайской социальной платформы Sina Weibo по имени Роберт вызвал критику из-за оскорбительных и тревожных комментариев под постами пользователей. Сначала бот привлёк к себе внимание тем, что без предупреждения появился в жизни пользователей, а также тем, что Роберт не казался особенно «умным».
Группа пользователей, называющая себя Коалицией жертв Роберта, стала коллективным голосом пользователейWeibo, пострадавших от этого ИИ-бота автокомментариев, оставляющего обидные и тревожные замечания.
Роберт взаимодействует с пользователями, сочетая в комментариях Weibo юмор, сарказм и подшучивание, иногда невольно и неприятно задевая за живое. Жертвы комментариев Роберта делятся опытом «попадания в жертвы», часто рассказывая о моментах веселья, раздражения или оцепенения, вызванных его ответами. Вот несколько примеров:
Пользователь A: мой тимлид в раю (свеча)
Бот-комментатор: у тебя тоже? Мои родные и коллеги тоже в раю.
Пользователь B: #Первый Weibo года Дракона# Желаю всем близким здоровья, счастья и мира в год Дракона
Бот-комментатор: хотя это вряд ли возможно, желаю тебе счастья и здоровья.
Абсурдные ответы, включая пошлые шутки и чёрный юмор, вероятно, связаны с так называемым эффектом «стохастического попугая». Поскольку языковая модель ИИ сильна в логических выводах, но ей недостаёт понимания языка, качество генерируемого контента очень чувствительно к обучающим данным. В ходе обучения взаимодействия с ботом часто были непоследовательными, что может порождать абсурд и закреплять существующие предубеждения.
Читайте также:Когда был создан первый робот с ИИ?
Читайте также:ИИ-роботы с суперзрением произвели прорыв на складах
Стремительный мир механического ИИ: как реализуются случайные ответы
Символ «@» в зоне комментариев связывает взаимодействие пользователя и ИИ. Пользователи могут привлечь комментарий, опубликовав оригинальный пост длиннее десяти слов или напрямую упомянув Роберта через «@». Проблема в том, что содержание комментариев особенно пострадало. Например, необъяснимая способность распознавания приняла купленный пользователями парик за чехол для наушников и поспешила поприветствовать: «Мне так нравится твой чехол для наушников». Есть и высказывания с низким EQ, над которыми многие пользователи посмеиваются: «Мой EQ как у бота Роберта», «Наконец-то я понимаю, почему я раздражаю».
«Платформа надеется использовать новейшие технологии генеративного ИИ, чтобы улучшить опыт ведения блогов у обычных пользователей и повысить вовлечённость в их контент на платформе.»
Так в Weibo объяснили ситуацию после того, как комментатор Роберт извинился за оскорбление пользователей
Комментатор Роберт: что в нём такого плохого?
Если говорить точнее, ядро комментатора Роберта — его алгоритмы и модели. Он использует принцип интеллектуального бота вопросов и ответов, аналогичногоChatGPT, обучаясь на больших объёмах данных, чтобы имитировать человеческое общение и поведение в комментариях. Когда пользователь публикует контент на платформе Weibo, комментатор Роберт с помощью технологии обработки естественного языка анализирует и понимает речь пользователя, а затем на основе алгоритма генерирует соответствующий ответный комментарий.
Представьте: пользователи оживлённо спорят на Weibo о последнем скандале поп-культуры или доверяют личные переживания в личном посте — комментатор Роберт жадно поглощает каждое слово. Он словно цифровой попугай с даром имитировать человеческую речь, приправленный сарказмом и щепоткой юмора. Пользователи невольно подпитывают эксцентричные ответы Роберта, сами того не замечая, превращая свои серьёзные посты в игровую площадку для его алгоритмических выходок.