- Установлено, что TikTok показывает разным группам людей разные комментарии, намеренно провоцируя конфронтацию и создавая информационные коконы.
- Amazon, Ctrip и другие платформы используют профили пользователей, чтобы корректировать цены и увеличивать прибыль.
- Всё активнее используются биометрические данные: распознаются выражения лица, голос и даже движения мыши.
В сентябре 2023 года 23-летний молодой человек из провинции Шаньси в Китае опубликовал в TikTok видео, чтобы поделиться шокирующим открытием. В ролике, где ссорилась пара, комментарии, которые показывались ему, полностью отличались от комментариев, которые видела его девушка. Раздел комментариев TikTok выглядел намеренно антагонистичным. В том варианте, который видела девушка, комментарии были в основном с женской точки зрения. Кроме того, им показывали чрезвычайно злобные комментарии, специально призванные разжечь ссору. Мужчины же видели всё совсем иначе.
Некоторые китайские интернет-пользователи осознали: «Конечно, неудивительно, что я то и дело не вижу других мнений в разделе комментариев».
Другие выразили глубокую обеспокоенность этой ситуацией: «Наша картина мира становится всё уже, мышление — всё более крайним, а предубеждения — всё серьёзнее».
Читайте также:Радикальные перемены TikTok: вторая волна обратного выкупа акций
Виновник информационного кокона — персонализация
И правда в том, что такой контент, сшитый по индивидуальной мерке на основе чрезвычайно детальных профилей, которые крупные технологические компании создают на каждого пользователя, расширяется и проникает всё глубже в различные стороны нашей цифровой жизни.
- Amazon: первый случай индивидуальной персонализации цен
Вы можете думать, что видите о товаре ровно ту же информацию и по той же цене, что и ваш друг, коллега или родственник, когда прокручивает страницу. Но в 2000 году Amazon провёл эксперимент с дифференцированным ценообразованием: для каждого из своих 68 самых продаваемых DVD он устанавливал каждому покупателю свою цену в зависимости от его данных и поведения, что значительно увеличило валовую маржу с этих продаж. Amazon рассчитывал индивидуальную для вас цену с учётом вашего пола, возраста, увлечений, прошлых трат и других личных данных. Это зона взаимного комфорта: вы готовы заплатить, а платформа зарабатывает больше.
А вот как создаются эти профили — здесь начинается настоящая научная фантастика, от которой не уснёшь. То, как вы двигаете мышью, как быстро печатаете, какие звуки издаёте, как часто моргаете, даже некоторые микровыражения, — все эти данные, включая данные о ставках, встроенные в алгоритмы крупных технологических компаний, могут собираться из множества действий, о которых вы, вероятно, даже не думаете в контексте приватности.
«В совокупности эти методы позволяют изучать едва заметные физические особенности, которые уникальны для человека и не осознаются им (например, походку)», — говорит Ryan Payne, исследователь Технологического университета Квинсленда.
Как поясняет Payne, за всем этим стоит технология биометрического ценообразования (BPT) — важное новое направление применения технологии биометрического отслеживания. Пока большинство биометрических технологий находятся на стадии статического ценообразования: цена предопределена заранее и не связана с взаимодействием с потребителем в реальном времени. Нужно время, чтобы собрать достаточно биологических данных пользователя, а затем скорректировать цену, — то есть пройти три фазы: «кликнуть и ждать», «наблюдать» и «скорректировать после размышления».
Более продвинутая технология биометрического ценообразования на основе отслеживания лица позволяет корректировать цену в реальном времени и переходить к подлинно динамическому ценообразованию.
Читайте также:ИИ-ассистент Amazon Q: AWS представляет революционный подход к запросам данных
- Ctrip: большие данные убивают лояльность
Обычно мы считаем, что постоянные пользователи получают более низкие цены. Но в реальности некоторые компании и платформы извлекают больше прибыли, эксплуатируя зависимость клиентов.
Конкретный пример — госпожа Hu, которая всегда бронировала авиабилеты и отели через приложение Ctrip и потому является на платформе VIP-клиентом уровня Diamond со скидкой 20 %. В июле 2020 года госпожа Hu, как обычно, забронировала через приложение Ctrip отель по цене 2889 юаней. Однако при выезде из отеля она обнаружила, что реальная указанная цена номера составляла всего 1377,63 юаня. Госпожа Hu не только не получила скидку, на которую вправе рассчитывать клиенты со звёздным статусом, но и заплатила за номер вдвое больше.
- Скрытая индустрия, стоящая за обманом во время беременности
Некоторые приложения для мам и малышей начинают использовать алгоритмы больших данных, чтобы давать точные рекомендации после того, как пользовательницы добавляют метку о беременности. Беременным женщинам они продвигают центры послеродового ухода, товары для мам и малышей и родительские знания. Будущим отцам — эротические видео, а также рассылают множество SMS с обещанием «особых услуг», подталкивая мужчин к нерациональным решениям.
Некоторые такие приложения систематически и настойчиво напоминают пользовательницам пригласить пап скачать приложение и вместе участвовать в уходе за ребёнком после регистрации, но за этим может скрываться серая индустриальная цепочка, подталкивающая мужчин к изменам во время беременности.
«Это петля обратной связи социального одобрения... ровно то, что мог бы придумать хакер вроде меня, ведь вы эксплуатируете уязвимость человеческой психологии», — заявил Sean Parker, первый президент Facebook.
«Опасность пребывания в наших эхо-камерах в том, что это может увековечивать фейковые новости, сужать наши взгляды и, как мы тоже видели, влиять на то, как люди решают голосовать на выборах».
Sangeeta Waldron, основательница, автор и приглашённый спикер Serendipity PR & Media
Подтверждающая предвзятость и крайнее мышление
Информационный кокон будет и дальше укреплять наши сложившиеся убеждения и взгляды, если человек сосредоточивается только на самостоятельно отобранном или нравящемся ему контенте и сокращает контакт с остальной информацией.
Мы живём в иллюзии, что вы и я получаем одни и те же данные и что наши онлайн-обсуждения основаны на стандартном наборе фактов. Но правда в том, что у каждого из нас своё «Шоу Трумана»: мы видим мир, который алгоритмы сформировали специально для нас. Это может делать людей слепыми, крайними и легко управляемыми, всё менее способными принимать иные точки зрения, что может вести к распространению предубеждений и дискриминации, росту антагонизма и социальным потрясениям.
Jonathan Haidt, социальный психолог из Нью-Йоркского университета, заявил: «Среди американских подростков произошёл резкий рост депрессии и тревожности, резко выросло число подростков, прибегающих к самоповреждению и даже суициду; число эпизодов самоповреждения у девочек 10–14 лет выросло на 151 %. Эта картина роста указывает на социальные медиа».
Sangeeta Waldron, основательница, автор и приглашённый спикер Serendipity PR & Media, заявила: «Опасность пребывания в наших эхо-камерах в том, что это может увековечивать фейковые новости, сужать наши взгляды и, как мы тоже видели, влиять на то, как люди решают голосовать на выборах».
Это одна из граней информационного кокона и алгоритмической ловушки, в которую попадает общество в целом.
Рука за спиной:
- Биометрия
Payne привёл и другие сценарии, где может применяться биометрия: определение академического потенциала студента, решения о призыве в армию или подборе идеальных сотрудников, персонализация кинотрейлеров. Даже доход, сексуальная ориентация, раса, семейное положение, IQ, политическая принадлежность человека и его эмоции (особенно негативные) становятся видимыми с помощью этой, в некотором роде всесильной, технологии.
«Дети в процессе обучения могли бы получать персонализированный контент, врачи знали бы, какой уровень языка использовать и с какими эмоциями и терпением пациентов им предстоит работать; будь у нас возможность предсказывать IQ, люди могли бы строить карьеру в соответствии со своими способностями и получать более сильное чувство удовлетворения». Так Payne прогнозирует ближайшее будущее.(нажмите здесь, чтобы узнать подробнее)
«Однако через социальные медиа и массовое распространение видеонаблюдения, в сочетании с отсутствием возможности владеть территорией, способностью вести... Так мы в каком-то смысле создали сами себе паноптическую тюрьму. Не через профилирование, а через рост слежки и осуждения. Не через профилирование, а через рост слежки и жажду пользовательского контента», — говорит Payne.
«…в сочетании с отсутствием возможности владеть территорией, способностью вести... Так мы в каком-то смысле создали сами себе паноптическую тюрьму».
Ryan Payne, Технологический университет Квинсленда
- Извлечение признаков в анализе тональности
Анализ тональности — это метод автоматического извлечения, классификации и обобщения настроений и эмоций из текстов в интернете. Он позволяет машинам определять общественное мнение о товарах, услугах, политических курсах и политике, даёт платформам возможность выстраивать персонализированные рекомендации, а компаниям и правительствам — отслеживать общественные настроения.
Коконинг: право решать — в руках пользователя
Пользователи вправе определять свою информационную ленту и могут активно управлять своими данными через настройки конфиденциальности и разрешения на данные. После введения китайских Правил администрирования информационных услуг мобильных интернет-приложений несколько известных платформ, даже включив функцию отключения персонализированных рекомендаций, намеренно спрятали кнопку отключения в углу своих приложений. В нынешних условиях пользователям приходится самим отстаивать свои права и интересы и активно участвовать в информационном взаимодействии с площадками.
Lindsey Chastain, основательница и генеральный директор The Writing Detective, утверждает: «Признавайте, что персонализированные результаты искажаются коммерческими интересами платформы, — и сохраняйте здоровый скептицизм».
«Признавайте, что персонализированные результаты искажаются коммерческими интересами платформы, — и сохраняйте здоровый скептицизм».
Lindsey Chastain, основательница и генеральный директор The Writing Detective
Более того, пользователям стоит самим проявлять инициативу и получать информацию из первых рук, а не позволять себя обрабатывать. Только через большое разнообразие информации и развитие умения определять её подлинность можно выстроить более полную и объективную когнитивную систему. Когда пользователи перестают тратить время на активный поиск, чтение и осмысление информации и пассивно принимают так называемый «интересный» контент, который алгоритмы впихивают в нас, разорвать существующую структуру знаний не получится.
Давайте помнить: мы должны быть отправной точкой получения информации, а не её конечной точкой. По крайней мере, чтобы не быть одураченными крупными корпорациями, нам стоит хоть как-то сопротивляться информационному кокону!