- TikTok 被发现向不同人群提供不同的评论，故意挑起对抗并制造信息茧房。
- 亚马逊、携程等平台利用用户画像来调整价格并增加利润。
- 生物识别技术被越来越广泛地使用，可以识别表情、声音，甚至鼠标移动。
2023 年 9 月，一位来自中国山西的 23 岁男子发布了一段 TikTok 视频，分享了一个令人震惊的发现。在一对情侣吵架的视频中，他看到评论区的内容与他女友看到的完全不同。TikTok 的评论区似乎故意挑起对立。在女生的评论区里，评论大多是从女性视角出发的。而且，她们看到的评论极为恶毒，明显是为了引发争吵。而男性则看到了截然不同的内容。
一些中国网民意识到：“当然，难怪我很多时候在评论区看不到不同的声音。”
其他人对这一现象表示深切担忧：“我们的视野越来越窄，思维越来越极端，偏见也越来越严重。”
相关阅读：TikTok 的巨大变化：第二轮股票回购
信息茧房的罪魁祸首：个性化
而事实上，这种基于大型科技公司为每个用户创建的极其详细画像的定制内容，正在不断扩大，并深入到我们数字生活的方方面面。
- 亚马逊：个性化价格定制的首个案例
你可能默认看到的产品信息和价格与你的朋友、同事或父母在浏览页面时看到的完全相同。但早在2000 年，亚马逊就进行了一项差异化定价实验，根据每个客户的信息和行为，对其 68 种最畅销的 DVD 商品分别定制不同的价格，这大大提高了这些销售的毛利率。亚马逊根据你的性别、年龄、爱好、过去的消费和其他个人信息，为你预测了一个独一无二的价格。这是一个双方都舒适的区间：你付得起，平台赚得更多。
而他们如何创建这些画像，才是真正让人细思极恐的科幻情节起点。从你移动鼠标的方式，到打字速度，到发出的声音，到眨眼频率，甚至一些微表情，这些行为数据被输入大型科技公司的算法中，可以从无数你甚至从未想过与隐私有关的行为中收集。
“这些方法结合起来，可以观察到个体独特且无意识的细微身体特征（比如一个人的走路方式），”昆士兰科技大学的研究员莱恩·佩恩说道。
佩恩还透露了更多细节，这一切的背后是生物识别定价技术（BPT），这是生物识别追踪技术的一种重要新兴应用。截至目前，大多数生物识别技术仍处于静态定价阶段。这意味着价格是预先确定的，与消费者的实时互动无关。它需要一段时间来收集用户足够的生物数据，然后对价格进行调整，即通过“点击并等待”、“监控”和“考虑后调整”三个阶段。而基于面部追踪的更先进的生物识别定价技术，可以实现实时价格调整，进入真正的动态定价阶段。
相关阅读：亚马逊 Q AI 助手：AWS 推出革命性的数据查询方法
- 携程：大数据杀熟
在我们的通常认知中，我们总认为忠实用户能获得更便宜的价格。但现实是，一些公司和平台通过利用客户的依赖性来获取更多利润。
现实中的例子来自胡女士，她一直通过携程 APP 预订机票和酒店，因此是该平台的钻石 VIP 客户，享受 20%的折扣率。
2020 年 7 月，胡女士像往常一样通过携程APP 预订了一家酒店，价格为 2889 元人民币。然而，在离开酒店时，胡女士偶然发现该酒店的实际挂牌价仅为 1377.63 元人民币。胡女士不仅没有享受到星级客户应得的折扣，反而支付了双倍的房价。
- 孕期欺诈背后的产业链
一些母婴软件在用户添加怀孕标签后，开始利用大数据算法进行精准推送。对于孕妈妈，他们会推送月子中心、母婴用品和育儿知识。对于准爸爸，他们会推送色情视频，甚至发送大量短信，暗示可以提供特殊服务，引诱男性做出不理智的选择。一些母婴软件在用户下载注册后，会系统性地主动提醒用户邀请爸爸一起下载并参与育儿，但其背后可能隐藏着一条引诱男性在孕期出轨的灰色产业链。
“这是一个社会验证反馈循环……正是像我这样的黑客会想出来的东西，因为你在利用人类心理上的一个漏洞，”Facebook 首任总裁肖恩·帕克说道。
“身处回音室中的危险在于，它会助长假新闻，阻碍我们的视野，并且正如我们也看到的那样，影响人们在选举中的投票决定。”
桑吉塔·瓦尔德龙，Serendipity PR & Media 创始人、作者兼客座讲师
确认偏误与极端思维
如果个人只关注自己选择的内容或自己喜欢的内容，并减少对其他信息的接触，信息茧房将继续加强我们现有的信念和观点。
我们产生了你我都接收到相同信息、在线讨论基于一套标准事实的幻觉。但事实是，我们每个人都有各自的《楚门的世界》，我们所看到的是算法为我们量身定制的世界。这会使人们变得盲目、极端和容易被操纵，使人们越来越难以接受不同观点，甚至导致偏见和歧视的滋生，以及越来越对立化的倾向，从而引发社会不稳定。
纽约大学社会心理学家乔纳森·海特表示：“美国青少年人口中的抑郁和焦虑症大幅增加，参与自我伤害甚至自杀的青少年人数急剧上升，10 至 14 岁女孩的自残事件数量甚至增加了 151%。这种增长模式指向了社交媒体。”
桑吉塔·瓦尔德龙，Serendipity PR & Media 创始人、作者兼客座讲师，表示：“身处回音室中的危险在于，它会助长假新闻，阻碍我们的视野，并且正如我们也看到的那样，影响人们在选举中的投票决定。”
这是整个社会正在陷入的信息茧房和算法陷阱的一个方面。
背后的推手：
- 生物识别技术
佩恩还为我们提供了更多可能应用生物识别技术的场景，包括确定学生的学术潜力、决定理想的军事或员工招募人选，以及个性化电影预告片。甚至个人的收入、性取向、种族、婚姻状况、智商、政治倾向及其情绪（尤其是负面情绪）在这种几乎无所不能的技术下都将一览无余。
“学习中的孩子可以获得个性化的内容，医生会知道该使用什么层次的语言，以及治疗时所需的耐心情绪，如果你能预测智商，就可以帮助人们在能力范围内找到职业——获得更高的成就感。”佩恩对不久的将来做出了这样的预测。（点击此处了解更多）
“然而，通过社交媒体和监控摄像头的大量增长，加上无法拥有一块土地，我们以某种方式创造了一个自我施加的环形监狱。不是通过画像，而是通过追踪和评判的增长。不是通过画像，而是通过追踪的增长和对用户生成内容的渴望，”佩恩说。
“……，加上无法拥有一块土地，我们以某种方式创造了一个自我施加的环形监狱。”
瑞恩·佩恩，昆士兰科技大学
- 情感分析中的特征提取
情感分析是一种自动从在线文本中提取、分类和总结情感与情绪的方法。它使机器能够判断公众对产品、服务、政策和政治的意见，从而使平台能够进行个性化推荐，企业和政府能够监测舆论。
信息茧房：决定权在用户手中
用户有权决定自己信息的流向，并可以通过隐私设置和数据授权主动管理自己的数据。随着中国《移动互联网应用程序信息服务管理规定》的出台，尽管一些知名平台开启了关闭个性化推荐的功能，却故意将关闭按钮隐藏在软件的角落。在现状下，用户需要自己维护权益，并积极参与商户的信息交互。
林赛·查斯顿，The Writing Detective 的创始人兼 CEO，声称“要认识到个性化结果会受到平台商业动机的偏见——保持健康的怀疑态度。”
“要认识到个性化结果会受到平台商业动机的偏见——保持健康的怀疑态度。”
林赛·查斯顿，The Writing Detective 创始人兼 CEO
不仅如此，用户需要主动获取第一手信息，而不是被加工过的信息。只有通过广泛多样的信息，培养辨别信息真伪的能力，才能构建更全面、客观的认知体系。当用户不再花时间主动搜索、阅读和整合信息，而是被动接受算法塞给我们的所谓感兴趣的内容时，我们将无法打破现有的知识结构。
记住，我们需要让自己成为信息接收的起点，而不是终点。至少为了不成为各大商家的“韭菜”，我们应该或多或少地对信息茧房做出一些抵抗！