バイオメトリック・プロファイリングがオンラインでの見え方に微妙な違いをもたらす仕組み

BTW Media は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性に関連しているため、「バイオメトリックプロファイリングでオンラインの見え方が異なる仕組み」をプロファイルしています。

• TikTok は、異なる人々のグループに異なるコメントを表示し、意図的に対立を引き起こし、情報の繭を作り出していることが確認されています。
• Amazon、Ctrip などのプラットフォームは、ユーザープロファイルを利用して価格を調整し、利益を増やしています。
• 表情、声、さらにはマウスの動きまで認識する生体認証データがますます利用されるようになっています。

2023 年 9 月、中国山西省出身の 23 歳の男性が、衝撃的な発見を共有する TikTok 動画を投稿しました。口論するカップルの動画で、彼に表示されたコメントは、彼のガールフレンドに表示されたものとは完全に異なっていました。TikTok のコメント欄は意図的に対立的に見えました。女性が見たコメント欄では、コメントは主に女性の視点からのものでした。さらに、口論を引き起こすために故意に使われたと思われる極めて悪質なコメントも見られました。一方、男性は物事を非常に異なって見ていました。

一部の中国のネットユーザーは「なるほど、コメント欄でさまざまな意見を見られなかったのも不思議ではない」と気づきました。

他の人々はこの状況について深い懸念を表明しました。「私たちの視野はますます狭くなり、思考はますます極端になり、偏見はますます深刻化しています。」

あわせて読みたい：TikTok の抜本的変化：第 2 波の自社株買い

情報の繭の原因：パーソナライゼーション

そして真実は、テクノロジー大手が各ユーザーに対して作成する極めて詳細なプロファイルに基づいた、この種のオーダーメイドのコンテンツが、私たちのデジタルライフのさまざまな側面に広がり、深く浸透しているということです。

• Amazon：個別価格パーソナライゼーションの最初の事例

あなたは、友人、同僚、親がページをスクロールしたときに、同じ商品について、同じ価格で、まったく同じ情報を見ていると思うかもしれません。しかし 2000 年、Amazon は差別価格の実験を行い、ベストセラーDVD68 商品について、顧客の情報や行動に基づいて各顧客に異なる価格を設定し、それらの販売による粗利益を大幅に増加させました。Amazon は、あなたの性別、年齢、趣味、過去の支出、その他の個人情報に基づいて、あなた専用の価格を提示しました。それは、あなたが支払える金額とプラットフォームがより多くの利益を得る、相互の快適ゾーンなのです。

そして、彼らがこれらのプロファイルを作成する方法こそが、眠れなくなるような真の SF の始まりです。マウスの動かし方、タイピングの速度、発する音、まばたきの頻度、さらには特定の微表情から、入札データまで、テクノロジー大手のアルゴリズムに統合され、プライバシーについて考えもしないような無数の行動から収集される可能性があります。

「これらの方法を組み合わせることで、個人に固有で無意識な微妙な身体的特徴（人の歩き方など）を調べることができます」と、クイーンズランド工科大学の研究者 Ryan Payne は述べています。

Payne の詳細によれば、その背後には生体認証価格設定技術（BPT）があります。これは生体追跡技術の重要な新興アプリケーションです。現在まで、ほとんどの生体認証技術はまだ静的価格設定の段階にあります。これは、消費者とのリアルタイムのやり取りに連動しない、事前に決定された価格設定を意味します。ユーザーの十分な生体データを収集してから価格を調整するまでには時間がかかり、つまり「クリックして待つ」「監視する」「検討後に調整する」という 3 つの段階を経ます。顔追跡に基づくより高度な生体価格設定技術は、リアルタイムの価格調整と真の動的価格設定段階を可能にします。

あわせて読みたい：Amazon Q AI アシスタント：AWS が革新的なデータクエリアプローチを開始

• Ctrip：ビッグデータが忠誠心を殺す

私たちの通常の認識では、忠実なユーザーはより安い価格を得られると考えがちです。しかし現実には、一部の企業やプラットフォームは顧客の依存を悪用することでより多くの利益を得ています。

具体的な例として、Hu さんは常に Ctrip アプリを通じて航空券やホテルを予約しており、そのためプラットフォームのダイヤモンド VIP 会員で、20％の割引を受けていました。

2020 年 7 月、Hu さんはいつものように Ctrip アプリを通じて 2,889 人民元でホテルを予約しました。しかし、ホテルをチェックアウトする際、Hu さんはホテルの実際の表示価格がわずか 1,377.63 人民元であることを発見しました。Hu さんは星付き顧客が受けるべき割引を受けられなかっただけでなく、むしろ部屋料金の 2 倍を支払っていたのです。

• 妊娠詐欺の背後にある産業チェーン

一部の母子向けソフトウェアは、ユーザーが妊娠タグを追加した後、ビッグデータアルゴリズムを使用して精密なレコメンデーションを開始します。妊婦向けには、産後ケアセンター、母子用品、育児知識を宣伝します。父親になる男性向けには、アダルト動画を宣伝し、特別なサービスを提供できるという多数の SMS を送信して、男性を不合理な選択に駆り立てます。一部の母子向けソフトウェアは、ダウンロードと登録後、体系的かつ積極的にユーザーにパパを招待して一緒に子育てに参加するよう促しますが、その背後には、妊娠中の男性の浮気を助長するグレーな産業チェーンが隠されている可能性があります。

「これは社会的検証のフィードバックループです……まさに私のようなハッカーが考案しそうなことで、人間の心理の脆弱性を悪用しているのです」と、Facebook の初代プレジデント Sean Parker は述べました。

「エコーチェンバーに留まることの危険性は、フェイクニュースを永続させ、視野を狭め、そして私たちが目撃したように、人々が選挙で投票する方法に影響を与える可能性があることです。」

Sangeeta Waldron、Serendipity PR & Media 創設者、著者、ゲストスピーカー

確証バイアスと極端な思考

情報の繭は、個人が自己選択したコンテンツや好みのコンテンツだけに集中し、他の情報への露出を減らすならば、私たちの既存の信念や見解を強化し続けるでしょう。

私たちは、あなたと私が同じ情報を受け取り、オンラインでの議論が標準的な事実のセットに基づいているという幻想を抱きがちです。しかし真実は、私たち一人ひとりが自分自身の「トゥルーマン・ショー」を持っており、私たちが見ているのはアルゴリズムによって私たちのために形作られた世界なのです。これは人々を盲目にし、極端にし、操作しやすくし、異なる視点を受け入れる可能性をますます低くし、偏見や差別の拡散、そしてますます敵対的になる傾向につながり、社会不安を引き起こすことさえあります。

ニューヨーク大学の社会心理学者Jonathan Haidtは次のように述べています。「アメリカの青少年人口において、うつ病と不安症が劇的に増加しており、自傷行為や自殺に及ぶ青少年の数が急増し、10 歳から 14 歳の少女における自傷行為のエピソードは 151％も増加しました。この増加パターンはソーシャルメディアを示しています。」

Sangeeta Waldron（Serendipity PR & Media の創設者、著者、ゲストスピーカー）は次のように述べています。「エコーチェンバーに留まることの危険性は、フェイクニュースを永続させ、視野を狭め、そして私たちが目撃したように、人々が選挙で投票する方法に影響を与える可能性があることです。」

これは、社会全体が陥っている情報の繭とアルゴリズムの罠の一面です。

背後で操る手：

• 生体認証

Payne はまた、生体認証が使用される可能性のある他のシナリオも提供しています。それには、学生の学業潜在能力の判定、軍の採用や理想的な従業員の採用の決定、映画予告編のパーソナライズなどが含まれます。個人の収入、性的指向、人種、婚姻状況、IQ、政治的所属、そして感情（特に否定的なもの）さえも、このいわば全能のテクノロジーの下では可視化されるでしょう。

「学習中の子供たちはパーソナライズされたコンテンツを受け取り、医師はどのレベルの言葉を使うべきか、そして対処すべき忍耐の感情を知ることができるでしょう。IQ を予測できれば、人々が自分の能力に合ったキャリアを見つけ、より高い達成感を得るのを助けることができます。」Payne はこの近未来の予測を語りました。（詳細はこちらをクリック）

「しかし、ソーシャルメディアと大規模なビデオ監視の成長、そして土地を所有する能力の欠如と相まって、行動する能力……こうして、私たちはある種、自ら課したパノプティコン監獄を作り出したのです。プロファイリングによってではなく、追跡と判断の成長によって。プロファイリングによってではなく、追跡の成長とユーザー生成コンテンツへの渇望によって」と Payne は述べています。

「……土地を所有する能力の欠如と、行動する能力……こうして、私たちはある種、自ら課したパノプティコン監獄を作り出したのです。」

Ryan Payne、クイーンズランド工科大学

• 感情分析における特徴抽出

感情分析は、オンラインテキストから感情や気分を自動的に抽出、分類、要約する手法です。これにより、機械は製品、サービス、政策、政治に関する世論を判断でき、プラットフォームはパーソナライズされた推奨を行い、企業や政府は世論を監視することができます。

コクーニング：決定権はユーザーの手に

ユーザーには自分の情報の流れを決定する権利があり、プライバシー設定やデータ許可を通じて積極的にデータを管理できます。中国のモバイルインターネットアプリケーション情報サービス管理規定の導入後、いくつかの有名プラットフォームは、パーソナライズされた推奨をオフにする機能を有効にしているにもかかわらず、オフボタンをソフトウェアの隅に意図的に隠しました。現状では、ユーザーは自ら権利と利益を守り、事業者との情報やり取りに積極的に関与する必要があります。

Lindsey Chastain（The Writing Detective 創設者兼 CEO）は、「パーソナライズされた結果がプラットフォームの商業的インセンティブによって偏っていることを認識し、健全な懐疑心を持ち続けること」と述べています。

「パーソナライズされた結果がプラットフォームの商業的インセンティブによって偏っていることを認識し、健全な懐疑心を持ち続けること。」

Lindsey Chastain、The Writing Detective 創設者兼 CEO

それ以上に、ユーザーは処理されるのではなく、自ら一次情報を入手するイニシアチブを取らなければなりません。多様な情報に触れ、情報の信憑性を見極める能力を養うことによってのみ、より完全で客観的な認知システムを構築することができます。ユーザーが積極的に検索し、読み、情報を統合する時間を費やさず、アルゴリズムが押し付けるいわゆる興味のあるコンテンツを受動的に受け入れるならば、既存の知識構造を打ち破ることはできないでしょう。

私たちは、自分自身を情報受信の起点とし、終点としないように心がけましょう。少なくとも、大企業の策略のカモにならないために、多かれ少なかれ、情報の繭に対してある程度の抵抗を示すべきです！