Wie biometrisches Profiling uns alle Dinge online leicht anders sehen lässt

Wie biometrisches Profiling uns alle Dinge online leicht anders sehen lässt wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internetinfrastruktur, Governance, operationellen Abhängigkeiten oder Marktsichtbarkeit verknüpfen.

• TikTok wurde dabei beobachtet, verschiedenen Personengruppen unterschiedliche Kommentare zu liefern, absichtlich Konfrontationen zu provozieren und Informationsblasen zu schaffen.
• Amazon, Ctrip und andere Plattformen nutzen Benutzerprofile, um Preise anzupassen und Gewinne zu steigern.
• Zunehmend werden biometrische Daten verwendet, die Gesichtsausdrücke, Stimme und sogar Mausbewegungen erkennen.

Im September 2023 veröffentlichte ein 23-jähriger Mann aus Shanxi, China, ein TikTok-Video, in dem er eine schockierende Entdeckung teilte. In einem Video, das ein streitendes Paar zeigt, waren die für ihn angezeigten Kommentare völlig andere als die, die seine Freundin sah. Der Kommentarbereich von TikTok schien absichtlich konfrontativ zu sein. Im Kommentarbereich, den die Freundin sah, waren die Kommentare überwiegend aus weiblicher Perspektive. Außerdem schienen sie extrem bösartige Kommentare zu sehen, die absichtlich dazu dienten, einen Streit auszulösen. Männer hingegen sahen die Dinge ganz anders.

Einige chinesische Internetnutzer erkannten: „Natürlich, kein Wunder, dass ich immer wieder keine unterschiedlichen Stimmen im Kommentarbereich sehen kann.“

Andere äußerten tiefe Besorgnis über diese Situation: „Unsere Sicht wird immer enger, unser Denken wird immer extremer und unsere Vorurteile werden immer schwerwiegender.“

Auch lesen:TikToks drastische Veränderung: Eine zweite Welle von Aktienrückkäufen

Der Übeltäter der Informationsblase: Personalisierung

Und die Wahrheit ist, dass diese Art von maßgeschneidertem Inhalt, basierend auf extrem detaillierten Profilen, die große Technologieunternehmen für jeden Benutzer erstellen, sich weiter ausdehnt und tiefer in verschiedene Aspekte unseres digitalen Lebens eindringt.

• Amazon: der erste Fall individualisierter Preisgestaltung

Sie könnten glauben, dass Sie genau die gleichen Informationen zu einem Produkt zum gleichen Preis sehen wie Ihr Freund, Kollege oder Elternteil, wenn er die Seite durchblättert. Aber im Jahr 2000 führte Amazon ein Experiment mit differenzierter Preisgestaltung durch, indem es für jeden seiner 68 meistverkauften DVD-Artikel für jeden Kunden unterschiedliche Preise auf der Grundlage seiner Informationen und seines Verhaltens anpasste, was die Bruttomargen bei diesen Verkäufen erheblich steigerte.

Amazon hat einen Preis berechnet, der speziell auf Ihr Geschlecht, Ihr Alter, Ihre Hobbys, Ihre früheren Ausgaben und andere persönliche Informationen zugeschnitten ist. Es ist eine gegenseitige Komfortzone, in der Sie sich leisten können zu zahlen, und die Plattform verdient mehr.

Und die Art und Weise, wie sie diese Profile erstellen, beginnt die wahre Science-Fiction, die den Schlaf stört. Von der Art, wie Sie Ihre Maus bewegen, der Geschwindigkeit, mit der Sie tippen, den Geräuschen, die Sie machen, der Häufigkeit Ihrer Lidschläge, sogar bestimmten Mikroausdrücken, können Auktionsdaten, die in die Algorithmen der großen Technologieunternehmen integriert sind, aus einer Vielzahl von Verhaltensweisen gesammelt werden, an die Sie in Bezug auf Privatsphäre wahrscheinlich nicht einmal denken.

„Zusammen können diese Methoden subtile physische Merkmale untersuchen, die einzigartig für das Individuum und unbewusst sind (wie die Art, wie eine Person geht)“, sagt Ryan Payne, Forscher an der Queensland University of Technology.

Mehr Details von Payne: Dahinter steckt die biometrische Preistechnologie (BPT), eine wichtige aufkommende Anwendung der biometrischen Verfolgungstechnologie. Bislang befinden sich die meisten biometrischen Technologien noch im Stadium der statischen Preisgestaltung. Das bedeutet eine vorher festgelegte Preisgestaltung, die nicht mit der Echtzeit-Interaktion des Verbrauchers verbunden ist. Es dauert eine gewisse Zeit, genügend biologische Daten des Benutzers zu sammeln, um dann den Preis anzupassen, also durch die drei Phasen „Klicken und Warten“, „Überwachen“ und „Nachdenkliches Anpassen“.

Die fortschrittlichere biometrische Preistechnologie auf Basis der Gesichtsverfolgung ermöglicht Echtzeit-Preisanpassungen und eine echte Phase der dynamischen Preisgestaltung.

Auch lesen:Amazon KI-Assistent Q: AWS startet revolutionären Datenabfrageansatz

• Ctrip: Big Data tötet Loyalität

In unserer gewohnten Wahrnehmung denken wir immer, dass treue Nutzer günstigere Preise erhalten können. Aber die Realität ist, dass einige Unternehmen und Plattformen mehr Gewinn erzielen, indem sie die Abhängigkeit der Kunden ausnutzen. Das konkrete Beispiel stammt von Frau Hu, die ihre Flüge und Hotels immer über die Ctrip-App gebucht hat und daher Diamant-VIP-Kunde auf der Plattform ist und 20 % Rabatt erhält. Im Juli 2020 buchte Frau Hu wie gewohnt ein Hotel zum Preis von 2.889 RMB über die Ctrip-App. Als sie jedoch das Hotel verließ, stellte Frau Hu fest, dass der tatsächlich angezeigte Preis des Hotels nur 1.377,63 RMB betrug.

Frau Hu erhielt nicht nur nicht die Rabatte, die Kunden mit Sternklassifizierung zustehen sollten, sondern zahlte stattdessen das Doppelte des Zimmerpreises.

• Die Industriekette hinter dem Schwangerschaftsbetrug

Einige Mutter-Kind-Apps beginnen, Big-Data-Algorithmen zu verwenden, um nach dem Hinzufügen von Schwangerschafts-Tags durch die Nutzerinnen genaue Empfehlungen zu geben. Für Schwangere bewerben sie Monatszentren, Mutter-Kind-Artikel und Elternwissen. Für werdende Väter bewerben sie erotische Videos und senden sogar viele SMS, die besagen, dass sie besondere Dienstleistungen anbieten können, um Männer zu irrationalen Entscheidungen zu verleiten.

Einige Mutter-Kind-Apps erinnern die Nutzerinnen systematisch und aktiv daran, die Väter einzuladen, die App herunterzuladen und gemeinsam an der Kinderbetreuung teilzunehmen, aber das Ziel dahinter könnte eine graue Industriekette verbergen, die Männer dazu verleitet, während der Schwangerschaft zu betrügen.

„Das ist eine Validierungsschleife der sozialen Bestätigung... genau die Art von Ding, die ein Hacker wie ich erfinden würde, weil man eine Schwachstelle der menschlichen Psychologie ausnutzt“, sagte Sean Parker, der erste Präsident von Facebook.

„Die Gefahr, in unseren Echokammern zu bleiben, besteht darin, dass dies Fake News aufrechterhalten, unsere Sichtweisen einschränken und, wie wir ebenfalls gesehen haben, beeinflussen kann, wie Menschen bei Wahlen ihre Stimme abgeben.“

Sangeeta Waldron, Gründerin, Autorin und Gastrednerin bei Serendipity PR & Media

Bestätigungsfehler und extremes Denken

Die Informationsblase wird weiterhin unsere bestehenden Überzeugungen und Perspektiven verstärken, wenn Individuen sich nur auf selbst ausgewählte oder ihnen gefallende Inhalte konzentrieren und ihre Exposition gegenüber anderen Informationen reduzieren.

Wir entwickeln die Illusion, dass Sie und ich dieselben Informationen erhalten und unsere Online-Diskussionen auf einem Standardsatz von Fakten basieren. Aber die Wahrheit ist, dass jeder von uns seine eigene „Truman Show“ hat und das, was wir sehen, eine von Algorithmen für uns geformte Welt ist. Das kann Menschen blind, extrem und leicht manipulierbar machen, und es macht Menschen immer weniger bereit, unterschiedliche Sichtweisen zu akzeptieren, was sogar zur Verbreitung von Vorurteilen und Diskriminierung führen kann, und zu einer Tendenz, immer antagonistischer zu werden, was soziale Unruhen verursacht.

Jonathan Haidt, Sozialpsychologe an der New York University, sagte: „Es gab einen dramatischen Anstieg von Depressionen und Angstzuständen in der amerikanischen jugendlichen Bevölkerung, mit einem starken Anstieg der Anzahl von Jugendlichen, die sich selbst verletzen und sogar Selbstmord begehen, und sogar einem Anstieg von 151 % der Selbstverletzungsepisoden bei Mädchen im Alter von 10 bis 14 Jahren. Dieses Anstiegsmuster deutet auf soziale Medien hin.“

Sangeeta Waldron, Gründerin, Autorin und Gastrednerin bei Serendipity PR & Media, sagte: „Die Gefahr, in unseren Echokammern zu bleiben, besteht darin, dass dies Fake News aufrechterhalten, unsere Sichtweisen einschränken und, wie wir ebenfalls gesehen haben, beeinflussen kann, wie Menschen bei Wahlen ihre Stimme abgeben.“

Dies ist eine Facette der Informationsblase und der algorithmischen Falle, in die die gesamte Gesellschaft tappt.

Die Hand im Hintergrund:

• Biometrie

Payne hat uns auch andere Szenarien genannt, in denen Biometrie eingesetzt werden könnte, unter anderem zur Bestimmung des akademischen Potenzials eines Studenten, zur Entscheidung über die Rekrutierung von Militär oder idealen Mitarbeitern und zur Personalisierung von Filmtrailern. Sogar das Einkommen, die sexuelle Orientierung, die Rasse, der Familienstand, der IQ, die politische Zugehörigkeit einer Person und ihre Emotionen (insbesondere die negativen) werden unter dieser sozusagen allmächtigen Technologie sichtbar sein.

„Lernende Kinder könnten personalisierte Inhalte erhalten, Ärzte wüssten, welches Sprachniveau sie verwenden sollten, und die Geduld, die sie aufbringen, wenn man den IQ vorhersagen könnte, könnte man Menschen helfen, Karrieren in ihren Fähigkeiten zu finden – ein höheres Gefühl der Erfüllung zu erreichen.“ Payne hat diese Vorhersage für die nahe Zukunft gemacht.(klicken Sie hier, um mehr zu erfahren)

„Doch durch soziale Medien und das massive Wachstum der Videoüberwachung, kombiniert mit einem Mangel an Fähigkeit, Land zu besitzen, die Fähigkeit zu führen... So haben wir sozusagen ein selbstauferlegtes panoptisches Gefängnis geschaffen. Nicht durch Profiling, sondern durch das Wachstum von Überwachung und Urteilsvermögen. Nicht durch Profiling, sondern durch das Wachstum von Überwachung und den Hunger nach benutzergenerierten Inhalten“, sagt Payne.

„… mit einem Mangel an Fähigkeit, Land zu besitzen, die Fähigkeit zu führen … So haben wir sozusagen ein selbstauferlegtes panoptisches Gefängnis geschaffen.“

Ryan Payne, Queensland University of Technology

• Merkmalsextraktion in der Stimmungsanalyse

Sentimentanalyse ist eine Methode, um Gefühle und Emotionen automatisch aus Online-Texten zu extrahieren, zu klassifizieren und zusammenzufassen. Sie ermöglicht es Maschinen, die öffentliche Meinung zu Produkten, Dienstleistungen, politischen Maßnahmen und Politik zu bestimmen, und ermöglicht Plattformen, personalisierte Empfehlungen zu geben, und Unternehmen und Regierungen, die öffentliche Meinung zu überwachen.

Cocooning: Das Bestimmungsrecht liegt in den Händen des Nutzers

Nutzer haben das Recht, den Fluss ihrer Informationen zu bestimmen und können ihre Daten aktiv über Datenschutzeinstellungen und Datenberechtigungen verwalten. Nach der Einführung der chinesischen Verordnung zur Verwaltung von Informationsdiensten mobiler Internetanwendungen haben mehrere bekannte Plattformen den Deaktivierungsknopf absichtlich in einer Ecke ihrer Software versteckt, auch wenn sie eine Funktion zur Deaktivierung personalisierter Empfehlungen aktiviert haben. So wie die Dinge stehen, müssen Nutzer ihre Rechte und Interessen selbst verteidigen und sich aktiv an Informationsinteraktionen mit Händlern beteiligen.

Lindsey Chastain, Gründerin und CEO von The Writing Detective, hat festgestellt: „Erkennen, dass personalisierte Ergebnisse durch die kommerziellen Anreize der Plattform verzerrt werden – eine gesunde Skepsis bewahren.“

„Erkennen, dass personalisierte Ergebnisse durch die kommerziellen Anreize der Plattform verzerrt werden – eine gesunde Skepsis bewahren.“

Lindsey Chastain, Gründerin und CEO von The Writing Detective

Darüber hinaus müssen Nutzer die Initiative ergreifen, Informationen aus erster Hand zu erhalten, anstatt behandelt zu werden. Nur durch eine große Vielfalt an Informationen und die Entwicklung der Fähigkeit, die Authentizität von Informationen zu identifizieren, kann man ein vollständigeres und objektiveres kognitives System aufbauen. Wenn Nutzer keine Zeit mehr damit verbringen, aktiv nach Informationen zu suchen, zu lesen und zu integrieren, sondern passiv die sogenannten interessanten Inhalte akzeptieren, die uns die Algorithmen aufdrängen, werden wir nicht in der Lage sein, die bestehende Wissensstruktur zu durchbrechen.

Erinnern wir uns daran, dass wir uns selbst zum Ausgangspunkt des Informationsempfangs machen müssen, nicht zum Endpunkt. Zumindest, um nicht die Narren der großen Unternehmen zu werden, sollten wir der Informationsblase mehr oder weniger Widerstand entgegensetzen!