- TikTok a été constaté de fournir différents commentaires à différents groupes de personnes, provoquant délibérément des confrontations et créant des cocons d'information.
- Amazon, Ctrip et d'autres plateformes utilisent les profils d'utilisateurs pour ajuster les prix et augmenter les bénéfices.
- De plus en plus, les données biométriques sont utilisées, reconnaissant les expressions, la voix et même les mouvements de la souris.
En septembre 2023, un homme de 23 ans originaire de Shanxi, en Chine, a publié une vidéo TikTok pour partager une découverte choquante. Dans une vidéo d'un couple se disputant, les commentaires affichés pour lui étaient complètement différents des commentaires affichés pour sa petite amie. La section commentaires de TikTok semblait délibérément antagoniste. Dans la section commentaires vue par la fille, les commentaires étaient surtout du point de vue féminin. De plus, ils semblaient voir des commentaires extrêmement vicieux, délibérément utilisés pour déclencher une dispute. Les hommes, en revanche, voyaient les choses très différemment.
Certains internautes chinois ont réalisé: « Bien sûr, ce n'est pas étonnant que je ne puisse pas voir différentes voix dans la section commentaires à maintes reprises ».
D'autres ont exprimé une profonde inquiétude à propos de cette situation: « Notre vision devient de plus en plus étroite, notre pensée devient de plus en plus extrême, et nos préjugés deviennent de plus en plus graves. »
À lire aussi:Le changement radical de TikTok: une deuxième vague de rachats d'actions
Le coupable du cocon d'information: la personnalisation
Et la vérité est que ce type de contenu taillé sur mesure, basé sur des profils extrêmement détaillés que les grandes entreprises technologiques créent pour chaque utilisateur, s'étend et s'infiltre plus profondément dans divers aspects de notre vie numérique.
- Amazon: le premier cas de personnalisation des prix individualisée
Vous pourriez croire que vous voyez exactement les mêmes informations sur un produit, au même prix, que votre ami, collègue ou parent lorsqu'il fait défiler la page. Mais en 2000, Amazon a mené une expérience de tarification différentielle, en adaptant des prix différents pour chacun de ses 68 articles de DVD les plus vendus à chaque client en fonction de leurs informations et de leur comportement, ce qui a considérablement augmenté les marges brutes sur ces ventes. Amazon a projeté un prix qui vous est propre en fonction de votre sexe, de votre âge, de vos loisirs, de vos dépenses passées et d'autres informations personnelles.
C'est une zone de confort mutuelle où vous pouvez vous permettre de payer et la plateforme gagne plus.
Et la manière dont ils créent ces profils est là où commence la vraie science-fiction, celle qui perturbe le sommeil. Depuis la façon dont vous déplacez votre souris, la vitesse à laquelle vous tapez, les sons que vous produisez, la fréquence de vos clignements, même certaines micro-expressions, les données d'enchères, intégrées aux algorithmes des grandes technologies, peuvent être collectées à partir d'une myriade de comportements auxquels vous ne pensez probablement même pas en matière de confidentialité.
« Ensemble, ces méthodes peuvent examiner des caractéristiques physiques subtiles qui sont uniques à l'individu et inconscientes (comme la façon dont une personne marche) », déclare Ryan Payne, chercheur à l'Université de technologie du Queensland.
Plus de détails de Payne, derrière tout cela se trouve la technologie de tarification biométrique (BPT), une application émergente importante de la technologie de suivi biométrique. À ce jour, la plupart des technologies biométriques en sont encore au stade de la tarification statique. Cela représente une tarification prédéterminée et non liée à l'interaction en temps réel avec le consommateur. Il faut un certain temps pour collecter suffisamment de données biologiques de l'utilisateur, puis ajuster le prix, c'est-à-dire à travers les trois phases de « cliquer et attendre », « surveiller » et « ajuster après réflexion ».
La technologie de tarification biométrique plus avancée basée sur le suivi facial permet des ajustements de prix en temps réel et une véritable phase de tarification dynamique.
À lire aussi:Assistant IA Amazon Q: AWS lance une approche révolutionnaire d'interrogation des données
- Ctrip: les mégadonnées tuent la fidélité
Dans notre perception habituelle, nous pensons toujours que les utilisateurs fidèles peuvent obtenir des prix moins chers. Mais la réalité est que certaines entreprises et plateformes tirent plus de profit en exploitant la dépendance des clients.
L'exemple concret vient de Mme Hu, qui a toujours réservé ses vols et hôtels via l'application Ctrip, et est donc une cliente VIP Diamant sur la plateforme, bénéficiant d'une réduction de 20 %.
En juillet 2020, Mme Hu a réservé un hôtel au prix de 2 889 RMB via l'application Ctrip comme d'habitude. Cependant, en quittant l'hôtel, Mme Hu a découvert que le prix réel affiché de l'hôtel n'était que de 1 377,63 RMB. Non seulement Mme Hu n'a pas bénéficié des réductions auxquelles les clients classés par étoiles devraient avoir droit, mais elle a au contraire payé le double du tarif de la chambre.
- La chaîne industrielle derrière la fraude à la grossesse
Certains logiciels pour mères et bébés commencent à utiliser des algorithmes de mégadonnées pour faire des recommandations précises après que les utilisatrices ajoutent des étiquettes de grossesse. Pour les femmes enceintes, ils promeuvent des centres mensuels, des fournitures pour mères et bébés et des connaissances parentales. Pour les futurs pères, ils promeuvent des vidéos érotiques, et envoient même de nombreux SMS indiquant qu'ils peuvent fournir des services spéciaux pour inciter les hommes à faire des choix irrationnels.
Certains logiciels pour mères et bébés rappellent systématiquement et activement aux utilisatrices d'inviter les papas à télécharger et à participer ensemble aux soins des enfants après le téléchargement et l'inscription, mais l'objectif derrière cela peut cacher une chaîne industrielle grise qui incite les hommes à tromper pendant la grossesse.
« C'est une boucle de rétroaction de validation sociale... exactement le genre de chose qu'un hacker comme moi inventerait, car vous exploitez une vulnérabilité de la psychologie humaine », a déclaré Sean Parker, le premier président de Facebook.
« Le danger de rester dans nos chambres d'écho est que cela peut perpétuer les fausses nouvelles, limiter nos points de vue, et comme nous l'avons également vu, influencer la façon dont les gens décident de voter lors des élections. »
Sangeeta Waldron, fondatrice, auteure et conférencière invitée chez Serendipity PR & Media
Biais de confirmation et pensée extrême
Le cocon d'information continuera de renforcer nos croyances et perspectives existantes si les individus se concentrent uniquement sur le contenu auto-sélectionné ou le contenu qu'ils aiment et réduisent leur exposition à d'autres informations.
Nous développons l'illusion que vous et moi recevons les mêmes informations et que nos discussions en ligne sont basées sur un ensemble standard de faits. Mais la vérité est que chacun de nous a son propre « Truman Show », et ce que nous voyons est un monde façonné pour nous par les algorithmes. Cela peut rendre les gens aveugles, extrêmes et faciles à manipuler, et cela rend les gens de moins en moins susceptibles d'accepter des points de vue différents, ce qui peut même conduire à la prolifération des préjugés et de la discrimination, et à une tendance à devenir de plus en plus antagonistes, entraînant des troubles sociaux.
Jonathan Haidt, psychologue social à l'Université de New York, a déclaré: « Il y a eu une augmentation spectaculaire de la dépression et de l'anxiété dans la population adolescente américaine, avec une forte augmentation du nombre d'adolescents se livrant à l'automutilation et même au suicide, et même une augmentation de 151 % du nombre d'épisodes d'automutilation chez les filles âgées de 10 à 14 ans. Ce schéma d'augmentation pointe vers les médias sociaux. »
Sangeeta Waldron, fondatrice, auteure et conférencière invitée chez Serendipity PR & Media, a déclaré: « Le danger de rester dans nos chambres d'écho est que cela peut perpétuer les fausses nouvelles, limiter nos points de vue, et comme nous l'avons également vu, influencer la façon dont les gens décident de voter lors des élections. »
C'est une facette du cocon d'information et du piège algorithmique dans lequel la société dans son ensemble tombe.
La main derrière le dos:
Payne nous a également fourni d'autres scénarios où la biométrie pourrait être utilisée, notamment pour déterminer le potentiel académique d'un étudiant, décider du recrutement militaire ou du recrutement d'employés idéal, et personnaliser les bandes-annonces de films. Même le revenu, l'orientation sexuelle, la race, l'état matrimonial, le QI, l'affiliation politique d'un individu, et ses émotions (surtout les négatives) seront visibles sous cette technologie en quelque sorte omnipotente.
« Les enfants en apprentissage pourraient recevoir un contenu personnalisé, les médecins sauraient quel niveau de langage utiliser, et les émotions de patience qu'ils traitent, si on pouvait prédire le QI, on pourrait aider les gens à trouver des carrières dans leurs capacités – obtenir un sentiment plus élevé d'accomplissement. » Payne a fait cette prédiction pour un avenir proche.(cliquez ici pour en savoir plus)
« Cependant, à travers les médias sociaux et la croissance massive de la vidéosurveillance, combinés à un manque de capacité à posséder un terrain, la capacité de mener... Ainsi, nous avons en quelque sorte créé une prison panoptique auto-imposée. Non pas par le profilage, mais par la croissance du suivi et du jugement. Non pas par le profilage, mais par la croissance du suivi et la soif de contenu généré par les utilisateurs », déclare Payne.
« … avec un manque de capacité à posséder un terrain, la capacité de mener... Ainsi, nous avons en quelque sorte créé une prison panoptique auto-imposée. »
Ryan Payne, Université de technologie du Queensland
- Extraction de caractéristiques dans l'analyse des sentiments
L'analyse des sentiments est une méthode permettant d'extraire, de classer et de résumer automatiquement les sentiments et les émotions à partir de textes en ligne. Elle permet aux machines de déterminer les opinions publiques sur les produits, les services, les politiques et la politique, permettant aux plateformes de faire des recommandations personnalisées et aux entreprises et aux gouvernements de surveiller l'opinion publique.
Cocooning: le droit de déterminer est entre les mains de l'utilisateur
Les utilisateurs ont le droit de déterminer le flux de leurs informations et peuvent gérer activement leurs données via les paramètres de confidentialité et l'autorisation des données. Suite à l'introduction du Règlement chinois sur l'administration des services d'information des applications Internet mobiles, plusieurs plateformes bien connues ont délibérément caché le bouton de désactivation dans un coin de leur logiciel, même si elles ont activé une fonctionnalité pour désactiver les recommandations personnalisées.
Dans l'état actuel des choses, les utilisateurs doivent défendre leurs droits et intérêts par eux-mêmes et participer activement aux interactions d'informations avec les commerçants.
Lindsey Chastain, fondatrice et PDG de The Writing Detective, a affirmé que « reconnaître que les résultats personnalisés sont biaisés par les incitations commerciales de la plateforme – maintenir un scepticisme sain. »
« Reconnaître que les résultats personnalisés sont biaisés par les incitations commerciales de la plateforme – maintenir un scepticisme sain. »
Lindsey Chastain, fondatrice et PDG de The Writing Detective
Plus que cela, les utilisateurs doivent prendre l'initiative d'obtenir des informations de première main, plutôt que d'être traités. Ce n'est qu'à travers une grande diversité d'informations, en développant la capacité d'identifier l'authenticité des informations, que l'on peut construire un système cognitif plus complet et objectif. Lorsque les utilisateurs ne passent plus de temps à rechercher activement, lire et intégrer des informations, mais acceptent passivement le soi-disant contenu d'intérêt que les algorithmes nous fourrent, nous ne pourrons pas briser la structure de connaissances existante.
Rappelons-nous que nous devons faire de nous-mêmes le point de départ de la réception de l'information, et non le point final. Au moins, pour ne pas devenir les dindons de la farce des grandes entreprises, nous devrions, plus ou moins, opposer une certaine résistance au cocon d'information!
