- TikTok a été découvert en train de fournir des commentaires différents à différents groupes de personnes, provoquant délibérément la confrontation et créant des cocons informationnels.
- Amazon, Ctrip et d'autres plateformes utilisent les profils des utilisateurs pour ajuster les prix et augmenter leurs profits.
- De plus en plus, la biométrie est utilisée, reconnaissant les expressions, la voix et même les mouvements de la souris.
En septembre 2023, un homme de 23 ans originaire de Shanxi, en Chine, a publié une vidéo sur Tiktok pour partager une découverte choquante. Dans une vidéo d'un couple se disputant, les commentaires affichés pour lui étaient entièrement différents de ceux affichés pour sa petite amie. La section des commentaires de Tiktok semblait délibérément antagoniste. Dans la section des commentaires de la fille, les commentaires étaient principalement d'un point de vue féminin. De plus, ils semblaient voir des commentaires extrêmement vicieux, délibérément utilisés pour déclencher une dispute. Les hommes, en revanche, voyaient les choses très différemment. Voir aussi: TSMC envisage une hausse des prix des puces IA face aux pénuries.
Certains internautes chinois ont réalisé: « Bien sûr, ce n'est pas étonnant que je ne puisse pas voir de voix différentes dans la section des commentaires à maintes reprises ». Voir aussi: LARUS lance le cadre de partenariat LARUS ONE.
D'autres ont exprimé une profonde inquiétude quant à cette scène: « Notre vision devient de plus en plus étroite, notre pensée devient de plus en plus extrême, et nos préjugés deviennent de plus en plus graves. » Voir aussi: La volatilité des charges de travail de l’IA augmente le gaspillage énergétique des centres de données.
À lire aussi: Le changement radical de TikTok: un deuxième tour de rachat d'actions
Le coupable du cocon informationnel: la personnalisation
Et la vérité est que ce genre de contenu sur mesure, basé sur des profils méticuleusement détaillés que les grandes entreprises technologiques créent pour chaque utilisateur, est en expansion et s'infiltre plus profondément dans divers aspects de nos vies numériques. Voir aussi: L'introduction en bourse d'OpenAI transforme l'approvisionnement en calcul en test de marché.
- Amazon: le premier cas de personnalisation des prix
Vous pensez peut-être par défaut voir exactement les mêmes informations sur les produits, au même prix, que votre ami, collègue ou parent voit en faisant défiler la page. Mais déjà en 2000, Amazon a mené une expérience de tarification différentielle, adaptant des prix différents pour chacun de ses 68 articles DVD les plus vendus en fonction des informations et du comportement de chaque client, ce qui a considérablement augmenté les marges brutes de ces ventes. Amazon a projeté un prix qui est uniquement le vôtre en fonction de votre sexe, âge, loisirs, dépenses passées et d'autres informations personnelles. C'est une zone de confort mutuelle où vous pouvez vous permettre de payer et où la plateforme gagne plus.
Et la façon dont ils créent ces profils est là où la véritable science-fiction et les nuits blanches commencent. De la façon dont vous déplacez votre souris, à la vitesse à laquelle vous tapez, aux sons que vous émettez, à la fréquence de vos clignements, même certaines micro-expressions, les données d'enchère, envoyées aux algorithmes des géants de la tech, peuvent être collectées à partir d'une myriade de comportements auxquels vous ne pensez probablement même pas en matière de vie privée. Voir aussi: Pure DC apporte du biomethane allemand a Dublin.
« Ensemble, ces méthodes peuvent examiner des caractéristiques physiques subtiles propres à l'individu et inconscientes (comme la façon dont une personne marche) », déclare Ryan Payne, chercheur à l'Université de technologie du Queensland. Voir aussi: Meta envisage une levée de fonds pour l'IA.
Plus de détails de Payne, derrière tout cela se trouve la technologie de tarification biométrique (BPT), une application émergente importante de la technologie de suivi biométrique. À ce jour, la plupart des technologies biométriques en sont encore au stade de la tarification statique. Il s'agit d'une tarification prédéterminée et non liée à l'interaction en temps réel avec le consommateur. Il faut un certain temps pour collecter suffisamment de données biologiques de l'utilisateur, puis procéder à des ajustements de prix, c'est-à-dire en passant par les trois phases de « cliquer et attendre », « surveiller » et « ajuster après considération ». La technologie de tarification biométrique plus avancée basée sur le suivi facial permet des ajustements de prix en temps réel et une véritable tarification dynamique.
À lire aussi: Assistant IA Amazon Q: AWS lance une approche révolutionnaire d'interrogation de données
- Ctrip: le big data tue la fidélité
Dans notre perception normale, nous pensons toujours que les utilisateurs fidèles peuvent obtenir des prix moins chers. Mais la réalité est que certaines entreprises et plateformes gagnent plus de profit en exploitant la dépendance des clients. Voir aussi: IBM et Google montent en puissance avec les agents IA d'entreprise.
L'exemple concret vient de Mme Hu, qui a toujours réservé ses vols et hôtels via l'application Ctrip, et est donc une cliente VIP Diamant sur la plateforme bénéficiant d'une réduction de 20%. Voir aussi: Anthropic apporte la chasse aux vulnérabilités par l'IA à la défense des infrastructures critiques.
En juillet 2020, Mme Hu a réservé un hôtel au prix de 2 889 RMB via l'application Ctrip comme d'habitude. Cependant, en quittant l'hôtel, Mme Hu a découvert par hasard que le prix affiché réel de l'hôtel n'était que de 1 377,63 RMB. Non seulement Mme Hu n'a pas bénéficié des réductions dont les clients fidèles auraient dû bénéficier, mais elle a payé le double du tarif de la chambre.
- La chaîne industrielle derrière la fraude à la grossesse
Certains logiciels pour mères et bébés commencent à utiliser des algorithmes de big data pour faire des envois ciblés après que les utilisatrices aient ajouté des balises de grossesse. Pour les mères enceintes, ils pousseront des centres mensuels, des fournitures pour mères et bébés et des connaissances parentales. Pour les futurs pères, ils pousseront des vidéos érotiques, et même projeteront beaucoup de SMS indiquant qu'ils peuvent fournir des services spéciaux pour inciter les hommes à faire des choix irrationnels. Certains logiciels pour mères et bébés rappelleront systématiquement et activement aux utilisatrices d'inviter les papas à télécharger et à participer ensemble aux soins des enfants après le téléchargement et l'inscription, mais le but derrière cela peut cacher une chaîne industrielle grise qui incite les hommes à tromper pendant la grossesse.
« C'est une boucle de rétroaction de validation sociale… exactement le genre de chose qu'un hacker comme moi trouverait, parce que vous exploitez une vulnérabilité dans la psychologie humaine », a déclaré Sean Parker, premier président de Facebook.
« Le danger d'être dans nos chambres d'écho est que cela peut perpétuer les fausses nouvelles, entraver nos points de vue et, comme nous l'avons également vu, affecter la façon dont les gens décident de voter pendant les élections. »
Sangeeta Waldron, fondatrice, auteure et conférencière invitée chez Serendipity PR & Media
Biais de confirmation et pensée extrême
Le cocon informationnel continuera de renforcer nos croyances et perspectives existantes si les individus se concentrent uniquement sur le contenu auto-sélectionné ou le contenu qu'ils aiment et réduisent leur exposition à d'autres informations.
Nous développons l'illusion que vous et moi recevons les mêmes informations et que nos discussions en ligne sont basées sur un ensemble standard de faits. Mais la vérité est que chacun de nous a son propre Truman Show, et ce que nous voyons est un monde adapté à nous par des algorithmes. Cela peut rendre les gens aveugles, extrêmes et facilement manipulables, et cela rend les gens de moins en moins susceptibles d'accepter des points de vue différents, conduisant même à la prolifération des préjugés et de la discrimination, et à une tendance à devenir de plus en plus antagonistes, entraînant des troubles sociaux.
Jonathan Haidt, psychologue social à l'Université de New York, a déclaré: « Il y a eu une augmentation spectaculaire de la dépression et de l'anxiété dans la population adolescente américaine, avec une forte augmentation du nombre d'adolescents s'automutilant et même se suicidant, et même une augmentation de 151 % du nombre d'épisodes d'automutilation chez les filles âgées de 10 à 14 ans. Ce schéma d'augmentation pointe vers les médias sociaux ».
Sangeeta Waldron, fondatrice, auteure et conférencière invitée chez Serendipity PR & Media, a déclaré: « Le danger d'être dans nos chambres d'écho est que cela peut perpétuer les fausses nouvelles, entraver nos points de vue et, comme nous l'avons également vu, affecter la façon dont les gens décident de voter pendant les élections. »
C'est l'une des facettes du cocon informationnel et du piège algorithmique dans lequel la société dans son ensemble tombe.
La main derrière le dos:
- Biométrie
Payne nous a également fourni d'autres scénarios où la biométrie pourrait être utilisée, notamment pour déterminer le potentiel académique d'un étudiant, décider du recrutement militaire ou de l'employé idéal, et personnaliser les bandes-annonces de films. Même le revenu d'un individu, son orientation sexuelle, sa race, son état matrimonial, son QI, son affiliation politique et ses émotions (surtout négatives) seront invisibles sous cette technologie quelque peu omnipotente.
« Les enfants en apprentissage pourraient recevoir un contenu personnalisé, les médecins sauraient quel niveau de langage utiliser, et les émotions de patience qu'ils traitent, si vous pouviez prédire le QI, vous pourriez aider les gens à trouver des carrières dans leurs capacités – obtenir un plus grand sentiment d'accomplissement. » Payne a fait cette prédiction pour un avenir proche.（cliquez ici pour en savoir plus à ce sujet）
« Cependant, à travers les médias sociaux et la croissance massive de la vidéosurveillance, combinés à l'incapacité de posséder un terrain, nous avons en quelque sorte créé une prison panoptique auto-imposée. Non par le profilage, mais par la croissance du suivi et du jugement. Non par le profilage, mais par la croissance du suivi et la soif de contenu généré par les utilisateurs », dit Payne.
« …, avec l'incapacité de posséder un terrain, nous avons en quelque sorte créé une prison panoptique auto-imposée. »
Ryan Payne, Université de technologie du Queensland
- Extraction de caractéristiques dans l'analyse des sentiments
L'analyse des sentiments est un moyen d'extraire, de classer et de résumer automatiquement les sentiments et les émotions à partir de textes en ligne. Elle permet aux machines de déterminer les opinions publiques sur les produits, les services, les politiques et la politique, permettant aux plateformes de faire des recommandations personnalisées et aux entreprises et aux gouvernements de surveiller l'opinion publique.
Cocooning: le droit de déterminer est entre les mains de l'utilisateur
Les utilisateurs ont le droit de déterminer le flux de leurs informations et peuvent gérer activement leurs données via les paramètres de confidentialité et l'autorisation des données. Suite à l'introduction du Règlement chinois sur l'administration des services d'information des applications Internet mobiles, plusieurs plateformes bien connues ont délibérément caché le bouton de désactivation dans le coin de leur logiciel, même si elles ont activé une fonctionnalité pour désactiver les recommandations personnalisées.
Dans le statu quo, les utilisateurs doivent défendre leurs droits et intérêts par eux-mêmes et participer activement aux interactions d'information des commerçants.
Lindsey Chastain, fondatrice et PDG de The Writing Detective, a affirmé que « reconnaître que les résultats personnalisés sont biaisés par les incitations commerciales de la plateforme – maintenir un scepticisme sain ».
« Reconnaître que les résultats personnalisés sont biaisés par les incitations commerciales de la plateforme – maintenir un scepticisme sain. »
Lindsey Chastain, fondatrice et PDG de The Writing Detective
Plus que cela, les utilisateurs doivent prendre l'initiative d'obtenir des informations de première main, plutôt que d'être traités. Ce n'est qu'à travers une grande diversité d'informations, qu'ils pourront développer la capacité d'identifier l'authenticité des informations, afin de construire un système cognitif plus complet et objectif. Lorsque les utilisateurs ne passent plus de temps à rechercher activement, lire et intégrer des informations, mais acceptent plutôt passivement le soi-disant contenu d'intérêt que les algorithmes nous fourrent. Nous ne pourrons pas briser la structure de connaissances existante.
Rappelez-vous, nous devons faire de nous-mêmes le point de départ de la réception de l'information, et non le point d'arrivée. Au moins pour ne pas devenir la victime des grandes entreprises, nous devrions, plus ou moins, opposer une certaine résistance au cocon informationnel !
