Como a criação de perfis biométricos faz com que todos vejamos as coisas de forma ligeiramente diferente online

Como a criação de perfis biométricos faz com que todos vejamos as coisas de forma ligeiramente diferente online é perfilado pela BTW Media porque as evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Foi descoberto que o TikTok fornece comentários diferentes para diferentes grupos de pessoas, provocando deliberadamente confrontos e criando bolhas informativas.
• Amazon, Ctrip e outras plataformas usam perfis de usuários para ajustar preços e aumentar o lucro.
• Cada vez mais, a biometria é usada, reconhecendo expressões, voz e até movimentos do mouse.

Em setembro de 2023, um jovem de 23 anos de Shanxi, China, postou um vídeo no TikTok para compartilhar uma descoberta chocante. Em um vídeo de um casal discutindo, os comentários exibidos para ele eram completamente diferentes dos comentários exibidos para sua namorada. A seção de comentários do TikTok parecia ser deliberadamente antagônica. Na seção de comentários da garota, os comentários eram principalmente de uma perspectiva feminina. Além disso, eles pareciam ver comentários extremamente cruéis, deliberadamente usados para iniciar uma briga. Os homens, por outro lado, viam as coisas de forma muito diferente.

Alguns internautas chineses perceberam: “É claro, não é de admirar que muitas vezes eu não consigo ver vozes diferentes na seção de comentários”.

Outros expressaram profunda preocupação com a cena: “Nossa visão está se tornando cada vez mais estreita, nosso pensamento está se tornando cada vez mais extremo, e nossos preconceitos estão se tornando cada vez mais sérios.”

Leia também：Mudança drástica do TikTok: segunda rodada de recompra de ações

O culpado da bolha informativa: a personalização

• Amazon：o primeiro caso de personalização de preços

Você pode presumir que vê exatamente as mesmas informações de produto, pelo mesmo preço, que seu amigo, colega ou pai vê ao rolar a página. Mas em 2000, a Amazon conduziu um experimento de precificação diferenciada, adaptando preços diferentes para cada um de seus 68 DVDs mais vendidos para cada cliente com base em suas informações e comportamento, o que aumentou significativamente as margens brutas dessas vendas. A Amazon projetou um preço exclusivamente seu com base em seu gênero, idade, hobbies, gastos anteriores e outras informações pessoais. É uma zona de conforto mútua onde você pode pagar e a plataforma ganha mais.

E como eles criam esses perfis é onde começa a verdadeira ficção científica de tirar o sono. Desde a forma como você move o mouse, a velocidade com que digita, os sons que emite, a frequência dos seus piscares, até mesmo algumas microexpressões, dados de lances, alimentados em algoritmos de grandes empresas de tecnologia, podem ser coletados de uma miríade de comportamentos nos quais você provavelmente nem pensa, quando se trata de privacidade.

“Juntas, essas técnicas podem analisar características físicas sutis que são únicas do indivíduo e inconscientes (como a forma como uma pessoa anda)”, diz Ryan Payne, pesquisador da Queensland University of Technology.

Mais detalhes de Payne: por trás de tudo isso está a Tecnologia de Precificação Biométrica (BPT), uma importante aplicação emergente da tecnologia de rastreamento biométrico. Atualmente, a maioria das tecnologias biométricas ainda está no estágio de precificação estática. Isso representa uma precificação pré-determinada e não relacionada à interação em tempo real com o consumidor. Leva um período de tempo para coletar dados biométricos suficientes do usuário e, em seguida, fazer ajustes no preço, ou seja, através das três fases de “clicar e esperar”, “monitorar” e “ajustar após consideração”.

A tecnologia de precificação biométrica mais avançada, baseada em rastreamento facial, permite ajustes de preço em tempo real e um estágio verdadeiramente dinâmico de precificação.

Leia também:Assistente de IA Amazon Q: AWS lança uma abordagem revolucionária para consulta de dados

• Ctrip: big data mata a lealdade

Em nossa percepção normal, sempre pensamos que usuários fiéis conseguem preços mais baratos. Mas a realidade é que algumas empresas e plataformas obtêm mais lucro explorando a dependência do cliente.

O exemplo da vida real vem da Sra. Hu, que sempre reservou seus voos e hotéis pelo aplicativo Ctrip e, portanto, é uma cliente VIP Diamante na plataforma, com direito a um desconto de 20%.

Em julho de 2020, a Sra. Hu reservou um hotel ao preço de RMB 2.889 pelo aplicativo Ctrip, como de costume. No entanto, ao sair do hotel, a Sra. Hu descobriu que o preço real de tabela do hotel era de apenas RMB 1.377,63. A Sra. Hu não apenas não obteve os descontos que clientes estrelados deveriam ter, mas pagou o dobro da diária.

• A cadeia da indústria por trás da fraude na gravidez

Alguns aplicativos para mães e bebês começam a usar algoritmos de big data para fazer recomendações precisas após os usuários adicionarem tags de gravidez. Para as gestantes, eles recomendam centros mensais, suprimentos para mães e bebês e conhecimentos sobre parentalidade. Para os futuros pais, eles exibem vídeos eróticos e até projetam muitos SMS indicando que podem fornecer serviços especiais para atrair homens a fazer escolhas irracionais.

Alguns aplicativos para mães e bebês lembram sistemática e ativamente os usuários de convidar os pais para baixar e participar dos cuidados com o bebê após o download e registro, mas o propósito por trás disso pode ocultar uma cadeia industrial cinzenta que atrai homens a trair durante a gravidez.

“É um ciclo de feedback de validação social… exatamente o tipo de coisa que um hacker como eu inventaria,porque você está explorando uma vulnerabilidade na psicologia humana”, disseSean Parker, primeiro presidente do Facebook.

“O perigo de estar em nossas câmaras de eco é que isso pode perpetuar notícias falsas, limitar nossas visões e, como também vimos, afetar a forma como as pessoas decidem votar nas eleições.”

Sangeeta Waldron, fundadora, autora e palestrante convidada da Serendipity PR & Media

Viés de confirmação e pensamento extremo

A bolha informativa continuará a reforçar nossas crenças e perspectivas existentes se os indivíduos se concentrarem apenas em conteúdo autosselecionado ou conteúdo de que gostam e reduzirem sua exposição a outras informações.

Desenvolvemos a ilusão de que você e eu estamos recebendo as mesmas informações e que nossas discussões online são baseadas em um conjunto padrão de fatos. Mas a verdade é que cada um de nós tem seu próprio Show de Truman, e o que vemos é um mundo adaptado para nós por algoritmos. Isso pode tornar as pessoas cegas, extremas e facilmente manipuláveis, e faz com que as pessoas fiquem cada vez menos propensas a aceitar pontos de vista diferentes, levando até mesmo à criação de preconceito e discriminação, e à tendência de se tornarem cada vez mais antagônicas, levando a distúrbios sociais.

Jonathan Haidt, psicólogo social da Universidade de Nova York, disse: “Houve um aumento dramático na depressão e ansiedade na população adolescente dos EUA, com um aumento acentuado no número de adolescentes que se envolvem em automutilação e até suicídio, e até um aumento de 151% no número de episódios de automutilação entre meninas de 10 a 14 anos. Esse padrão de aumento aponta para as redes sociais.”

Sangeeta Waldron, fundadora, autora e palestrante convidada da Serendipity PR & Media, disse que: “O perigo de estar em nossas câmaras de eco é que isso pode perpetuar notícias falsas, limitar nossas visões e, como também vimos, afetar a forma como as pessoas decidem votar nas eleições.”

Esta é uma faceta da bolha informativa e da armadilha algorítmica na qual a sociedade como um todo está caindo.

A mão por trás das costas:

• Biometria

Payne também nos forneceu mais cenários onde a biometria poderia ser usada, incluindo para determinar o potencial acadêmico de um aluno, decidir sobre o recruta militar ou funcionário ideal e personalizar trailers de filmes. Até mesmo a renda, orientação sexual, raça, estado civil, QI, afiliação política e as emoções (especialmente as negativas) de um indivíduo serão invisíveis sob essa tecnologia um tanto onipotente.

“As crianças na aprendizagem poderiam receber conteúdo personalizado, os médicos saberiam que nível de linguagem usar e as emoções de paciência que tratam; se você pudesse prever o QI, poderia ajudar as pessoas a encontrar carreiras dentro de suas habilidades – obter um maior senso de realização.” Payne fez essa previsão para o futuro próximo.（clique aqui para ler mais sobre isso）

“No entanto, através das redes sociais e do enorme crescimento do CCTV, combinado com a falta de capacidade de possuir um pedaço de terra, a capacidade de conduzir… Então, de certa forma, criamos uma prisão panóptica autoimposta. Não pela criação de perfis, mas pelo crescimento do rastreamento e julgamento. Não pela criação de perfis, mas pelo crescimento do rastreamento e pela sede de conteúdo gerado pelo usuário”, diz Payne.

“…com a falta de capacidade de possuir um pedaço de terra, a capacidade de conduzir… Então, de certa forma, criamos uma prisão panóptica autoimposta.”

Ryan Payne, Queensland University of Technology

• Extração de recursos na análise de sentimentos

A análise de sentimentos é uma forma de extrair, classificar e resumir automaticamente sentimentos e emoções de textos online. Ela permite que as máquinas determinem as opiniões públicas sobre produtos, serviços, políticas e política, permitindo que as plataformas façam recomendações personalizadas e que empresas e governos monitorem a opinião pública.

Encasulamento: o direito de decidir está nas mãos do usuário

Os usuários têm o direito de determinar o fluxo de suas informações e podem gerenciar ativamente seus dados por meio de configurações de privacidade e autorização de dados. Após a introdução dos Regulamentos da China sobre a Administração de Serviços de Informação de Aplicativos Móveis de Internet, várias plataformas conhecidas esconderam deliberadamente o botão de desligar no canto de seus softwares, mesmo tendo ativado um recurso para desativar recomendações personalizadas. No status quo, os usuários precisam defender seus direitos e interesses por conta própria e participar ativamente das interações de informações comerciais.

Lindsey Chastain, fundadora e CEO do The Writing Detective, afirmou que “reconhecer que os resultados personalizados são tendenciosos pelos incentivos comerciais da plataforma – mantenha um ceticismo saudável.”

“Reconhecer que os resultados personalizados são tendenciosos pelos incentivos comerciais da plataforma – mantenha um ceticismo saudável.”

Lindsey Chastain, fundadora e CEO do The Writing Detective

Mais do que isso, os usuários precisam tomar a iniciativa de obter informações de primeira mão, em vez de serem processados. Somente através da ampla diversidade de informações, para desenvolver a capacidade de identificar a autenticidade das informações, a fim de construir um sistema cognitivo mais abrangente e objetivo. Quando os usuários não gastam mais tempo procurando ativamente, lendo e integrando informações, mas aceitam passivamente o chamado conteúdo de interesse empurrado para nós por algoritmos, não seremos capazes de romper a estrutura de conhecimento existente.

Lembre-se, precisamos nos tornar o ponto de partida da recepção de informações, não o ponto final. Pelo menos para não nos tornarmos a vítima das grandes empresas, devemos, mais ou menos, oferecer alguma resistência à bolha informativa!