- TikTok foi constatado por fornecer comentários diferentes para diferentes grupos de pessoas, provocando deliberadamente confrontos e criando bolhas de informação.
- Amazon, Ctrip e outras plataformas usam perfis de usuários para ajustar preços e aumentar lucros.
- Cada vez mais, dados biométricos são usados, reconhecendo expressões, voz e até movimentos do mouse.
Em setembro de 2023, um homem de 23 anos originário de Shanxi, na China, publicou um vídeo no TikTok para compartilhar uma descoberta chocante. Em um vídeo de um casal discutindo, os comentários exibidos para ele eram completamente diferentes dos comentários exibidos para sua namorada. A seção de comentários do TikTok parecia deliberadamente antagônica. Na seção de comentários vista pela garota, os comentários eram principalmente do ponto de vista feminino. Além disso, eles pareciam ver comentários extremamente viciosos, deliberadamente usados para provocar uma discussão. Os homens, por outro lado, viam as coisas de forma muito diferente.
Alguns internautas chineses perceberam: “Claro, não é de admirar que eu não consiga ver vozes diferentes na seção de comentários repetidamente”.
Outros expressaram profunda preocupação com essa situação: “Nossa visão se torna cada vez mais estreita, nosso pensamento se torna cada vez mais extremo e nossos preconceitos se tornam cada vez mais graves.”
Leia também:A mudança drástica do TikTok: uma segunda onda de recompra de ações
O culpado da bolha de informação: a personalização
E a verdade é que esse tipo de conteúdo sob medida, baseado em perfis extremamente detalhados que as grandes empresas de tecnologia criam para cada usuário, se estende e se infiltra mais profundamente em vários aspectos de nossa vida digital.
- Amazon: o primeiro caso de personalização individualizada de preços
Você pode acreditar que está vendo exatamente as mesmas informações sobre um produto, pelo mesmo preço, que seu amigo, colega ou parente quando ele rola a página. Mas em 2000, a Amazon realizou um experimento de precificação diferencial, adaptando preços diferentes para cada um de seus 68 itens de DVD mais vendidos para cada cliente com base em suas informações e comportamento, o que aumentou significativamente as margens brutas dessas vendas. A Amazon projetou um preço específico para você com base em seu sexo, idade, hobbies, gastos passados e outras informações pessoais.
É uma zona de conforto mútua onde você pode pagar e a plataforma ganha mais.
E a maneira como eles criam esses perfis é onde começa a verdadeira ficção científica, aquela que perturba o sono. Desde a forma como você move o mouse, a velocidade com que digita, os sons que produz, a frequência com que pisca, até mesmo algumas microexpressões, os dados de leilão, integrados aos algoritmos das grandes tecnologias, podem ser coletados a partir de uma miríade de comportamentos nos quais você provavelmente nem pensa em termos de privacidade.
“Juntas, essas métodos podem examinar características físicas sutis que são únicas para o indivíduo e inconscientes (como a forma como uma pessoa anda)”, declara Ryan Payne, pesquisador da Université de technologie du Queensland.
Mais detalhes de Payne: por trás de tudo isso está a tecnologia de precificação biométrica (BPT), uma aplicação emergente importante da tecnologia de rastreamento biométrico. Até hoje, a maioria das tecnologias biométricas ainda está no estágio de precificação estática. Isso representa uma precificação predeterminada e não vinculada à interação em tempo real com o consumidor. É necessário um certo tempo para coletar dados biológicos suficientes do usuário e, em seguida, ajustar o preço, ou seja, através das três fases de “clicar e esperar”, “monitorar” e “ajustar após reflexão”.
A tecnologia de precificação biométrica mais avançada baseada em rastreamento facial permite ajustes de preço em tempo real e uma verdadeira fase de precificação dinâmica.
Leia também:Assistente de IA Amazon Q: AWS lança uma abordagem revolucionária de consulta de dados
- Ctrip: o big data mata a fidelidade
O exemplo concreto vem da Sra. Hu, que sempre reservou seus voos e hotéis pelo aplicativo Ctrip, e portanto é uma cliente VIP Diamante na plataforma, com desconto de 20%.
Em julho de 2020, a Sra. Hu reservou um hotel por 2 889 RMB pelo aplicativo Ctrip como de costume. No entanto, ao sair do hotel, a Sra. Hu descobriu que o preço real exibido do hotel era de apenas 1 377,63 RMB. Não só a Sra. Hu não recebeu os descontos a que os clientes classificados por estrelas deveriam ter direito, mas também pagou o dobro da tarifa do quarto.
- A cadeia industrial por trás da fraude à gravidez
Alguns softwares para mães e bebês começam a usar algoritmos de big data para fazer recomendações precisas depois que as usuárias adicionam etiquetas de gravidez. Para as mulheres grávidas, eles promovem centros mensais, suprimentos para mães e bebês e conhecimentos parentais. Para os futuros pais, eles promovem vídeos eróticos e até enviam vários SMS indicando que podem fornecer serviços especiais para induzir os homens a fazerem escolhas irracionais.
Alguns softwares para mães e bebês lembram sistemática e ativamente as usuárias de convidar os pais a baixar o aplicativo e participar juntos dos cuidados com os filhos após o download e cadastro, mas o objetivo por trás disso pode esconder uma cadeia industrial cinzenta que induz os homens a trair durante a gravidez.
“É um loop de feedback de validação social... exatamente o tipo de coisa que um hacker como eu inventaria, porque você explora uma vulnerabilidade da psicologia humana”, disse Sean Parker, o primeiro presidente do Facebook.
“O perigo de permanecer em nossas câmaras de eco é que isso pode perpetuar notícias falsas, limitar nossos pontos de vista e, como também vimos, influenciar a forma como as pessoas decidem votar nas eleições.”
Sangeeta Waldron, fundadora, autora e palestrante convidada na Serendipity PR & Media
Viés de confirmação e pensamento extremo
A bolha de informação continuará a reforçar nossas crenças e perspectivas existentes se os indivíduos se concentrarem apenas no conteúdo auto-selecionado ou no conteúdo de que gostam e reduzirem sua exposição a outras informações.
Desenvolvemos a ilusão de que você e eu recebemos as mesmas informações e que nossas discussões online são baseadas em um conjunto padrão de fatos. Mas a verdade é que cada um de nós tem seu próprio “Truman Show”, e o que vemos é um mundo moldado para nós pelos algoritmos. Isso pode tornar as pessoas cegas, extremas e fáceis de manipular, e torna as pessoas cada vez menos propensas a aceitar pontos de vista diferentes, o que pode até levar à proliferação de preconceitos e discriminação, e a uma tendência a se tornarem cada vez mais antagônicas, resultando em distúrbios sociais.
Jonathan Haidt, psicólogo social da Université de New York, disse: “Houve um aumento dramático da depressão e ansiedade na população adolescente americana, com um forte aumento no número de adolescentes envolvidos em automutilação e até suicídio, e até mesmo um aumento de 151% no número de episódios de automutilação em meninas de 10 a 14 anos. Esse padrão de aumento aponta para as mídias sociais.”
Sangeeta Waldron, fundadora, autora e palestrante convidada na Serendipity PR & Media, disse: “O perigo de permanecer em nossas câmaras de eco é que isso pode perpetuar notícias falsas, limitar nossos pontos de vista e, como também vimos, influenciar a forma como as pessoas decidem votar nas eleições.”
É uma faceta da bolha de informação e da armadilha algorítmica na qual a sociedade como um todo cai.
A mão por trás das costas:
- Biometria
Payne também nos forneceu outros cenários onde a biometria poderia ser usada, incluindo determinar o potencial acadêmico de um estudante, decidir recrutamento militar ou recrutamento de funcionários ideais, e personalizar trailers de filmes. Até mesmo a renda, orientação sexual, raça, estado civil, QI, afiliação política de um indivíduo, e suas emoções (especialmente as negativas) serão visíveis sob essa tecnologia de certa forma onipotente.
“Crianças em aprendizagem poderiam receber conteúdo personalizado, médicos saberiam qual nível de linguagem usar, e as emoções de paciência que eles tratam, se pudéssemos prever o QI, poderíamos ajudar as pessoas a encontrar carreiras em suas capacidades – obter um maior senso de realização.” Payne fez essa previsão para um futuro próximo.(clique aqui para saber mais)
“No entanto, através das mídias sociais e do crescimento massivo da videovigilância, combinados com uma falta de capacidade de possuir um terreno, a capacidade de liderar... Assim, meio que criamos uma prisão panóptica autoimposta. Não pelo profilamento, mas pelo crescimento do rastreamento e do julgamento. Não pelo profilamento, mas pelo crescimento do rastreamento e pela sede de conteúdo gerado por usuários”, diz Payne.
“… com uma falta de capacidade de possuir um terreno, a capacidade de liderar... Assim, meio que criamos uma prisão panóptica autoimposta.”
Ryan Payne, Université de technologie du Queensland
- Extração de características na análise de sentimentos
A análise de sentimentos é um método para extrair, classificar e resumir automaticamente sentimentos e emoções a partir de textos online. Ela permite que as máquinas determinem opiniões públicas sobre produtos, serviços, políticas e política, permitindo que as plataformas façam recomendações personalizadas e que empresas e governos monitorem a opinião pública.
Bolha: o direito de determinar está nas mãos do usuário
Os usuários têm o direito de determinar o fluxo de suas informações e podem gerenciar ativamente seus dados por meio das configurações de privacidade e autorização de dados. Após a introdução do Regulamento Chinês sobre a Administração de Serviços de Informação de Aplicativos Móveis da Internet, várias plataformas conhecidas deliberadamente esconderam o botão de desativação em um canto de seu software, mesmo tendo ativado uma funcionalidade para desativar recomendações personalizadas.
Nas circunstâncias atuais, os usuários devem defender seus direitos e interesses por si mesmos e participar ativamente das interações de informação com os comerciantes.
Lindsey Chastain, fundadora e CEO da The Writing Detective, afirmou que “reconhecer que os resultados personalizados são enviesados pelos incentivos comerciais da plataforma – manter um ceticismo saudável.”
“Reconhecer que os resultados personalizados são enviesados pelos incentivos comerciais da plataforma – manter um ceticismo saudável.”
Lindsey Chastain, fundadora e CEO da The Writing Detective
Mais do que isso, os usuários devem tomar a iniciativa de obter informações em primeira mão, ao invés de serem tratados. É apenas através de uma grande diversidade de informações, desenvolvendo a capacidade de identificar a autenticidade das informações, que se pode construir um sistema cognitivo mais completo e objetivo. Quando os usuários não gastam mais tempo buscando ativamente, lendo e integrando informações, mas aceitam passivamente o chamado conteúdo de interesse que os algoritmos nos empurram, não conseguiremos quebrar a estrutura de conhecimento existente.
Lembremo-nos de que devemos nos tornar o ponto de partida da recepção de informação, e não o ponto final. Pelo menos, para não nos tornarmos os tolos da farsa das grandes empresas, devemos, mais ou menos, opor alguma resistência à bolha de informação!