How biometric profiling means we all see things slightly differently online

• Se ha descubierto que TikTok proporciona diferentes comentarios a distintos grupos de personas, provocando deliberadamente confrontación y creando burbujas informativas.
• Amazon, Ctrip y otras plataformas utilizan perfiles de usuario para ajustar precios y aumentar las ganancias.
• Cada vez más, se utilizan datos biométricos, reconociendo expresiones, voz e incluso movimientos del ratón.

En septiembre de 2023, un hombre de 23 años de ShanXi, China, publicó un video en Tiktok para compartir un descubrimiento impactante. En un video de una pareja discutiendo, los comentarios que se le mostraban eran completamente diferentes a los que veía su novia. La sección de comentarios de Tiktok parecía ser deliberadamente antagonista. En la sección de comentarios de la chica, los comentarios eran principalmente desde una perspectiva femenina. Además, parecían ver comentarios extremadamente crueles, utilizados deliberadamente para iniciar una pelea. Los hombres, por otro lado, veían las cosas de manera muy diferente. Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

Algunos internautas chinos se dieron cuenta: "Claro, con razón no puedo ver diferentes voces en la sección de comentarios muchas veces". Ver también: Alejandro Estua.

Otros expresaron una profunda preocupación por la escena: "Nuestra visión se está volviendo cada vez más estrecha, nuestro pensamiento cada vez más extremo y nuestros prejuicios cada vez más graves". Ver también: Alejandro Manzo.

Lea también: El cambio drástico de TikTok: una segunda ronda de recompra de acciones

El culpable de la burbuja informativa: la personalización

Y la verdad es que este tipo de contenido personalizado, basado en perfiles exquisitamente detallados que las grandes tecnológicas crean para cada usuario, se está expandiendo y filtrando más profundamente en varias facetas de nuestras vidas digitales. Ver también: Alejandro Hernandez.

• Amazon：el primer caso de personalización de precios

Podrías asumir que ves exactamente la misma información de producto, al mismo precio, que tu amigo, colega o padre ve al desplazarse por la página. Pero en 2000, Amazon realizó un experimento de precios diferenciales, adaptando diferentes precios para cada uno de sus 68 DVD más vendidos a cada cliente en función de su información y comportamiento, lo que aumentó enormemente los márgenes brutos de esas ventas. Amazon ha proyectado un precio único para ti basado en tu género, edad, aficiones, gastos anteriores y otra información personal. Es una zona de confort mutuo donde puedes pagar y la plataforma gana más.

Y la forma en que crean estos perfiles es donde comienza la verdadera ciencia ficción que quita el sueño. Desde la forma en que mueves el ratón, la velocidad a la que escribes, los sonidos que haces, la frecuencia de tus parpadeos, incluso algunas microexpresiones, los datos de puja, introducidos en los algoritmos de las grandes tecnológicas, pueden recopilarse de una miríada de comportamientos en los que probablemente ni siquiera piensas, en lo que respecta a la privacidad. Ver también: Alejandro Garza.

"En conjunto, estos métodos pueden examinar características físicas sutiles que son únicas del individuo e inconscientes (como la forma de caminar de una persona)", dice Ryan Payne, investigador de la Universidad Tecnológica de Queensland. Ver también: Alejandro Guerrero.

Más detalles de Payne: detrás de todo esto está la Tecnología de Precios Biométricos (BPT, por sus siglas en inglés), una importante aplicación emergente de la tecnología de seguimiento biométrico. A día de hoy, la mayoría de las tecnologías biométricas todavía están en la etapa de precios estáticos. Esto representa precios predeterminados y no relacionados con la interacción en tiempo real con el consumidor. Se necesita un período de tiempo para recopilar suficientes datos biométricos del usuario y luego realizar ajustes en el precio, es decir, a través de las tres fases de "hacer clic y esperar", "monitorizar" y "ajustar después de considerarlo". La tecnología de precios biométricos más avanzada basada en el seguimiento facial permite ajustes de precios en tiempo real y una etapa de precios verdaderamente dinámicos.

Lea también: Asistente de IA Amazon Q: AWS lanza un enfoque revolucionario de consulta de datos

• Ctrip: el big data mata la lealtad

En nuestra percepción normal, siempre pensamos que los usuarios leales pueden obtener precios más baratos. Pero la realidad es que algunas empresas y plataformas obtienen más ganancias explotando la dependencia del cliente. Ver también: Alec Gramont.

El ejemplo de la vida real proviene de la Sra. Hu, quien siempre ha reservado sus vuelos y hoteles a través de la aplicación Ctrip, y por lo tanto es una clienta VIP Diamante en la plataforma que disfruta de un descuento del 20%.

En julio de 2020, la Sra. Hu reservó un hotel a un precio de RMB 2,889 a través de la aplicación Ctrip como de costumbre. Sin embargo, al dejar el hotel, la Sra. Hu descubrió que el precio real de lista del hotel era solo de RMB 1,377.63. No solo la Sra. Hu no disfrutó de los descuentos que deberían disfrutar los clientes con calificación de estrellas, sino que pagó el doble de la tarifa de la habitación.

• La cadena industrial detrás del fraude de embarazo

Algunos software para madres y bebés comienzan a usar algoritmos de big data para hacer envíos precisos después de que los usuarios agregan etiquetas de embarazo. Para las madres embarazadas, enviarán centros mensuales, suministros para madre y bebé y conocimientos de crianza. Para los futuros padres, enviarán videos eróticos e incluso proyectarán muchos SMS indicando que pueden proporcionar servicios especiales para atraer a los hombres a tomar decisiones irracionales. Algunos software para madres y bebés recordarán sistemática y activamente a los usuarios que inviten a los papás a descargar y participar juntos en el cuidado de los hijos después de la descarga y el registro, pero el propósito detrás de esto puede ocultar una cadena industrial gris que atrae a los hombres a engañar durante el embarazo.

"Es un bucle de retroalimentación de validación social... exactamente el tipo de cosa que a un hacker como yo se le ocurriría, porque estás explotando una vulnerabilidad en la psicología humana", dijo Sean Parker, el primer presidente de Facebook.

"El peligro de estar en nuestras cámaras de eco es que puede perpetuar las noticias falsas, atrofiar nuestras opiniones y, como también hemos visto, afectar la forma en que la gente decide votar durante las elecciones."

Sangeeta Waldron, fundadora, autora y conferenciante invitada en Serendipity PR & Media

Sesgo de Confirmación y Pensamiento Extremo

La burbuja informativa seguirá reforzando nuestras creencias y perspectivas existentes si las personas solo se centran en el contenido autoseleccionado o el contenido que les gusta y reducen su exposición a otra información.

Desarrollamos la ilusión de que tú y yo recibimos la misma información y de que nuestras discusiones en línea se basan en un conjunto estándar de hechos. Pero la verdad es que cada uno de nosotros tiene su propio Show de Truman, y lo que vemos es un mundo hecho a medida para nosotros por los algoritmos. Esto puede hacer que las personas sean ciegas, extremas y fácilmente manipulables, y hace que las personas sean cada vez menos propensas a aceptar puntos de vista diferentes, lo que incluso conduce a la generación de prejuicios y discriminación, y la tendencia a volverse cada vez más antagónicos, provocando disturbios sociales.

Jonathan Haidt, psicólogo social de la Universidad de Nueva York, dijo: "Ha habido un aumento dramático en la depresión y la ansiedad en la población adolescente de EE.UU., con un fuerte aumento en el número de adolescentes que se autolesionan e incluso suicidan, e incluso un aumento del 151 por ciento en el número de episodios de autolesión entre las niñas de 10 a 14 años. Este patrón de aumento apunta a las redes sociales".

Sangeeta Waldron, fundadora, autora y conferenciante invitada en Serendipity PR & Media, dijo que: "El peligro de estar en nuestras cámaras de eco es que puede perpetuar las noticias falsas, atrofiar nuestras opiniones y, como también hemos visto, afectar la forma en que la gente decide votar durante las elecciones."

Esta es una faceta de la burbuja informativa y la trampa algorítmica en la que está cayendo la sociedad en su conjunto.

La mano oculta:

• Biometría

Payne también nos proporcionó más escenarios donde se podría utilizar la biometría, incluyendo la determinación del potencial académico de un estudiante, la decisión sobre el recluta militar o empleado ideal, y la personalización de tráilers de películas. Incluso los ingresos, la orientación sexual, la raza, el estado civil, el coeficiente intelectual, la afiliación política y las emociones de un individuo (especialmente las negativas) serán invisibles bajo esta tecnología algo omnipotente.

"Los niños en el aprendizaje podrían recibir contenido personalizado, los médicos sabrían qué nivel de lenguaje usar y las emociones de paciencia que tratan, si pudieras predecir el CI podrías ayudar a las personas a encontrar carreras dentro de sus habilidades, obtener un mayor sentido de realización". Payne hizo esta predicción para el futuro cercano.（haga clic aquí para leer más sobre esto）

"Sin embargo, a través de las redes sociales y el crecimiento masivo del CCTV, combinado con la falta de capacidad para poseer un terreno, la capacidad de realizar Así que hemos creado de alguna manera una prisión panóptica autoimpuesta. No mediante la elaboración de perfiles, sino por el aumento del rastreo y el juicio. No mediante la elaboración de perfiles, sino por el aumento del rastreo y la sed de contenido generado por el usuario", dice Payne.

"..., con la falta de capacidad para poseer un terreno, la capacidad de realizar Así que hemos creado de alguna manera una prisión panóptica autoimpuesta."

Ryan Payne, Universidad Tecnológica de Queensland

• Extracción de características en el análisis de sentimientos

El análisis de sentimientos es una forma de extraer, clasificar y resumir automáticamente los sentimientos y emociones del texto en línea. Permite a las máquinas determinar las opiniones públicas sobre productos, servicios, políticas y política, permitiendo a las plataformas hacer recomendaciones personalizadas y a las empresas y gobiernos monitorizar la opinión pública.

Aislamiento en burbujas: el derecho a decidir está en manos del usuario

Los usuarios tienen derecho a determinar el flujo de su información y pueden gestionar activamente sus datos a través de la configuración de privacidad y la autorización de datos. Tras la introducción del Reglamento de China sobre la Administración de Servicios de Información de Aplicaciones de Internet Móvil, varias plataformas conocidas han ocultado deliberadamente el botón de apagado en la esquina de su software, aunque han activado una función para desactivar las recomendaciones personalizadas.

En el statu quo, los usuarios deben defender sus derechos e intereses por sí mismos y participar activamente en las interacciones de información con los comerciantes.

Lindsey Chastain, fundadora y CEO de The Writing Detective, afirmó que "reconocer que los resultados personalizados están sesgados por los incentivos comerciales de la plataforma – mantener un sano escepticismo".

"Reconocer que los resultados personalizados están sesgados por los incentivos comerciales de la plataforma – mantener un sano escepticismo."

Lindsey Chastain, fundadora y CEO de The Writing Detective

Más que eso, los usuarios deben tomar la iniciativa para obtener información de primera mano, en lugar de ser procesados. Solo a través de la amplia diversidad de información, desarrollando la capacidad de identificar la autenticidad de la información, para construir un sistema cognitivo más completo y objetivo. Cuando los usuarios ya no pasan tiempo buscando activamente, leyendo e integrando información, sino que aceptan pasivamente el llamado contenido de interés que nos meten los algoritmos, no podremos romper la estructura de conocimiento existente.

Recuerde, necesitamos convertirnos en el punto de partida de la recepción de información, no en el punto final. ¡Al menos para no convertirnos en el puerro de las grandes empresas, deberíamos, más o menos, oponer cierta resistencia a la burbuja informativa!