- Se ha descubierto que TikTok muestra comentarios diferentes a distintos grupos de personas, provocando enfrentamientos deliberadamente y creando burbujas informativas.
- Amazon, Ctrip y otras plataformas utilizan perfiles de usuarios para ajustar precios y aumentar sus ganancias.
- Cada vez más, se utilizan datos biométricos, reconociendo expresiones, voz e incluso movimientos del ratón.
En septiembre de 2023, un joven de 23 años de Shanxi, China, publicó un video en TikTok para compartir un descubrimiento impactante. En un video de una pareja discutiendo, los comentarios que le aparecían eran completamente diferentes a los que veía su novia. La sección de comentarios de TikTok parecía deliberadamente antagónica. En los comentarios de la chica, la mayoría eran desde una perspectiva femenina. Además, parecía que veían comentarios extremadamente crueles, usados deliberadamente para iniciar peleas. Los hombres, por otro lado, veían las cosas de manera muy diferente.
Algunos internautas chinos se dieron cuenta: “Claro, con razón muchas veces no veo voces diferentes en la sección de comentarios”.
Otros expresaron profunda preocupación: “Nuestra visión se vuelve cada vez más estrecha, nuestro pensamiento se vuelve cada vez más extremo y nuestros prejuicios son cada vez más graves”.
Lea también:El cambio drástico de TikTok: una segunda ronda de recompras de acciones
El culpable de la burbuja informativa: la personalización
- Amazon: el primer caso de personalización de precios
Puede que por defecto veas la misma información de producto, al mismo precio, que tu amigo, colega o padre cuando se desplaza por la página. Pero ya en2000, Amazon realizó un experimento de precios diferenciales, adaptando diferentes precios para cada uno de sus 68 DVDs más vendidos a cada cliente según su información y comportamiento, lo que aumentó enormemente los márgenes brutos de esas ventas. Amazon ha proyectado un precio que es exclusivamente tuyo basado en tu género, edad, aficiones, gastos anteriores y otra información personal. Es una zona de confort mutuo donde puedes pagar y la plataforma gana más.
Y cómo crean estos perfiles es donde comienza la verdadera ciencia ficción que quita el sueño. Desde la forma en que mueves el ratón, hasta la velocidad a la que escribes, los sonidos que haces, la frecuencia de tus parpadeos, incluso algunas microexpresiones, los datos de puja, alimentados a los algoritmos de las grandes tecnológicas, pueden ser recolectados de una miríada de comportamientos en los que probablemente ni siquiera piensas cuando se trata de privacidad.
“En conjunto, estos métodos pueden observar características físicas sutiles que son únicas del individuo e inconscientes (como la forma de caminar)”, dice Ryan Payne, investigador de la Universidad Tecnológica de Queensland.
Payne da más detalles: detrás de todo esto está la Tecnología de PreciosBiométricos(BPT, por sus siglas en inglés), una importante aplicación emergente de la tecnología de seguimiento biométrico. Hasta hoy, la mayoría de las tecnologías biométricas aún están en la etapa de fijación de precios estáticos. Esto representa precios predeterminados que no están relacionados con la interacción del consumidor en tiempo real. Se necesita un período de tiempo para recopilar suficientes datos biométricos del usuario y luego ajustar el precio, es decir, a través de las tres fases de “hacer clic y esperar”, “monitorear” y “ajustar tras consideración”. La tecnología de precios biométricos más avanzada basada en el seguimiento facial permite ajustes de precios en tiempo real y una etapa de precios verdaderamente dinámicos.
Lea también:Asistente de IA Amazon Q: AWS lanza un enfoque revolucionario para consultas de datos
- Ctrip: los grandes datos matan la lealtad
En nuestra percepción normal, siempre pensamos que los usuarios leales pueden obtener precios más baratos. Pero la realidad es que algunas empresas y plataformas obtienen más ganancias explotando la dependencia del cliente.
El ejemplo de la vida real proviene de la Sra. Hu, quien siempre ha reservado sus vuelos y hoteles a través de la aplicación Ctrip, y por lo tanto es cliente Diamante VIP en la plataforma, con un 20% de descuento.
En julio de 2020, la Sra. Hu reservó un hotel por un precio de 2.889 RMB a través de la aplicaciónCtripcomo de costumbre. Sin embargo, al salir del hotel, la Sra. Hu descubrió que el precio real de lista del hotel era de solo 1.377,63 RMB. No solo no disfrutó los descuentos que debería tener como cliente estrella, sino que pagó el doble de la tarifa de la habitación.
- La cadena industrial detrás del fraude del embarazo
Algunos softwares para madres y bebés comienzan a usar algoritmos de big data para hacer envíos precisos después de que los usuarios añaden etiquetas de embarazo. Para las madres embarazadas, enviarán centros mensuales, suministros para madres y bebés y conocimientos sobre crianza. Para los futuros padres, enviarán videos eróticos, e incluso proyectarán muchosSMSindicando que pueden proporcionar servicios especiales para atraer a los hombres a tomar decisiones irracionales. Algunos softwares para madres y bebés recordarán sistemática y activamente a los usuarios que inviten a los papás a descargar y participar en el cuidado de los niños juntos después de descargar y registrarse, pero el propósito detrás de esto puede ocultar una cadena industrial gris que atrae a los hombres a ser infieles durante el embarazo.
“Es un bucle de retroalimentación de validación social... exactamente el tipo de cosa que un hacker como yo inventaría,porque estás explotando una vulnerabilidad en la psicología humana”, dijoSean Parker, primer presidente de Facebook.
“El peligro de estar en nuestras cámaras de eco es que puede perpetuar noticias falsas, limitar nuestras perspectivas y, como hemos visto, afectar la forma en que las personas deciden votar en las elecciones”.
Sangeeta Waldron, fundadora, autora y conferencista invitada en Serendipity PR & Media
Sesgo de confirmación y pensamiento extremo
La burbuja informativa continuará reforzando nuestras creencias y perspectivas existentes si los individuos solo se enfocan en contenido autoseleccionado o que les gusta y reducen su exposición a otra información.
Desarrollamos la ilusión de que tú y yo recibimos la misma información y que nuestras discusiones en línea se basan en un conjunto estándar de hechos. Pero la verdad es que cada uno de nosotros tiene su propio Show de Truman, y lo que vemos es un mundo adaptado a nosotros por los algoritmos. Esto puede cegar a las personas, hacerlas extremas y fácilmente manipulables, y hace que sea cada vez menos probable que acepten puntos de vista diferentes, lo que incluso lleva a la generación de prejuicios y discriminación, y a una tendencia a volverse cada vez más antagónicos, lo que conduce al malestar social.
Jonathan Haidt, psicólogo social de la Universidad de Nueva York, dijo: “Ha habido un aumento dramático de la depresión y la ansiedad en la población adolescente de EE. UU., con un fuerte aumento en el número de adolescentes que se autolesionan e incluso se suicidan, e incluso un aumento del 151 por ciento en el número de episodios de autolesiones entre niñas de 10 a 14 años. Este patrón de aumento apunta a las redes sociales”.
Sangeeta Waldron, fundadora, autora y conferencista invitada en Serendipity PR & Media, dijo: “El peligro de estar en nuestras cámaras de eco es que puede perpetuar noticias falsas, limitar nuestras perspectivas y, como hemos visto, afectar la forma en que las personas deciden votar en las elecciones”.
Esta es una faceta de la burbuja informativa y la trampa algorítmica en la que está cayendo la sociedad en su conjunto.
La mano detrás:
Payne también nos proporcionó más escenarios donde se podría usar la biometría, incluyendo para determinar el potencial académico de un estudiante, decidir el recluta militar o empleado ideal, y personalizar tráileres de películas. Incluso los ingresos de un individuo, su orientación sexual, raza, estado civil, coeficiente intelectual, afiliación política y sus emociones (especialmente las negativas) serán invisibles bajo esta tecnología algo omnipotente.
“Los niños en aprendizaje podrían obtener contenido personalizado, los médicos sabrían qué nivel de lenguaje usar y las emociones de paciencia que tratan, si se pudiera predecir el coeficiente intelectual se podría ayudar a las personas a encontrar carreras dentro de sus capacidades, obteniendo un mayor sentido de realización”. Payne hizo esta predicción para el futuro cercano.（haga clic aquí para leer más sobre esto）
“Sin embargo, a través de las redes sociales y el crecimiento masivo del CCTV, combinado con la falta de capacidad de poseer un terreno, la capacidad de conducir... Así que de alguna manera hemos creado una prisión panóptica autoimpuesta. No por el perfilado, sino por el crecimiento del seguimiento y el juicio. No por el perfilado, sino por el crecimiento del seguimiento y la sed de contenido generado por el usuario”, dice Payne.
“…con la falta de capacidad de poseer un terreno, la capacidad de conducir... Así que de alguna manera hemos creado una prisión panóptica autoimpuesta”.
Ryan Payne, Universidad Tecnológica de Queensland
- Extracción de características en el análisis de sentimientos
El análisis de sentimientos es una forma de extraer, clasificar y resumir automáticamente sentimientos y emociones de textos en línea. Permite a las máquinas determinar opiniones públicas sobre productos, servicios, políticas y política, permitiendo a las plataformas hacer recomendaciones personalizadas y a las empresas y gobiernos monitorear la opinión pública.
Aislamiento: el derecho a decidir está en manos del usuario
Los usuarios tienen derecho a decidir el flujo de su información y pueden gestionar activamente sus datos mediante la configuración de privacidad y la autorización de datos. Tras la introducción del Reglamento de China sobre la Administración de Servicios de Información de Aplicaciones de Internet Móvil, varias plataformas conocidas han ocultado deliberadamente el botón de apagado en la esquina de su software, aunque han activado una función para desactivar las recomendaciones personalizadas.
En la situación actual, los usuarios deben defender sus derechos e intereses por sí mismos y participar activamente en las interacciones de información con los comerciantes.
Lindsey Chastain, fundadora y directora ejecutiva de The Writing Detective, afirmó que “reconocer que los resultados personalizados están sesgados por los incentivos comerciales de la plataforma – mantener un escepticismo saludable”.
“Reconocer que los resultados personalizados están sesgados por los incentivos comerciales de la plataforma – mantener un escepticismo saludable”.
Lindsey Chastain, fundadora y directora ejecutiva de The Writing Detective
Más que eso, los usuarios deben tomar la iniciativa de obtener información de primera mano, en lugar de ser procesados. Solo a través de una amplia diversidad de información, para desarrollar la capacidad de identificar la autenticidad de la información, se puede construir un sistema cognitivo más completo y objetivo. Cuando los usuarios ya no pasan tiempo buscando activamente leer e integrar información, sino que aceptan pasivamente el supuesto contenido de interés que los algoritmos nos imponen. No podremos romper la estructura de conocimiento existente.
Recuerda, necesitamos convertirnos en el punto de partida de la recepción de información, no en el punto final. Al menos para no convertirnos en el puerro de las grandes empresas, deberíamos, más o menos, ofrecer cierta resistencia a la burbuja informativa.
