Недавнее исследование, проведённое в Калифорнийском университете в Беркли, выявило тревожные последствия: анализируя особенности движений людей в VR-шлемах, модель машинного обучения точно предсказывает такие личные характеристики, как рост, вес, возраст и семейное положение. Такой несанкционированный сбор данных с помощью ИИ вызывает серьёзные этические опасения.

Как ИИ и VR могут собирать данные без разрешения

В одном из исследований данные о движениях более 50 000 пользователей VR использовались для идентификации людей с впечатляющей точностью — более 94 %. Другое исследование, посвящённое VR-игре «Beat Saber», позволило определить физические характеристики испытуемых, такие как рост, вес и даже страну происхождения, с точностью более 80 %. Такие детали, как семейное положение, род занятий и этническое происхождение, также удавалось вычислить с точностью более 70 %.

Vivek Nair, ведущий исследователь Калифорнийского университета в Беркли, пояснил, что их модель машинного обучения анализирует данные, передаваемые на VR-шлемы. Эта модель в первую очередь определяет возраст, пол, этническое происхождение и страну. Примечательно, что модель также оценивала возраст испытуемых по скорости поражения виртуальных целей, связывая более быстрое время реакции с более молодым возрастом.

Однако последствия этих экспериментов для конфиденциальности привлекли значительное внимание. VR-устройства способны фиксировать сложные детали о пользователях — например, направление взгляда, язык тела, пропорции и мимику, — которые недоступны традиционным веб-сайтам и приложениям. Как отметил Jay Stanley, ведущий аналитик по вопросам политики в American Civil Liberties Union, это порождает длинный список проблем конфиденциальности.

Назревшие проблемы требуют решения

Учитывая динамику отрасли, исследователи обратили внимание на Meta — крупную интернет-компанию, известную тем, что зарабатывает на персонализированной рекламе на основе пользовательских данных. Доходы Meta во многом зависели от машинного обучения, которое помогало понимать предпочтения пользователей, однако недавние изменения политики конфиденциальности Apple ограничили возможности Meta по отслеживанию данных на iPhone. В ответ Meta отказалась от своей системы распознавания лиц и удалила более миллиарда изображений лиц, понеся значительные потери в размере 10 миллиардов долларов.

Это побудило компанию инвестировать в проекты на основе ИИ, включая VR-шлемы, чтобы прогнозировать предпочтения в контенте и рекламе. Возобновление роста доходов, а также опасения по поводу слияния виртуальной реальности и искусственного интеллекта побудили исследователей заняться этой новой проблемой.

Регулирование не успевает за технологиями

Jay Stanley подчёркивает, что стремительное развитие технологий и значительный недостаток знаний — тревожные факторы. VR-шлемы, для работы которых требуются большие объёмы данных, такие как движения глаз и рук, создают проблемы для внедрения эффективного контроля конфиденциальности по сравнению с обычными веб-сайтами и приложениями.

Vivek Nair придерживается того же мнения, утверждая, что VR-шлемы, как и системы распознавания лиц, способны собирать чувствительную информацию. Однако из-за относительной новизны технологии у пользователей и регуляторов о ней пока мало знаний, что делает её потенциально более опасной. По мере сближения миров виртуальной реальности и искусственного интеллекта бдительность в вопросах конфиденциальности остаётся критически важной.