Конфиденциальность и ИИ: может ли ИИ быть умным и безопасным?

В эпоху ИИ конфиденциальность становится всё более сложной проблемой. Огромные объёмы данных, которые собирают и анализируют компании и правительства, делают личную информацию людей более уязвимой, чем когда-либо.
Этичная разработка ИИ необходима для сохранения доверия общества, а глобальный характер законов о защите данных создаёт серьёзные проблемы для трансграничных ИИ-операций.
Осведомлённость потребителей о конфиденциальности растёт, однако разрыв между контролем, который пользователи хотели бы иметь, и реальной властью над своими данными остаётся значительным.

НАШЕ МНЕНИЕ
Технологии развиваются беспрецедентными темпами, и искусственный интеллект (ИИ) всё глубже проникает в повседневную жизнь. От генеративного ИИ, способного по простой команде создавать любой контент, до умных домашних устройств, которые подстраиваются под наши привычки и предпочтения, ИИ способен изменить то, как мы взаимодействуем с технологиями. Однако с экспоненциальным ростом данных, которые мы генерируем и которыми делимся в сети, проблемы конфиденциальности становятся как никогда острыми.
— Tacy Ding, журналист BTW

В последние годы несколько громких инцидентов высветили тревожное пересечение ИИ и конфиденциальности. Скандал с Cambridge Analytica в 2016 году показал, как компания без согласия собрала данные 87 миллионов пользователей Facebook для политической рекламы, вызвав глобальное возмущение и существенные штрафы для платформы. Появление Clearview AI в 2017 году прозвучало тревожным сигналом: компания создала огромную базу данных для распознавания лиц, собирая публичные изображения из соцсетей, что привело к судебным искам в нескольких странах.

Кроме того, Ring, дочерняя компания Amazon, подверглась критике за то, что предоставляла полиции доступ к записям камер пользователей, что породило дискуссии о слежке и частной жизни. В 2019 году сообщалось, что камеры Google Nest передавали видео пользователей без уведомления, подрывая доверие к практикам компании в области конфиденциальности. Совсем недавно, в 2023 году, Meta согласилась выплатить 1,4 млрд долларов для урегулирования знакового иска о конфиденциальности в Техасе, что подчёркивает усиление контроля за технологическими компаниями в вопросах защиты данных и прав пользователей.

Вместе эти дела иллюстрируют насущную необходимость надёжных гарантий конфиденциальности в эпоху ИИ.

Важность конфиденциальности в цифровую эпоху

Конфиденциальность — это право сохранять личную информацию в тайне и защищать её от несанкционированного доступа. Это фундаментальное право человека, дающее людям контроль над своими персональными данными и их использованием. Сегодня конфиденциальность важна как никогда, поскольку объём собираемых и анализируемых персональных данных постоянно растёт.

Во-первых, она защищает людей от вреда, например от кражи личности или мошенничества. Она также сохраняет личную автономию и контроль над персональной информацией, что необходимо для достоинства и самоуважения. Кроме того, конфиденциальность позволяет людям поддерживать личные и профессиональные отношения без страха слежки или вмешательства. Наконец, она защищает нашу свободу воли: если бы все наши данные были открыты, злонамеренные рекомендательные алгоритмы могли бы анализировать информацию и манипулировать людьми, подталкивая их к конкретным (покупательским) решениям.

По мере того как искусственный интеллект (ИИ) проникает во все сферы современной жизни — от здравоохранения до образования, финансов и развлечений, — вопрос о том, как гарантировать, что системы ИИ уважают конфиденциальность пользователей, становится как никогда актуальным. Потенциал ИИ огромен, и его растущий интеллект позволил решить некоторые из самых сложных задач в различных отраслях. Однако сам интеллект, делающий ИИ таким ценным, опирается на важнейший компонент — данные. И именно здесь кроется дилемма: можем ли мы использовать мощь ИИ, защищая при этом конфиденциальность?

Законодательство о конфиденциальности: защитные механизмы для ИИ?

Растущая обеспокоенность по поводу ИИ и конфиденциальности побудила правительства по всему миру к действиям. В 2018 году Европейский союз ввёл в действие Общий регламент по защите данных (GDPR) — комплексный закон, призванный дать людям больше контроля над их персональными данными и возложить на компании ответственность за то, как они собирают, хранят и используют эти данные. Согласно GDPR, для сбора данных необходимо явное согласие человека, а компании обязаны быть прозрачными в своих процессах обработки данных.

GDPR существенно повлиял на разработку систем ИИ в ЕС, особенно в отношении принципа минимизации данных. Разработчики ИИ теперь обязаны по закону ограничивать объём собираемых персональных данных и использовать только то, что необходимо для конкретной задачи. Это побудило некоторых исследователей и компании в сфере ИИ искать альтернативы моделям, требовательным к данным, и сосредоточиться на технологиях защиты конфиденциальности, способных снизить риск нарушения конфиденциальности.

За пределами ЕС регулирование конфиденциальности менее единообразно. В США, например, нет единого федерального закона о защите конфиденциальности, сопоставимого с GDPR, хотя такие штаты, как Калифорния, приняли собственные комплексные законы о защите данных, в том числе California Consumer Privacy Act (CCPA). CCPA даёт потребителям больше контроля над их личной информацией, позволяя им отказываться от сбора данных или требовать их удаления.

В Азии такие страны, как Япония и Южная Корея, также пересмотрели свои законы о конфиденциальности с учётом проблем, связанных с ИИ. Японский Закон о защите персональной информации (APPI) был обновлён, чтобы в большей степени соответствовать GDPR, что отражает растущее понимание того, что конфиденциальность должна находиться в центре разработки ИИ. Южнокорейский Закон о защите персональной информации (PIPA) — ещё один пример надёжного законодательства, регулирующего обработку данных в системах ИИ.

Роль технологий защиты конфиденциальности

Хотя такие нормативные акты, как GDPR, устанавливают важные защитные барьеры для ИИ, они не решают внутреннего конфликта между потребностью ИИ в данных и стремлением к конфиденциальности. Чтобы устранить этот конфликт, активно развивается область исследований, сосредоточенная на технологиях защиты конфиденциальности (PET), призванных сделать системы ИИ одновременно умными и безопасными. Эти технологии позволяют системам ИИ работать, не ставя под угрозу конфиденциальность пользователей, что даёт возможное решение дилеммы конфиденциальности.

Дифференциальная конфиденциальность:один из самых перспективных подходов PET. Она работает путём добавления случайного шума в наборы данных таким образом, чтобы защитить отдельные точки данных, позволяя ИИ при этом выявлять общие закономерности. Это даёт системам ИИ возможность получать точные выводы, не раскрывая чувствительную информацию о конкретных людях.

Федеративное обучение:ещё один подход, отвечающий на проблемы конфиденциальности. Вместо отправки сырых данных на центральный сервер для обработки федеративное обучение позволяет обучать модели ИИ на нескольких устройствах, где каждое устройство обрабатывает собственные локальные данные. С центральным сервером передаются только агрегированные обновления модели, что снижает необходимость централизованного хранения персональных данных и тем самым минимизирует риски для конфиденциальности.

Гомоморфное шифрование:более продвинутый подход, позволяющий системам ИИ обрабатывать зашифрованные данные, не расшифровывая их. Это гарантирует, что чувствительные данные остаются защищёнными на протяжении всего процесса вычислений, исключая риск раскрытия личной информации даже во время анализа.

Хотя эти технологии многообещающие, у них есть и проблемы. Дифференциальная конфиденциальность может снижать точность моделей ИИ, особенно там, где требуются очень точные прогнозы. Федеративное обучение, в свою очередь, требует значительных вычислительных ресурсов, а обеспечение безопасности обновлений модели остаётся сложной задачей. Гомоморфное шифрование, хотя и очень безопасно, может быть вычислительно затратным и медленнее традиционных методов.

Какая из следующих технологий не является технологией защиты конфиденциальности?

A. Дифференциальная конфиденциальность

B. Гомоморфное шифрование

C. Глубокое обучение

D. Федеративное обучение

Правильный ответ приведён в конце статьи.

Роль этичной разработки ИИ

По мере того как системы ИИ всё глубже интегрируются в повседневную жизнь, всё больше внимания уделяется необходимости этичной разработки ИИ. Помимо соблюдения нормативных требований, этичный ИИ предполагает интеграцию моральных принципов, справедливости, прозрачности и подотчётности на всём жизненном цикле систем ИИ — от проектирования до развёртывания. Эти этические соображения касаются не только конфиденциальности, но и более широких проблем, таких как предвзятость, дискриминация и социальное воздействие ИИ.

Рамки этичного ИИ

Ряд компаний и организаций разработали рамки этичного ИИ, призванные направлять разработку и внедрение систем ИИ. Google, например, представила свои принципы ИИ, в которых особое внимание уделяется справедливости, конфиденциальности и недопущению вредных результатов. Microsoft установила аналогичную структуру, включающую прозрачность, подотчётность и инклюзивность. Эти рамки призваны гарантировать, что системы ИИ создаются с уважением к конфиденциальности, минимизацией вреда и обеспечением ответственности в случае сбоев.

Однако эти рамки этичного ИИ критикуют за расплывчатость и отсутствие механизмов принуждения. Критики утверждают, что многие этические руководства работают скорее как инструменты связей с общественностью, чем как действенные политики, направляющие повседневную разработку ИИ. Например, некоторые компании обвиняют в «ethics washing» («этическом отмывании»), когда они публично заявляют о приверженности этическим принципам, не внося существенных изменений в свою деятельность или управление.

Как совместить конфиденциальность и этические цели ИИ

В контексте конфиденциальности этичная разработка ИИ предполагает ключевые решения о том, сколько данных собирать и как их использовать. В то время как такие нормативные акты, как GDPR, дают юридические ориентиры, этические рамки ИИ часто побуждают разработчиков идти дальше. Это включает проектирование систем ИИ с использованием принципов privacy by design (конфиденциальность по замыслу), когда защита данных встроена в технологию с самого начала, а не добавляется постфактум. Например, privacy by design может означать ограничение сбора данных строго необходимым для выполнения функции ИИ или внедрение надёжных методов анонимизации.

Кроме того, принципы этичного ИИ поощряют прозрачность. Это означает предоставление пользователям понятной информации о том, как системы ИИ будут использовать их данные, и создание простых для понимания механизмов согласия. Прозрачность также означает объяснимость решений системы ИИ: пользователи должны понимать, как и почему ИИ пришёл к тем или иным выводам, особенно в таких чувствительных областях, как здравоохранение или решения о найме.

Этичный ИИ на практике: вызовы и компромиссы

Несмотря на внимание к этичному ИИ, реализация этих принципов сопряжена с серьёзными трудностями. Одна из главных проблем — напряжённость между этическими идеалами и коммерческими целями. Например, у компаний может быть стимул собирать больше данных для улучшения моделей ИИ или повышения персонализации рекламы, даже если это противоречит принципу минимизации данных.

Кроме того, интеграция этики в разработку ИИ требует междисциплинарного подхода, объединяющего экспертизу в области технологий, права, философии и социальных наук. Это не всегда достижимо, поскольку многие ИИ-проекты работают в жёстких временных рамках и под коммерческим давлением. Чтобы преодолеть эти препятствия, некоторые компании создали специальные комитеты по этике ИИ. Однако эффективность таких комитетов различается, и им часто не хватает реальных полномочий для обеспечения соблюдения решений, особенно когда те противоречат коммерческим целям.

В конечном счёте этичная разработка ИИ направлена на укрепление доверия — доверия между разработчиками, пользователями и обществом в целом. Чтобы системы ИИ были успешными и не посягали на конфиденциальность, компании должны продемонстрировать искреннюю приверженность этическим принципам и следить за тем, чтобы эти принципы были не просто руководствами, а действенными политиками с реальным контролем.

Осведомлённость потребителей и их выбор: расширение прав пользователей в эпоху ИИ

По мере того как системы ИИ всё глубже проникают в повседневную жизнь, осведомлённость потребителей о конфиденциальности значительно выросла. Громкие утечки данных, такие как скандал с Cambridge Analytica и многочисленные кибератаки на крупные компании, сделали потребителей более внимательными к потенциальным рискам, связанным с ИИ и конфиденциальностью данных.

Эта повышенная осведомлённость породила спрос на большую прозрачность и контроль над персональными данными, оказывая дополнительное давление на компании, чтобы те уделяли приоритетное внимание конфиденциальности и информировали пользователей о том, как их данные собираются и используются системами ИИ.

Конфиденциальность — одна из главных проблем нашего века. Мы подошли к точке, где должны решить, какой объём данных допустимо собирать и как эти данные следует использовать.
Tim Cook, генеральный директор Apple

Прозрачность и осознанное согласие

Один из главных способов, которыми компании ответили на спрос потребителей на больший контроль, — прозрачность, особенно в отношении сбора данных. Сегодня большинство веб-сайтов и приложений показывают всплывающие окна с запросом согласия пользователя на файлы cookie или обработку данных. Эти механизмы согласия призваны соответствовать таким нормативным актам, как GDPR и California Consumer Privacy Act (CCPA), которые требуют, чтобы у потребителей была возможность отказаться от сбора или обработки данных.

Однако на практике прозрачность часто оставляет желать лучшего. Многие формы согласия перегружены юридическим жаргоном или устроены так, чтобы подталкивать пользователей нажимать «согласен», не до конца понимая последствия. Такая практика, известная как тёмные паттерны (dark patterns), относится к дизайнерским стратегиям, которые незаметно подталкивают пользователей к выбору, выгодному компании, — например, к согласию на расширенный сбор данных или на таргетированную рекламу.

Несмотря на наличие опций согласия, многие пользователи чувствуют себя бессильными перед сложностью уведомлений о конфиденциальности, что порождает ощущение смирения и недоверия.

Кроме того, условия использования, описывающие порядок обработки персональных данных, зачастую длинны и трудны для понимания, поэтому большинство пользователей принимают их, не читая. Исследования показывают, что потребители редко читают мелкий шрифт при регистрации в сервисах, даже если юридически принимают условия, которые могут предполагать широкий обмен данными. Возникает вопрос: можно ли считать согласие «осознанным», если у пользователей нет времени или понимания, чтобы полностью осознать, на что они соглашаются.

Больше контроля для потребителей: инструменты конфиденциальности

В ответ на растущий спрос потребителей на конфиденциальность компании представили множество инструментов, позволяющих пользователям лучше контролировать свои персональные данные. Например, Google и Facebook предлагают панели конфиденциальности, где пользователи могут управлять своими данными, видеть, что было собрано, и настраивать такие параметры, как геолокация или персонализированная реклама. Эти инструменты позволяют пользователям решать, каким объёмом данных делиться и с кем.

Кроме того, продукты, ориентированные на конфиденциальность, такие как виртуальные частные сети (VPN) и приложения для зашифрованной переписки (например, Signal или WhatsApp), набирают популярность: потребители стремятся защитить свои цифровые коммуникации от слежки. Эти сервисы позволяют пользователям лучше контролировать свою онлайн-активность, не позволяя третьим лицам легко получать доступ к их данным.

Apple также задаёт тон, предлагая своим пользователям более надёжные средства контроля конфиденциальности. С выходом iOS 14 Apple представила функцию App Tracking Transparency (прозрачность отслеживания приложений), которая требует от приложений явно запрашивать разрешение перед отслеживанием пользователей в других приложениях и на сайтах. Эта инициатива, вызвавшая трения с такими компаниями, как Facebook, которая зависит от таргетированной рекламы, отражает растущую тенденцию компаний позиционировать себя как защитников конфиденциальности.

Рост брендов, заботящихся о конфиденциальности

В ответ на растущие опасения по поводу конфиденциальности некоторые компании теперь делают её ключевым аргументом продаж. Apple, например, позиционирует себя как лидера в области конфиденциальности, подчёркивая свою приверженность защите данных пользователей и продвигая такие функции, как зашифрованная переписка, ограниченное отслеживание данных и локальная обработка запросов Siri. Представляя конфиденциальность как конкурентное преимущество, компании начинают выделяться на рынке, где потребители всё более избирательно относятся к тому, каким брендам доверять свои данные.

Этот сдвиг в сторону конфиденциальности как конкурентного преимущества отражает изменение потребительского ландшафта. По мере того как пользователи осознают риски, связанные со сбором данных, они всё чаще предпочитают компании, предлагающие более надёжную защиту конфиденциальности. Это привело к росту стартапов и платформ, ориентированных на конфиденциальность, таких как DuckDuckGo — поисковая система, которая обещает не отслеживать пользователей, или ProtonMail, предоставляющий услуги зашифрованной электронной почты.

Эти сервисы рассчитаны на растущий сегмент потребителей, заботящихся о конфиденциальности, которые ставят безопасность данных выше удобства традиционных платформ.

Заключительные размышления

Защита конфиденциальности в эпоху ИИ — вопрос, который касается каждого из нас, как отдельных людей, так и общества в целом. Решение этой задачи требует многомерного подхода, сочетающего технологические и нормативные меры. Децентрализованные технологии ИИ открывают многообещающий путь, предлагая безопасные, прозрачные и доступные сервисы и алгоритмы ИИ. Используя такие платформы, мы можем снизить риски, связанные с централизованными системами, и одновременно способствовать большей демократизации и доступности решений на основе ИИ.

В то же время крайне важно, чтобы правительства и регуляторы играли активную роль в контроле за разработкой и внедрением технологий ИИ. Это предполагает создание нормативных актов, стандартов и механизмов надзора, которые обеспечивают ответственное и этичное использование ИИ, защищая при этом право человека на конфиденциальность.

В конечном счёте защита конфиденциальности в эпоху ИИ требует совместных усилий и сотрудничества широкого круга заинтересованных сторон, включая правительства, отрасли и гражданское общество. Работая вместе над разработкой и реализацией стратегий, приоритетом которых являются конфиденциальность и безопасность, мы можем помочь обеспечить, чтобы преимущества ИИ реализовывались этичным, ответственным, устойчивым образом и с уважением к частной жизни и достоинству каждого человека.

Правильный ответ — C. Глубокое обучение.

Дилемма конфиденциальности: может ли ИИ быть одновременно умным и безопасным?