• Все компьютерные алгоритмы должны следовать правилам и действовать в рамках общественного закона — так же, как и люди, которые их создают.
  • Заслуживающий доверия ИИ — термин для описания искусственного интеллекта, который является законным, этически соответствующим и технически надёжным. Он основан на идее, что ИИ достигнет полного потенциала, когда доверие будет установлено на каждом этапе его жизненного цикла — от проектирования и разработки до развёртывания и использования.
  • Управление ИИ предполагает создание рамок, способствующих прозрачности, подотчётности, справедливости и этичному использованию ИИ. Внедряя надёжное управление ИИ, организации могут гарантировать, что технологии ИИ разрабатываются и развёртываются ответственно и заслуживают доверия.

Управление ИИ— это совокупность норм, принципов и рамок, предписывающих этичную, ответственную и безопасную разработку и развёртывание технологий ИИ.

С одной стороны, оно отвечает на потенциальные вызовы и риски разработки и использования ИИ. С другой — способствует положительному влиянию ИИ на общество и следит за тем, чтобы никто не использовал технологию в неэтичных, незаконных или вредоносных целях.

Изучая природу систем ИИ, управление ИИ играет решающую роль в установлении доверия. Оно гарантирует, что технология ИИ прозрачна, справедлива и хорошо регулируется, при этом приоритет отдаётся конфиденциальности, а права и свободы человека соблюдаются.

Что такое «заслуживающий доверия ИИ»?

Надёжность ИИ охватывает генеративный и разговорный ИИ, которые разрабатываются и развёртываются с приоритетом этики, надёжности, справедливости, прозрачности и подотчётности. По мере того как границы между человеческими возможностями и возможностями ИИ становятся всё более размытыми, заслуживающий доверия ИИ стремится сохранять эти два мира раздельными, но гармоничными: роботы не захватывают контроль, они помогают. Работа в рамках доверия означает, что технологии ИИ уважают человеческие ценности, защищают фундаментальные права и придерживаются этических норм, обеспечивая при этом последовательные и надёжные результаты.

Справедливые и прозрачные процессы укрепляют доверие пользователей и общественное благополучие — выигрывают все, когда мы остаёмся честными.

Для достижения заслуживающего доверия ИИ необходимо несколько компонентов:

Конфиденциальность

Помимо гарантии полной конфиденциальности пользователей и данных, необходимы также механизмы контроля доступа в управлении данными. Они должны учитывать весь жизненный цикл системы — от обучения до эксплуатации, то есть личные данные, изначально предоставленные пользователем, а также информацию о пользователе, формируемую в ходе его взаимодействия с системой.

Устойчивость

Системы ИИ должны быть устойчивыми и защищёнными. Они должны быть точными, уметь обрабатывать исключения, стабильно работать с течением времени и быть воспроизводимыми. Ещё один важный аспект — защита от угроз и состязательных атак. Атака на ИИ может нацеливаться на данные, модель или базовую инфраструктуру. В ходе таких атак данные и поведение системы могут быть изменены, из-за чего система принимает иные или ошибочные решения либо полностью останавливается. Чтобы системы ИИ были устойчивыми, их необходимо разрабатывать с упреждающим подходом к рискам, направленным на минимизацию и предотвращение ущерба.

Объяснимость

Понимание — важный аспект формирования доверия. Важно понимать, как системы ИИ принимают решения и какие признаки значимы в процессе принятия каждого решения. Объяснения необходимы для улучшения понимания и предоставления всем вовлечённым сторонам возможности принимать обоснованные решения.

Читайте также:Кто такая Марисса Майер? Гендиректор Sunshine стала первой женщиной-инженером в Google, прежде чем сосредоточиться на ИИ

Как управление ИИ обеспечивает заслуживающий доверия ИИ?

1. Чёткие этические принципы

Один из главных способов, которым управление ИИ обеспечивает заслуживающий доверия ИИ, — установление чётких этических принципов. Эти принципы помогают разработчикам и пользователям систем ИИ понимать этические последствия своей работы и служат основой для решения этических вопросов. Придерживаясь этических принципов, организации могут завоевать доверие общества и продемонстрировать свою приверженность ответственной разработке ИИ.

2. Прозрачность

Прозрачность — ещё один важнейший аспект управления ИИ, способствующий формированию заслуживающего доверия ИИ. Прозрачность в ИИ предполагает предоставление ясных и понятных объяснений того, как работают системы ИИ, включая данные, которые они используют, алгоритмы, которые применяют, и решения, которые принимают. Обеспечивая прозрачность, управление ИИ помогает сделать системы ИИ подотчётными и позволяет заинтересованным сторонам лучше понимать технологию и доверять ей.

Читайте также:Как работают беспилотные автомобили?

3. Предвзятость в ИИ

Кроме того, управление ИИ играет ключевую роль в обеспечении справедливости и предотвращении предвзятости в системах ИИ. Предвзятость в ИИ может возникать из-за использования искажённых обучающих данных, дефектных алгоритмов или недостаточного тестирования. Благодаря надёжным механизмам управления организации могут внедрять меры по выявлению и смягчению предвзятости в системах ИИ, что в итоге приводит к справедливым и беспристрастным результатам.

4. Подотчётность

Подотчётность — ещё один ключевой элемент управления ИИ, способствующий созданию заслуживающего доверия ИИ. Она предполагает чёткое определение ролей и обязанностей при разработке, развёртывании и использовании систем ИИ. Привлекая отдельных лиц и организации к ответственности за результаты работы систем ИИ, рамки управления помогают гарантировать, что технологии ИИ используются ответственно и этично.

Управление ИИ необходимо для создания заслуживающего доверия ИИ. Устанавливая этические принципы, обеспечивая прозрачность, гарантируя справедливость, поощряя подотчётность и решая различные правовые и общественные вопросы, управление ИИ играет ключевую роль в формировании ответственной разработки и использования технологий ИИ. По мере дальнейшего развития ИИ эффективное управление останется важнейшим условием укрепления доверия к системам ИИ и реализации их полного потенциала на благо общества.