Имран Хан подделал голос и вызвал этическую дискуссию: допустимо ли политикам использовать ИИ?

\n
• Хотя бывший премьер-министр Пакистана находится в заключении, его политическая партия использует клонирование голоса с помощью ИИ для необычного виртуального митинга, вызывая споры.
\n\n
• Использование голосов, созданных с помощью ИИ, ставит вопросы о доверии к политической информации, возможной дезинформации и влиянии на восприятие общественностью политических событий.
\n\n
• Отключение правительством социальных сетей для ограничения доступа подчёркивает хрупкий баланс между ограничением потока информации и обеспечением свободы слова граждан.
\n

ИИ вторит Имрану Хану: виртуальный митинг одерживает победу в условиях ограничения соцсетей

Бывший премьер-министр Пакистана Имран Хан, находящийся в заключении с августа по обвинению внезаконной продаже государственных подарков, нашёл необычный способ продолжить свою политическую кампанию. Несмотря на физическое отсутствие, партия Хана недавно выпустила четырёхминутное видео, в котором с помощью технологии клонирования голоса воспроизведён его голос. Видео, показанное во время виртуального митинга в Пакистане, содержало озвучку с подписью: «Голос Имрана Хана, созданный ИИ на основе его заметок».

Согласно сообщениям, Хан передал партии Pakistan Tehreek-e-Insaf (PTI) краткий сценарий, который затем доработала юридическая команда, чтобы передать его характерный риторический стиль. Полученный текст был преобразован в аудио с помощью программного обеспечения ElevenLabs — ИИ-компании, специализирующейся на инструментах преобразования текста в речь и генерации голосов с помощью ИИ.

Джибран Ильяс, отвечающий за работу с соцсетями в партии Хана, опубликовал видео на платформе X.The Guardianотметила, что для создания видео были объединены архивные кадры с прошлых митингов Хана и синтетический аудиодвижок ElevenLabs, включая исторические клипы и стоковые изображения.

Виртуальный митинг длился пять часов, набрал более 500 000 просмотров на YouTube и привлёк тысячи зрителей на различных социальных платформах. Чтобы ограничить доступ к виртуальному мероприятию, пакистанское правительство ввело ограничения, временно отключив Facebook, Instagram, X и YouTube в день митинга. По данным сервиса мониторинга интернета NetBlocks, это привело к общенациональному сбою в работе этих социальных платформ в Пакистане в воскресенье вечером.

Несмотря на споры вокруг использования ИИ для имитации голоса Хана, сторонники положительно отозвались о видео в социальных сетях. Инновационный подход позволил партии взаимодействовать со сторонниками и преодолеть трудности, вызванные физическим отсутствием Хана на традиционных политических митингах.

Также читайте:OpenAI выпускает голосовые функции ChatGPT и шутит о драме вокруг своего генерального директора на фоне письма с опасениями об AGI

ИИ в политике: виртуальный митинг Имрана Хана поднимает этические вопросы о доверии, дезинформации и свободе слова

Использование ИИ для имитации голоса Имрана Хана в новаторском политическом выступлении вызвало острые споры, затрагивающие сложный клубок политических, технологических и общественных этических вопросов. Пока сторонники Имрана Хана приветствуют этот инновационный подход, возникает серьёзный вопрос: не размывает ли внедрение ИИ в политическую коммуникацию тонкую грань между правдой и ложью и не подрывает ли доверие избирателей к политической информации?

\n

Это беспрецедентное использование голосов, созданных ИИ, поднимает острые вопросы о подлинности политической информации. Сторонники могут приветствовать инновацию, но широкая общественность может усомниться в достоверности политических сообщений. Неконтролируемый скептицизм способен серьёзно повлиять на формирование здоровой политической среды.

Помимо непосредственных опасений, с использованием ИИ в политических сценариях связаны и другие риски. Главный из них — возможное манипулирование общественным восприятием. При стратегическом применении сгенерированный ИИ контент может искажать образ политических деятелей или событий, склоняя общественное мнение с помощью ложной или преувеличенной информации и ставя под угрозу демократический процесс.

Кроме того, существует угроза углубления политического раскола. ИИ, особенно при распространении дезинформации, способен ещё сильнее поляризовать общество, делая конструктивный диалог и компромисс всё более недостижимыми. Такая поляризация угрожает подорвать единство, необходимое для исправно работающей демократической системы.

Ещё одна опасность — эрозия доверия к СМИ. По мере того как технологии ИИ совершенствуются в имитации человеческих голосов и изображений, растёт риск массового скептицизма по отношению к традиционным источникам информации. Такой скептицизм может использоваться для продвижения личных интересов, способствуя общему снижению доверия к медиасреде.

В этом сценарии значительны и риски для безопасности. Без надлежащего регулирования созданный ИИ контент, включая дипфейк-видео или копии голосов, может обострить геополитическую напряжённость и потенциально привести к недопониманию или конфликтам между странами. Это подчёркивает необходимость всеобъемлющего регулирования для снижения таких рисков на национальном и глобальном уровнях.

Более того, бесконтрольное использование ИИ в политической коммуникации угрожает подорвать фундаментальные демократические ценности, такие как прозрачность и подотчётность. Если избиратели не могут отличить подлинную информацию от манипулятивной, привлекать политических лидеров к ответственности становится трудно, что ведёт к возможному ослаблению демократических основ.

Случай с воспроизведённым голосом Имрана Хана требует регулирования этичного использования ИИ в политической сфере. Разработка таких правил требует тщательного подхода, чтобы не нанести вред свободе слова и политическому участию, одновременно защищая от опасностей манипуляции, политического раскола, эрозии доверия, рисков безопасности и подрыва демократических ценностей.

В заключение, последствия применения ИИ в политической коммуникации выходят далеко за рамки вопросов подлинности и дезинформации. Риски включают более широкие угрозы демократии, общественному доверию и глобальной безопасности, что требует комплексного подхода к регулированию и этичному управлению использованием ИИ в политической сфере.