• OpenAI откладывает массовый выпуск Voice Engine — ИИ для синтеза речи — из-за этических соображений и рисков злоупотребления.
  • Технология обещает помощь в чтении и глобальный охват, но несёт риски подмены личности и нарушения безопасности.
  • OpenAI вводит строгие условия использования Voice Engine, включая требования о согласии и об указании, что голоса созданы ИИ.

OpenAI представляет Voice Engine— модель ИИ, способную воспроизводить человеческие голоса по коротким аудиофрагментам, — но откладывает полный выпуск из-за этических и общественных опасений по поводу возможных злоупотреблений.

Потенциал Voice Engine

Эволюция синтеза речи поразительна, особенно по сравнению с игрушкой Speak & Spell 1978 года, которая завораживала публику новаторским электронным голосом. Сегодня модели ИИ на основе глубокого обучения могут не только создавать реалистичные голоса, но и с поразительной точностью имитировать существующие голоса по коротким аудиофрагментам.

Читайте также:Магазин GPT от OpenAI не оправдывает ожиданий.

В этом контексте недавняя презентация Voice Engine от OpenAI — значительный шаг вперёд. Модель ИИ способна создать синтетический голос по короткой аудиозаписи, и компания опубликовала примеры на своём сайте. Пользователи могут вводить текст, который Voice Engine затем преобразует в голос, сгенерированный ИИ. Однако OpenAI решила не выпускать эту технологию в широкий доступ, хотя изначально планировала запустить пилотную программу для разработчиков в этом месяце. Всесторонне обдумав этические аспекты, компания решила пока сдержать свои амбиции.

OpenAI заявила: «В соответствии с нашей приверженностью безопасности ИИ и нашими добровольными обязательствами мы решили представить эту технологию, не распространяя её пока широко. Мы считаем, что этот предварительный показ Voice Engine продемонстрирует её потенциал и подчеркнёт важность укрепления общественных защитных механизмов против вызовов, которые создают всё более убедительные генеративные модели».

Читайте также:OpenAI расширяет связи с новостными партнёрами для обучения чат-ботов

Технология клонирования голоса не нова: с 2022 года появилось множество моделей ИИ-синтеза речи, и она широко представлена в open source-сообществе такими решениями, как OpenVoice и XTTSv2. Однако перспектива того, что OpenAI сделает свою голосовую технологию широко доступной, значима, и нежелание компании делать это — пожалуй, самый заметный аспект.

Потенциальные преимущества голосовой технологии OpenAI многочисленны: помощь в чтении с естественными голосами, создание контента в глобальном масштабе с сохранением родных акцентов, персонализированные речевые опции для невербальных людей и помощь пациентам в восстановлении голоса после заболеваний, нарушающих речь.

Последствия для этики и безопасности

Тем не менее возможность клонировать голос по записи длиной всего 15 секунд вызывает опасения по поводу злоупотреблений. Даже без полного выпуска Voice Engine клонирование голоса уже привело к таким проблемам, как телефонные мошенничества с имитацией голосов близких и автоматические звонки с использованием клонированных голосов политиков, таких как Joe Biden.

Кроме того, исследователи и журналисты показали, что технология клонирования голоса может скомпрометировать банковские счета с голосовой аутентификацией. Это побудило сенатора Sherrod Brown из Огайо, председателя сенатского комитета США по банкам, жилищным и городским вопросам, запросить у крупных банков сведения о мерах безопасности для противодействия угрозам, связанным с ИИ.

Осознавая потенциальные риски широкого распространения, OpenAI внедряет набор правил для смягчения этих проблем. С прошлого года компания проводит испытания с отобранными партнёрами, включая HeyGen, которая использует модель для перевода голоса говорящих на другие языки с сохранением исходных голосовых характеристик.

Партнёрства и меры предосторожности

Для использования Voice Engine партнёры должны соблюдать условия, запрещающие «выдачу себя за любое лицо или организацию без согласия или законного основания». Они также обязаны получать информированное согласие людей, чьи голоса воспроизводятся, и чётко указывать, что созданные голоса сгенерированы ИИ. OpenAI также встраивает водяной знак в каждый голосовой образец, чтобы упростить отслеживание любого голоса, созданного её моделью.

Пока OpenAI представляет свою технологию, не беря на себя полномасштабный выпуск, который потенциально мог бы вызвать социальные потрясения. Вместо этого компания корректирует маркетинговую стратегию, чтобы предстать ответственным распорядителем этой новой технологии.