• Voice Engine от OpenAI использует технологию text-to-speechAPI и ChatGPTVoice для создания выразительных, реалистичных голосов, а предварительные наблюдения были получены в ходе мелкомасштабного предварительного доступа.
  • Voice Engine от OpenAI, получивший высокие оценки за возможности перевода речи, выпускается с осторожностью из-за опасений по поводу возможных злоупотреблений и неправомерного использования синтетических голосов.
  • OpenAI выступает за ответственное применение синтетических голосов, ссылаясь на недавний инцидент, в котором Стив Крамер клонировал голос президента Байдена, и призывает принимать взвешенные решения.

OpenAI представила Voice Engine — инструмент клонирования аудио на основе ИИ, несмотря на его потенциал для помощи в чтении и распознавании речи. Компания обеспокоена возможными злоупотреблениями и стремится разрабатывать безопасный и полезный ИИ.

Отличные технологические возможности

Voice Engine от OpenAI использует собственный API преобразования текста в речь и технологию ChatGPT Voice для клонирования голоса: на основе 15-секундного образца он создаёт выразительные и реалистичные голоса — в отличие от традиционных методов чтения, требующих воспроизведения чужого тона и интонации.

Компания опубликовала предварительные наблюдения и результаты мелкомасштабного предварительного доступа к своей модели Voice Engine, которая по текстовому вводу и 15-секундному аудиообразцу генерирует естественно звучащую речь.

Обучающие данные Voice Engine остаются неясными, что вызывает беспокойство у компаний в сфере ИИ, обвиняемых в нарушении авторских прав. OpenAI утверждает, что использует материалы в рамках добросовестного использования, однако правообладатели подают иски о невыплаченной компенсации.

Читайте также:Google.org запускает акселератор генеративного ИИ для некоммерческих организаций

Читайте также:Кто такой Дженсен Хуанг? Основатель производителя чипов Nvidia был «возмутителем спокойствия», прежде чем стать ведущим именем в ИИ

Палка о двух концах: OpenAI

Voice Engine от OpenAI, позволяющий пользователям менять язык выступающего, получил высокие оценки за впечатляющие аудиофрагменты и возможности перевода речи. Однако компания осторожно подходит к более широкому выпуску из-за риска неправомерного использования синтетических голосов. OpenAI, запустившая ChatGPT в открытом доступе в конце 2022 года, превратилась в гиганта, и выпуск этого инструмента может открыть новые злоупотребления.

OpenAI намерена обсудить ответственное развёртывание синтетических голосов и то, как общество может адаптироваться к этим новым возможностям. В недавнем инциденте Стив Крамер клонировал голос президента Джо Байдена, чтобы создать автоматический звонок с призывом не голосовать на праймериз в Нью-Гэмпшире. OpenAI планирует принимать обоснованные решения на основе обсуждений и мелкомасштабных испытаний, чтобы глубже понять потенциал технологии.

Последняя криптомошенническая схема использует реальных актёров, нанятых на Fiverr, которые зачитывают сценарий, чтобы придать афере видимость подлинности. Это подчёркивает потенциальные опасности использования поддельных голосов, созданных ИИ, в мошенничестве: мошенники всегда будут эксплуатировать новые инструменты, чтобы обманом выманивать у людей деньги.