Die Voice Engine von OpenAI imitiert Ihre Stimme in 15 Sekunden

Das OpenAI Voice Engine Stimmklon-Tool, das Stimmen anhand einer 15-Sekunden-Aufnahme imitiert, wird von BTW Media profiliert, weil öffentliche Belege Verbindungen zur Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit belegen.

• Ein Modell namens „Voice Engine“ kann im Wesentlichen die Stimme einer Person anhand eines 15-sekündigen Audiosamples duplizieren, so ein Blogbeitrag von OpenAI, der Ergebnisse eines kleinen Tests des Tools teilt.
• „Diese kleinen Bereitstellungen helfen uns, unseren Ansatz, unsere Schutzmaßnahmen und unsere Überlegungen darüber zu verfeinern, wie Voice Engine in verschiedenen Branchen sinnvoll eingesetzt werden könnte“, sagte OpenAI in seinem Blogbeitrag.
• OpenAI hält das Tool eng kontrolliert, bis Schutzmechanismen bereitstehen, um gefälschte Audioinhalte abzuwehren, die Hörer täuschen sollen.

OpenAI hat eine Text-zu-Sprache-Plattform namens Voice Engine entwickelt, die aus einem 15-sekündigen Sprachclip synthetische Sprache erzeugt.

Das Stimmklon-Tool

Die von der künstlichen Intelligenz erzeugte Sprache kann Textaufforderungen auf Befehl in der gleichen Sprache wie der Sprecher oder in mehreren anderen Sprachen vorlesen.

„Diese kleinen Bereitstellungen helfen uns, unseren Ansatz, unsere Schutzmaßnahmen und unsere Überlegungen darüber zu verfeinern, wie Voice Engine in verschiedenen Branchen sinnvoll eingesetzt werden könnte“, sagte OpenAI in seinem Blogbeitrag.

In diesen von OpenAI veröffentlichten Beispielen können Sie vorgeschriebene Erzählinhalte sowie „personalisierte Echtzeit-Antworten“ hören, die für GPT-4 verfasst wurden.

OpenAI gab an, Ende 2022 mit der Entwicklung einer Sprach-Engine begonnen zu haben, und die Technologie liefert bereits vordefinierte Stimmen für die Text-zu-Sprache-APIs und die Vorlesefunktion von ChatGPT.

Lesen Sie auch:OpenAI weitet Medienbeziehungen mit Nachrichtenpartnern für Chatbot-Training aus

Sicherheitsbedenken

OpenAI erklärt, mit US-amerikanischen und internationalen Partnern aus Regierungen, Medien, Unterhaltung, Bildung, Zivilgesellschaft und anderen Sektoren zusammenzuarbeiten, um deren Feedback in die Entwicklung einfließen zu lassen.

Desinformationsforscher befürchten einen weit verbreiteten Missbrauch von KI-gestützten Anwendungen in einem entscheidenden Wahljahr, aufgrund der Verbreitung billiger, einfach zu verwendender und schwer nachverfolgbarer Stimmklon-Tools.

OpenAI erkennt diese Probleme an und erklärt: „Aufgrund des Missbrauchspotenzials synthetischer Sprache verfolgt das Unternehmen einen vorsichtigen und informierten Ansatz für eine breitere Einführung.“

Vor einigen Monaten gestand ein politischer Berater, der für den Präsidentschaftswahlkampf des demokratischen Rivalen von Joe Biden arbeitete, automatisierte Telefonanrufe initiiert zu haben, die den US-Präsidenten imitierten.

Der Vorfall alarmierte Experten, die eine Flut von KI-gestützter Deepfake-Desinformation im Rennen um das Weiße Haus 2024 sowie bei anderen wichtigen Wahlen weltweit in diesem Jahr befürchten.

„Wir haben eine Reihe von Sicherheitsmaßnahmen implementiert, darunter Wasserzeichen zur Nachverfolgung der Herkunft aller von Voice Engine generierten Audiodateien sowie eine proaktive Überwachung ihrer Nutzung“, sagte OpenAI.