• Ein Modell namens „Voice Engine“ kann im Wesentlichen die Stimme einer Person aus einer 15-sekündigen Audioaufnahme duplizieren, laut einem Blogbeitrag von OpenAI, der die Ergebnisse eines kleinen Tests des Tools teilt.
  • „Diese kleinen Einsätze helfen uns, unseren Ansatz, unsere Schutzmaßnahmen und unsere Überlegungen zu verfeinern, wie Voice Engine in verschiedenen Branchen sinnvoll eingesetzt werden könnte“, erklärte OpenAI in seinem Blogbeitrag.
  • OpenAI hält das Tool streng kontrolliert, bis Schutzmaßnahmen vorhanden sind, um gefälschte Audiodateien zu verhindern, die Zuhörer täuschen sollen.

OpenAI hat eine Text-zu-Sprache-Plattform namens Voice Engine entwickelt, die synthetische Sprache aus einem 15-sekündigen Sprachausschnitt erzeugt.

Das Stimmklon-Tool

Die von der KI generierte Sprache kann Textaufforderungen in derselben Sprache wie der Sprecher oder in mehreren anderen Sprachen vorlesen.

„Diese kleinen Einsätze helfen uns, unseren Ansatz, unsere Schutzmaßnahmen und unsere Überlegungen zu verfeinern, wie Voice Engine in verschiedenen Branchen sinnvoll eingesetzt werden könnte“, erklärte OpenAI in seinem Blogbeitrag.

In diesen von OpenAI veröffentlichten Beispielen können Sie vorab geschriebene Erzählinhalte sowie „personalisierte Echtzeitantworten“ hören, die für GPT-4 verfasst wurden.

OpenAI gab an, Ende 2022 mit der Entwicklung einer Sprach-Engine begonnen zu haben, und die Technologie biete bereits vordefinierte Stimmen für die Text-to-Speech-APIs und die ChatGPT-Vorlesefunktion.

À lire aussi:OpenAI erweitert Medienbindungen mit Nachrichtenpartnern für das Training seines Chatbots

Sicherheitsbedenken

OpenAI erklärt, mit amerikanischen und internationalen Partnern aus Regierung, Medien, Unterhaltung, Bildung, Zivilgesellschaft und anderen Sektoren zusammenzuarbeiten, um deren Rückmeldungen während des Aufbaus zu integrieren.

Desinformationsforscher befürchten einen weit verbreiteten Missbrauch von KI-gestützten Anwendungen in einem entscheidenden Wahljahr, aufgrund der Verbreitung billiger, einfach zu bedienender und schwer nachverfolgbarer Stimmklon-Tools.

OpenAI erkennt diese Probleme an und erklärte, dass „das Unternehmen aufgrund des Missbrauchspotenzials synthetischer Sprache einen vorsichtigen und informierten Ansatz für eine breitere Veröffentlichung verfolgt“.

Vor einigen Monaten gab ein politischer Berater, der für die Präsidentschaftskampagne des demokratischen Rivalen von Joe Biden arbeitete, zu, für automatisierte Telefonanrufe verantwortlich zu sein, die den US-Präsidenten nachahmten.

Der Vorfall alarmierte Experten, die eine Flut von KI-gestützter Deepfake-Desinformation im Rennen um das Weiße Haus 2024 sowie bei anderen wichtigen Wahlen weltweit in diesem Jahr befürchten.

„Wir haben eine Reihe von Sicherheitsmaßnahmen implementiert, darunter Wasserzeichen, um die Herkunft aller von Voice Engine generierten Audiodateien nachverfolgen zu können, sowie eine proaktive Überwachung ihrer Nutzung“, erklärte OpenAI.