• Voice Engine, eine von OpenAI entwickelte Sprachsyntheseplattform, bietet die Möglichkeit, synthetische Stimmen zu erzeugen.
  • Unethische Nutzungen der KI-Sprachtechnologie könnten zu Spam und Besorgnis führen.

Das Stimmklonmodell Voice Engine ist seit Ende 2022 in der Entwicklung und kann aus einem 15-sekündigen Ausschnitt der Stimme einer Person eine synthetische Stimme erzeugen. Mit dem Fortschritt der generativen KI nehmen jedoch auch ethische Bedenken zu.

OpenAI stellt Voice Engine vor

OpenAI hat Voice Engine vorgestellt, eine Sprachsyntheseplattform, die synthetische Stimmen aus kurzen Sprachausschnitten erzeugen kann.

Lesen Sie auch:OpenAIs Stimmenklon-Tool imitiert Ihre Stimme mit einer 15-sekündigen Probe

Diese innovative Technologie kann KI-generierte Stimmen erzeugen, die Textaufforderungen in mehreren Sprachen vorlesen, und bietet potenzielle Anwendungen in verschiedenen Branchen.

Ein eingeschränkter Zugang zu Voice Engine wurde bestimmten Unternehmen gewährt, darunter Age of Learning, HeyGen, Dimagi, Livox und Lifespan.

OpenAIs ethischer Ansatz

Letzten Monat, nachdem Menschen automatisierte Anrufe mit einer KI-geklonten Stimme von Präsident Joe Biden erhalten hatten, verbot die Federal Communications Commission (FCC) automatisierte Anrufe.

Um diesen Bedenken zu begegnen, führt OpenAI ethische Richtlinien für die KI-Sprachtechnologie ein. Partner müssen Nutzungsrichtlinien einhalten, die Identitätsdiebstahl ohne Zustimmung verbieten, die ausdrückliche Zustimmung des Sprechers einholen und die Zuhörer darüber informieren, dass die Stimme von KI generiert wurde.

OpenAI implementiert auch ein Wasserzeichen, um die Herkunft des Audios zurückzuverfolgen, und überwacht aktiv dessen Nutzung. Diese Initiative ist Teil einer breiteren Anstrengung zur Minderung von KI-Risiken, einschließlich der schrittweisen Abschaffung der Sprachauthentifizierung, der Umsetzung von Richtlinien zum Schutz der Stimmen von Einzelpersonen, der verstärkten Aufklärung über Deepfakes und der Entwicklung von Systemen zur Verfolgung von KI-generierten Inhalten.