OpenAIs Voice Engine: Synthetische Stimmen in der Schwebe

OpenAI’s voice engine: synthetic voices on hold wird von BTW Media profiliert, da veröffentlichte Belege eine Verbindung zur Internet-Infrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit aufzeigen.

• OpenAI verzögert die groß angelegte Einführung von Voice Engine, einer KI zur Sprachsynthese, um ethischen Bedenken und Missbrauchsrisiken Rechnung zu tragen.
• Die Technologie verspricht Lesehilfe und globale Reichweite, birgt jedoch Risiken von Identitätsdiebstahl und Sicherheitslücken.
• OpenAI stellt strenge Nutzungsbedingungen für Voice Engine auf, einschließlich Einwilligungserfordernissen und der Offenlegung KI-generierter Stimmen.

OpenAI stellt Voice Engine vor, ein KI-Modell, das menschliche Stimmen aus kurzen Audioaufnahmen reproduzieren kann, verzögert jedoch die vollständige Veröffentlichung aufgrund ethischer und gesellschaftlicher Bedenken hinsichtlich möglichen Missbrauchs.

Das Potenzial von Voice Engine

Die Entwicklung der Sprachsynthese war bemerkenswert, insbesondere im Vergleich zum Spielzeug Speak & Spell von 1978, das das Publikum mit seiner pionierhaften elektronischen Stimme faszinierte. Heute können KI-Modelle, die Deep Learning nutzen, nicht nur realistische Stimmen erzeugen, sondern auch bestehende Stimmen mit bemerkenswerter Genauigkeit aus kurzen Audioproben nachahmen.

Lesen Sie auch:Der GPT-Store von OpenAI erfüllt nicht die Erwartungen.

In diesem Kontext stellt die kürzliche Vorstellung von Voice Engine durch OpenAI einen bedeutenden Fortschritt dar. Das KI-Modell kann aus einer kurzen Audioaufnahme eine synthetische Stimme erzeugen, und das Unternehmen hat auf seiner Website Beispiele veröffentlicht. Benutzer können Text eingeben, den Voice Engine dann in eine KI-generierte Stimme umwandelt. OpenAI hat sich jedoch entschieden, diese Technologie nicht in großem Maßstab einzuführen, nachdem ursprünglich ein Pilotprogramm für Entwickler in diesem Monat geplant war.

Nach reiflicher Überlegung zu ethischen Aspekten hat das Unternehmen beschlossen, seine Ambitionen vorerst zu zügeln.

OpenAI erklärte: „Im Einklang mit unserem Engagement für KI-Sicherheit und unseren freiwilligen Richtlinien haben wir uns entschieden, diese Technologie vorzustellen, ohne sie derzeit breit auszurollen. Wir glauben, dass dieser Einblick in Voice Engine sein Potenzial aufzeigt und gleichzeitig betont, wie wichtig es ist, die gesellschaftlichen Abwehrkräfte gegen die Herausforderungen zu stärken, die von immer überzeugenderen generativen Modellen ausgehen.“

Lesen Sie auch:OpenAI baut Medienpartnerschaften für Chatbot-Training aus

Stimmklontechnologie ist nicht neu; es gibt seit 2022 zahlreiche KI-Sprachsynthesemodelle, und diese Technologie ist in der Open-Source-Community mit Angeboten wie OpenVoice und XTTSv2 weit verbreitet. Dennoch ist die Aussicht, dass OpenAI seine Sprachtechnologie allgemein verfügbar macht, bedeutsam, und die Zurückhaltung des Unternehmens, dies zu tun, ist wohl die drängendste Frage.

Die potenziellen Vorteile der Sprachtechnologie von OpenAI sind vielfältig: Lesehilfe mit natürlichen Stimmen, weltweite Inhaltserstellung unter Beibehaltung muttersprachlicher Akzente, personalisierte Sprachoptionen für nicht sprechende Personen sowie Unterstützung von Patienten beim Wiedererlangen ihrer Stimme nach sprachbeeinträchtigenden Erkrankungen.

Ethische und sicherheitsrelevante Implikationen

Dennoch wirft die Möglichkeit, mit nur 15 Sekunden Aufnahme eine Stimme zu klonen, Bedenken hinsichtlich Missbrauch auf. Selbst ohne eine vollständige Einführung von Voice Engine hat das Stimmklonen bereits zu Problemen geführt, wie etwa Telefonbetrug mit nachgeahmten Stimmen von Angehörigen und automatisierte Anrufe mit geklonten Stimmen von Politikern wie Joe Biden.

Darüber hinaus haben Forscher und Journalisten gezeigt, dass Stimmklontechnologie Bankkonten gefährden kann, die Sprachantwortungssysteme nutzen, was Senator Sherrod Brown aus Ohio, Vorsitzender des US-Senatsausschusses für Banken, Wohnungsbau und städtische Angelegenheiten, dazu veranlasste, sich nach den Sicherheitsvorkehrungen großer Banken gegen KI-bedingte Bedrohungen zu erkundigen.

Angesichts der potenziellen Risiken einer breiten Einführung setzt OpenAI eine Reihe von Regeln um, um diese Probleme zu entschärfen. Das Unternehmen testet seit letztem Jahr mit ausgewählten Partnern wie HeyGen, die das Modell nutzen, um die Stimme von Sprechern in andere Sprachen zu übersetzen und dabei die ursprünglichen Stimmmerkmale beizubehalten.

Partnerschaften und Vorsichtsmaßnahmen

Um Voice Engine zu nutzen, müssen Partner Bedingungen einhalten, die „die Identitätstäuschung von Einzelpersonen oder Organisationen ohne Einwilligung oder gesetzliche Berechtigung“ untersagen. Sie sind außerdem verpflichtet, die informierte Einwilligung der Personen einzuholen, deren Stimmen reproduziert werden, und deutlich zu machen, dass die erzeugten Stimmen KI-generiert sind. OpenAI bettet zudem ein Wasserzeichen in jede Sprachprobe ein, um die Rückverfolgung jeder von seinem Modell erzeugten Stimme zu erleichtern.

Vorerst präsentiert OpenAI seine Technologie, ohne sich auf eine umfassende Einführung einzulassen, die möglicherweise gesellschaftliche Umwälzungen verursachen könnte. Stattdessen passt das Unternehmen seine Marketingstrategie an, um als verantwortungsvoller Verwalter dieser aufstrebenden Technologie zu erscheinen.