OpenAI befürchtet, dass ihr neues Sprachwerkzeug für Betrug verwendet wird

OpenAI befürchtet, dass sein neues Sprachwerkzeug für Betrug verwendet wird, wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internetinfrastruktur, Governance, operativen Abhängigkeiten oder Marktsichtbarkeit verknüpfen.

• Die Voice Engine von OpenAI nutzt die Sprachsynthese-Technologie derAPI und von ChatGPT, um emotionale und realistische Stimmen zu erzeugen, wobei vorläufige Informationen aus einem kleinen Vorschaubeispiel geteilt werden.
• Die Voice Engine von OpenAI, die für ihre Sprachübersetzungsfähigkeiten gelobt wird, wird aufgrund von Bedenken hinsichtlich möglichen Missbrauchs und der missbräuchlichen Verwendung synthetischer Stimmen mit Vorsicht veröffentlicht.
• OpenAI plädiert für einen verantwortungsvollen Einsatz synthetischer Stimmen und verweist auf den jüngsten Vorfall, bei dem Steve Kramer die Stimme von Präsident Biden klonte, um die Entscheidungsfindung zu beeinflussen.

OpenAI hat Voice Engine vorgestellt, ein KI-basiertes Audio-Cloning-Tool, trotz seines Potenzials für Lesehilfe und Spracherkennung. Das Unternehmen macht sich Sorgen über möglichen Missbrauch und verpflichtet sich, eine sichere und vorteilhafte KI zu entwickeln.

Spitzentechnologie

Die Voice Engine von OpenAI verwendet ihre Sprachsynthese-API und die Sprachtechnologie von ChatGPT, um eine Stimme zu klonen, indem sie einen 15-Sekunden-Ausschnitt nutzt, um emotionale und realistische Stimmen zu erzeugen, im Gegensatz zu traditionellen Lesemethoden, die den Tonfall und die Betonung einer unbekannten Person erfordern.

Das Unternehmen hat vorläufige Informationen und Ergebnisse einer kleinen Vorschau seines Voice Engine-Modells veröffentlicht, das eine Texteingabe und einen 15-Sekunden-Audioausschnitt verwendet, um natürlich klingende Sprache zu erzeugen.

Die Trainingsdaten der Voice Engine sind unklar, was bei KI-Unternehmen, die wegen Urheberrechtsverletzungen angeklagt sind, Besorgnis erregt. OpenAI beruft sich auf faire Nutzung, aber die Rechteinhaber reichen Klage auf ausstehende Vergütung ein.

Lesen Sie auch:Google.org startet einen generativen KI-Beschleuniger für Non-Profit-Organisationen

Lesen Sie auch:Wer ist Jensen Huang? Der Gründer des Chipherstellers Nvidia war ein Unruhestifter, bevor er zu einem führenden Namen in der KI wurde.

OpenAIs zweischneidiges Schwert

Die Voice Engine von OpenAI, die es Benutzern ermöglicht, die Sprache eines Sprechers zu ändern, wurde für ihre beeindruckenden Audio-Clips und Sprachübersetzungsfähigkeiten gelobt. Allerdings verfolgt das Unternehmen einen vorsichtigen Ansatz bei einer breiteren Veröffentlichung aufgrund des Potenzials für Missbrauch synthetischer Stimmen. OpenAI, das Ende 2022 ChatGPT öffentlich einführte, ist zu einer massiven Einheit geworden, und seine Verbreitung könnte möglicherweise neuen Missbrauch auslösen.

OpenAI zielt darauf ab, den verantwortungsvollen Einsatz synthetischer Stimmen zu diskutieren und wie sich die Gesellschaft an diese neuen Fähigkeiten anpassen kann. Bei einem jüngsten Vorfall klonte Steve Kramer die Stimme von Präsident Joe Biden, um eine Voice-Mail-Nachricht zu erstellen, die die Menschen aufforderte, bei der Vorwahl in New Hampshire nicht zu wählen. OpenAI plant, fundierte Entscheidungen auf der Grundlage von Gesprächen und Tests im kleinen Maßstab zu treffen, um ein fundierteres Verständnis des Technologiepotenzials zu schaffen.

Der letzte Krypto-Betrug verwendet echte Schauspieler, die auf Fiverr engagiert wurden, um ein Drehbuch zu lesen, und präsentiert den Betrug als authentisch. Dies unterstreicht die potenziellen Gefahren der Verwendung von KI-generierten falschen Stimmen bei Betrug, da Betrüger immer neue Werkzeuge nutzen werden, um Menschen Geld zu entlocken.