OpenAI’s voice engine: synthetic voices on hold

• OpenAI retrasa el lanzamiento amplio de Voice Engine, una IA de texto a voz, para abordar consideraciones éticas y su potencial uso indebido.
• La tecnología promete asistencia de lectura y alcance global, pero plantea riesgos como la suplantación de identidad y violaciones de seguridad.
• OpenAI implementa términos estrictos para el uso de Voice Engine, incluyendo requisitos de consentimiento y divulgación de voces generadas por IA.

OpenAI presenta Voice Engine, un modelo de IA que replica voces humanas a partir de clips de audio cortos, pero retrasa su lanzamiento completo debido a preocupaciones éticas y sociales sobre su posible uso indebido.

El potencial de Voice Engine

La evolución de la síntesis de voz ha sido notable, especialmente en comparación con el juguete Speak & Spell de 1978, que cautivó al público con su voz electrónica pionera. Hoy en día, los modelos de IA que utilizan aprendizaje profundo no solo pueden producir voces realistas, sino también emular las existentes con una precisión notable utilizando muestras de audio breves. Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

Lea también: La tienda GPT de OpenAI no cumple con las expectativas.

En este contexto, la reciente presentación de Voice Engine por OpenAI es un paso adelante significativo. El modelo de IA puede crear una voz sintética basada en una breve grabación de audio, y la compañía ha compartido ejemplos en su sitio web. Los usuarios pueden introducir texto, que luego Voice Engine convierte en una salida de voz generada por IA. Sin embargo, OpenAI ha decidido no realizar un lanzamiento generalizado de la tecnología, habiendo planeado inicialmente un programa piloto para desarrolladores este mes. Después de una mayor deliberación sobre los aspectos éticos, la compañía ha optado por moderar sus ambiciones por el momento. Ver también: Asociación ECHOES.

OpenAI declaró: “De acuerdo con nuestro compromiso con la seguridad de la IA y nuestras directrices voluntarias, hemos optado por mostrar pero no difundir ampliamente esta tecnología en este momento. Creemos que esta vista previa de Voice Engine resaltará su potencial y también enfatizará la importancia de fortalecer las defensas sociales contra los desafíos planteados por modelos generativos cada vez más persuasivos”. Ver también: IT Department - Athlok.

Lea también: OpenAI expande sus lazos mediáticos con socios de noticias para el entrenamiento de chatbots

La tecnología de clonación de voz no es nueva; ha habido numerosos modelos de síntesis de voz con IA desde 2022, y la tecnología prevalece en la comunidad de código abierto con ofertas como OpenVoice y XTTSv2. Sin embargo, la posibilidad de que OpenAI haga que su tecnología de voz esté ampliamente disponible es significativa, y la reticencia de la compañía a hacerlo es posiblemente el problema más destacado. Ver también: Alejandro Estua.

Las ventajas potenciales de la tecnología de voz de OpenAI son múltiples, incluyendo proporcionar asistencia de lectura con voces que suenan naturales, permitir la creación de contenido global manteniendo acentos nativos, ofrecer opciones de habla personalizadas para personas no verbales y ayudar a los pacientes a recuperar su voz después de condiciones que afectan el habla. Ver también: Alejandro Manzo.

Implicaciones éticas y de seguridad

No obstante, la posibilidad de que cualquiera pueda clonar una voz con solo 15 segundos de grabación plantea preocupaciones sobre el uso indebido. Incluso sin un lanzamiento completo de Voice Engine, la clonación de voz ya ha dado lugar a problemas como estafas telefónicas que imitan las voces de seres queridos y llamadas automáticas con voces clonadas de políticos como Joe Biden. Ver también: Alejandro Hernandez.

Además, investigadores y periodistas han demostrado que la tecnología de clonación de voz puede comprometer cuentas bancarias con autenticación de voz, lo que llevó al senador Sherrod Brown de Ohio, presidente del Comité de Banca, Vivienda y Asuntos Urbanos del Senado de EE. UU., a preguntar sobre las medidas de seguridad implementadas en los principales bancos para contrarrestar las amenazas impulsadas por la IA. Ver también: Alejandro Garza.

Reconociendo los riesgos potenciales de la difusión generalizada, OpenAI está implementando un conjunto de reglas para mitigar estos problemas. Ha estado realizando pruebas con socios selectos desde el año pasado, como HeyGen, que utiliza el modelo para traducir las voces de los hablantes a otros idiomas mientras preserva las características vocales originales. Ver también: Alejandro Guerrero.

Medidas de asociación y precaución

Para utilizar Voice Engine, los socios deben cumplir con términos que prohíben “la suplantación de cualquier individuo u organización sin consentimiento o derecho legal”. También se les exige obtener el consentimiento informado de las personas cuyas voces se replican y deben indicar claramente que las voces producidas son generadas por IA. OpenAI también está incorporando una marca de agua en cada muestra de voz para facilitar el rastreo de cualquier voz generada por su modelo.

Por el momento, OpenAI está mostrando su tecnología sin comprometerse por completo a un lanzamiento amplio, lo que podría conducir potencialmente a una agitación social. En cambio, la compañía está recalibrando su estrategia de marketing para aparecer como un administrador responsable de esta tecnología emergente.