• Voice Engine, una plataforma de generación de texto a voz desarrollada por OpenAI, está proporcionando acceso para crear voces sintéticas.
  • Los usos poco éticos de la tecnología de voz con IA podrían resultar en spam y generar preocupaciones.

El modelo de clonación de voz Voice Engine ha estado en desarrollo desde finales de 2022 y puede generar una voz sintética a partir de un clip de 15 segundos de la voz de alguien. Sin embargo, a medida que la IA generativa continúa desarrollándose, también surgen preocupaciones éticas.

OpenAI presenta Voice Engine

OpenAI ha presentado Voice Engine, una plataforma de generación de texto a voz capaz de crear voces sintéticas basadas en clips de voz cortos.

Leer también: La herramienta de clonación de voz de OpenAI imita tu voz con una muestra de 15 segundos

Esta tecnología innovadora puede producir voces generadas por IA que leen indicaciones de texto en múltiples idiomas, ofreciendo aplicaciones potenciales en diversas industrias.

Se ha otorgado acceso limitado a Voice Engine a empresas seleccionadas, como Age of Learning, HeyGen, Dimagi, Livox y Lifespan.

El enfoque de OpenAI en consideraciones éticas

El mes pasado, después de que las personas recibieran llamadas no deseadas de una voz clonada por IA del presidente Joe Biden, la Comisión Federal de Comunicaciones prohibió las robocalls.

Para abordar las preocupaciones, OpenAI introduce pautas éticas en torno a la tecnología de voz con IA. Se requiere que los socios cumplan con políticas de uso que prohíben la suplantación sin consentimiento, obtengan el consentimiento explícito del hablante y revelen a los oyentes que las voces son generadas por IA.

OpenAI también implementa marcas de agua para rastrear el origen del audio y monitorea activamente su uso. La iniciativa realiza un esfuerzo más amplio para mitigar los riesgos relacionados con la IA, lo que incluye eliminar gradualmente la autenticación basada en voz, implementar políticas para salvaguardar las voces de las personas, mejorar la educación sobre deepfakes de IA y desarrollar sistemas de seguimiento para contenido de IA.