Resumen
OpenAI ha desarrollado Voice Engine, un sistema de IA que puede imitar voces humanas, pero por preocupaciones de seguridad y ética, su uso se ha limitado a ciertas empresas. La tecnología podría usarse en traducción de contenido o ayuda a personas con dificultades de habla.
Generado por Inteliegenica Artifical (OpenAI)
OpenAI, la empresa de inteligencia artificial (IA) detrás del famoso modelo de lenguaje ChatGPT, ha desarrollado Voice Engine, una tecnología capaz de clonar voces humanas con un realismo "emotivo y natural" a partir de solo 15 segundos de audio. Sin embargo, la compañía ha decidido no lanzarla al público general por el momento debido a los riesgos potenciales que conlleva.
Voice Engine utiliza un modelo de IA para analizar una muestra de audio de la voz de una persona y luego generar un modelo de voz sintético que puede reproducir cualquier texto con la misma entonación, timbre y acento.
Esto significa que, por ejemplo, un creador de contenido podría usar Voice Engine para traducir sus videos a otros idiomas sin perder su voz original, o una persona con dificultades para hablar podría usar una voz sintética para comunicarse con mayor facilidad.
OpenAI reconoce que la tecnología de Voice Engine tiene un gran potencial, pero también presenta riesgos importantes. En particular, la compañía teme que las voces sintéticas podrían ser utilizadas para suplantar la identidad de las personas, realizar estafas o incluso manipular las elecciones. En un comunicado, OpenAI señaló:
"Reconocemos que generar un discurso que se asemeje a las voces de las personas conlleva serios riesgos, que son especialmente importantes en un año electoral."
Por el momento, OpenAI ha limitado el acceso a Voice Engine a un pequeño grupo de empresas cuidadosamente seleccionadas, incluyendo Age of Learning, HeyGen, Dimagi, Livox y Lifespan. Estas empresas han sido elegidas por su compromiso con el uso responsable de la tecnología y por su capacidad para mitigar los riesgos asociados a las voces sintéticas.
El desarrollo de Voice Engine es un hito importante en el campo de la IA, pero también pone de relieve los riesgos potenciales que esta tecnología puede conllevar. En el futuro, será necesario desarrollar mecanismos para garantizar que las voces sintéticas se usen de manera responsable y ética.
