Esto no es nuevo. Las IA generativas son buenas para las imitaciones. En particular, pueden reproducir tu voz después de un período de entrenamiento más o menos largo. Cada vez menos tiempo. El nuevo Voice Engine de OpenAI solo necesita una muestra de 15 segundos para luego leer cualquier texto con su voz.
Deepfakes… El fenómeno es preocupante. La IA generativa puede imitar cualquier cosa, a cualquiera, con un realismo inquietante y sorprendente. La imagen como la voz. La tecnología ya ha sido utilizada por ciberdelincuentes para imitar la voz de un gerente y solicitar un pago de dinero de emergencia, por ejemplo. También se utilizó con fines demostrativos para demostrar cómo era posible hacer que cualquier personaje público dijera cualquier cosa y así crear un mensaje viral en las redes sociales.
Pero hasta ahora, la tecnología requería mucha preparación y una cantidad significativa de tiempo de aprendizaje. Pero eso fue antes…
En una nueva entrada del blog, OpenAI revela los primeros resultados de un proyecto de investigación que no puede ponerse en manos de todos porque presenta riesgos de mal uso.
Su nuevo » Motor de voz » puede crear una voz sintética a partir de una simple grabación de voz de unos quince segundos. Luego, la IA puede usar esa voz, su voz, para leer texto en voz alta. También es esta tecnología la que impulsa la funcionalidad «Leer en voz alta» de ChatGPT. El truco es que puede usar esta voz para leer texto en tu idioma o en cualquier otro idioma con un acento muy leve que es más encantador que perturbador..
Aquí hay un ejemplo :
Aquí, la muestra de 15 segundos en inglés utilizada para personalizar la plantilla:
Ahora la lectura en francés del siguiente texto generado por la IA a partir del ejemplo anterior. “La amistad es un tesoro universal. No importa de dónde venimos, ella trae alegría, apoyo y risas a nuestras vidas. Los verdaderos amigos siempre están a nuestro lado: en las buenas y en las malas, comparten nuestras alegrías y curan nuestras tristezas. Valoremos los lazos de amistad que nos unen, más allá de la diversidad de nuestras lenguas o nuestras culturas. »
OpenAI pone su tecnología a disposición de un pequeño grupo de editores y ESN en los campos de la educación y la salud en particular, que se han comprometido a respetar las reglas éticas definidas por OpenAI y a no utilizar la tecnología para reproducir la voz de la personalidad sin su consentimiento previo explícito. Además, OpenAI afirma que su tecnología integra un marcado digital que permite identificar el origen «AI» de los clips de audio generados con «Voice Engine».
El modelo se utiliza especialmente para permitir que las personas que tienen mayores dificultades para expresarse oralmente recuperen el uso del habla con su propia voz sintetizada. También se utiliza en software para ayudar a la lectura, traducir contenidos y mejorar servicios esenciales en comunidades remotas.
Obviamente, La tecnología plantea muchas cuestiones éticas.. Se produce cuando la Comisión Federal de Comunicaciones (FCC) de EE. UU. acaba de prohibir el uso de voces generadas por IA en sistemas de llamadas automatizadas después de que miles de estadounidenses recibieron recientemente mensajes de voz utilizando la voz clonada del presidente. Joe Biden.
Pero según OpenAI, también es importante seguir desarrollando dichos modelos y compartiendo investigaciones sobre IA para fomentar la resiliencia de la sociedad frente a los desafíos que plantean los modelos generativos convincentes.
ChatGPT cada vez más accesible
OpenAI también anunció esta semana la posibilidad de utilizar la versión gratuita de ChatGPT al instante sin pasar por ninguna autenticación. En este caso, automáticamente se impone un mayor filtrado y determinados temas o categorías de preguntas no pueden abordarse con la IA.
Lea también:
Stargate la mega computadora de OpenAI y Microsoft
OpenAI responde abiertamente a las acusaciones de Elon Musk
¡Elon Musk está demandando a su antigua startup OpenAI!
[
