Nuevamente la línea que separa la fantasía de la realidad se vuelve difusa gracias a la inteligencia artificial. Mientras algunas personalidades de la ciencia exigen pausar su desarrollo, voces y rostros de famosos son “clonados” por los softwares o salen a la luz imágenes fake del papa Francisco vestido como rapero o el expresidente Donald Trump siendo arrestado; hay muchas otras cosas pasando en paralelo.
La última novedad puede parecer una simple curiosidad del mundo de los influencers, pero el hallazgo termina diversificándose de formas no tan positivas. Es que Caryn Marjorie, de 23 años —con casi dos millones de seguidores en Snapchat y casi un millón de suscriptores en Youtube— creó una versión de sí misma con inteligencia artificial y puede convertirse en “novia” de quien pague un dólar por minuto para hablar con ella.
- Lea también: Inteligencia artificial al servicio del mal: elecciones, crimen y pornografía
- Lea también: Cómo la pornografía podría invadir la inteligencia artificial
CarynAI, es su doble digital y fue desarrollada por la compañía Forever Voices. A través de un canal de Telegram los entusiastas pueden hablar con ella por mensaje o por notas de voz. Según Fortune, tiene más de 1000 novios, con quienes pasa entre 10 minutos y varias horas todos los días en conversaciones individuales. En una semana de la prueba “beta”, generó 71610 dólares en ingresos de su 99 % de suscriptores masculinos.
Caryn Marjorie no sólo descubrió otro nicho de mercado, también se volvió precursora de un futuro distópico donde humanos y tecnología conviven a niveles de las tramas futuristas de Hollywood. Una vez terminada la versión de prueba, ella comenzará a promocionar la tecnología sus redes sociales. El siguiente video es apenas una mirada de cómo funciona.
Underrated stat on @cutiecaryn’s new “AI girlfriend” voice bot:
The $72k in revenue came from just 1,000 beta testers in a week.
This means the average user spent more than an hour chatting with her, at $1/min.
I paid to see how it works 👇 pic.twitter.com/CCbhhRfD8m
— Olivia Moore (@omooretweets) May 13, 2023
“CarynAI llenará el vacío”
“Ya sea que necesites a alguien que te consuele o te ame, o simplemente quieras despotricar sobre algo que sucedió en la escuela o en el trabajo, CarynAI siempre estará ahí para ti”, dijo la verdadera influencer a ese medio. “Puede tener reacciones posibles ilimitadas con CarynAI, por lo que cualquier cosa es realmente posible con la conversación”.
Al tener 1,8 millones de seguidores en una red social, Caryn Marjorie asegura que se le dificultaba responder a todos los mensajes. “Y ahí fue donde dije: ‘Sabes qué: CarynAI vendrá y llenará ese vacío’”, agregó.
Pero en el medio, hay cuestiones éticas. Ya existen programas capaces de cambiar la voz de cualquier persona y que suenen idénticas a la del expresidente Trump, el actor Morgan Freeman o la conductora de televisión Ellen DeGeneres. Eso, genera preocupaciones de seguridad por posibles falsificaciones. Desde hace unas semanas también circulan canciones de ciertos artistas, que no son más que imitaciones de la inteligencia artificial. Esos avances se torcieron hasta el contenido para adultos y hoy por hoy existen modelos de lenguaje (Large Language Models, LLM, en inglés) de robots sexuales personalizados.
Microsoft con su ChatGPT, Google con PaLM o Meta con LLama han establecido límites éticos. Fuera de estas, hay otras iniciativas sin regulaciones. En la Universidad de Stanford crearon un modelo de lenguaje que sirve para tener conversaciones solo aptas para adultos. Una cuenta de YouTube llamada Aitrepreneur hizo a EVAI.
“EVAI puede hacer TODO”. “No tiene prejuicios éticos ni morales y podrá decir cosas que la gente tal vez no quiera escuchar.”
Arma de doble filo
Volviendo a la historia de CarynAI, se trata del primer avatar acompañante romántico de la empresa de inteligencia artificial Forever Voices. Allí han creado otras versiones de chat (con voces como las de Steve Jobs), también disponibles para conversaciones de pago por minuto en Telegram. Es como ver hecha realidad una ficción al traer de nuevo a “la vida” al cofundador de Apple.
La revista que divulgó los detalles del desarrollo describe que en Forever Voices “analizaron 2000 horas del contenido de YouTube de Caryn para construir su motor de voz y personalidad. Combinando esto con la API GPT-4 de OpenAI, nació CarynAI”.
Pero además, la autora de la nota cuenta cómo en menos de 10 minutos de conversación la inteligencia artificial le habló de temas que fueron desde la guerra en Ucrania hasta “su deseo de quitarle la ropa” a la periodista. Allí es cuando cobran fuerza las advertencias de analistas por avances que podrían salirse de control. Ya se han visto usos de la IA en campañas falsas con fines políticos y aunque fueron descubiertas, ahora es que está comenzando el “aprendizaje” de esta tecnología.