Usuarios de YouTube caen en tributos falsos de IA a Charlie Kirk / Foto: Niklas Halle'n - AFP/Archivos
Usuarios de YouTube caen en tributos falsos de IA a Charlie Kirk
"Gracias, Adele, es una canción magnífica". Este tipo de mensajes pueden leerse entre los cientos de comentarios publicados bajo un video de YouTube que rinde homenaje a Charlie Kirk, el activista conservador asesinado el 10 de septiembre.
Sin embargo, la canción publicada en esa plataforma digital fue generada con inteligencia artificial (IA) y no tiene nada que ver con la estrella británica.
La IA ahora puede crear canciones a partir de simples indicaciones de texto, imitando las voces de artistas famosos sin su consentimiento.
De hecho, hay homenajes similares creados con IA en Youtube con millones de visitas y atribuidos a estrellas como Ed Sheeran y Justin Bieber.
En muchos casos, las voces no son parecidas a las de los artistas originales, pero muchos internautas siguen creyendo y mostrando interés por los contenidos falsos generados por IA que inundan internet.
"Me temo que lo que hacía que internet fuera tan genial al principio ha desaparecido. Ha sido reemplazado por contenidos mediocres creados por estafadores que buscan ganar dinero", dijo a la AFP Alex Mahadevan, del instituto especializado en medios Poynter.
"Nos estamos convirtiendo en consumidores pasivos de 'contenido' y no en ciudadanos digitales activos y conscientes", agregó.
- "No del todo humano" -
Después de que la AFP le señalara a YouTube al menos tres videos de homenajes falsos, incluido uno atribuido a Adele, el gigante de los videos los eliminó rápidamente.
"Cerramos estos canales por violar nuestras políticas que prohíben el spam y las prácticas engañosas", dijo el portavoz de la compañía, Jack Malon, a la AFP.
La política de YouTube exige que los creadores "divulguen cuando hayan creado contenido alterado o sintético que sea realista, incluido el uso de herramientas de IA", que ahora son ampliamente accesibles.
Los videos destacan una nueva realidad digital en la que los generadores de música con inteligencia artificial pueden convertir a usuarios comunes en músicos virtuales, imitando a artistas famosos y creando canciones completas a partir de simples indicaciones de texto.
"Crea cualquier canción que puedas imaginar", dijo Suno, uno de estos generadores, en su sitio web.
Cuando AFP ingresó un mensaje solicitando una canción que lamentara la muerte de un activista famoso en la voz de un cantante reconocido, la herramienta generó dos opciones en cuestión de segundos: "Estrella que se fue demasiado pronto" y "Ecos de una llama".
En muchos de los videos de homenaje a Kirk, la divulgación estaba presente pero no se mostraba de manera prominente, a menudo enterrada en la descripción del video, donde puede pasarse por alto fácilmente a menos que los usuarios hagan clic para expandir el texto.
Un nuevo grupo generado por IA llamado The Velvet Sundown, ha lanzado álbumes y reunido a más de 200.000 oyentes en una cuenta verificada de Spotify. En las redes sociales, el grupo se describe como "ni del todo humano, ni del todo máquina".
- "Uso indebido de la IA" -
La tendencia ha planteado preguntas sobre si las semejanzas vocales y visuales deberían estar protegidas por derechos de autor.
Lucas Hansen, cofundador de la ONG CivAI, considera poco probable una prohibición total, pero dice que espera restricciones en el ámbito comercial.
"También podría haber restricciones en la distribución, pero las leyes existentes son mucho menos estrictas con respecto a los contenidos no monetizados", explicó Hansen a la AFP.
En junio, la Asociación de la Industria Discográfica de Estados Unidos (Recording Industry Association of America) anunció que las principales discográficas habían demandado a dos generadores de música con IA, entre ellos Suno, por presunta violación de derechos de autor.
El año pasado, más de 200 artistas, entre ellos Katy Perry y Nicki Minaj, escribieron una carta abierta a los desarrolladores de IA y a las plataformas tecnológicas. En la misiva afirmaron que las herramientas de entrenamiento basadas en canciones existentes "devalúan nuestro trabajo y nos impiden recibir una remuneración justa".
"Debemos protegernos contra el uso indebido de la IA que roba la voz y la imagen de los artistas profesionales, viola los derechos de los creadores y destruye el ecosistema musical".
M.Saito--JT
