La música generada por IA no solo es cada vez más frecuente, sino que también lo son las herramientas utilizadas para crearla. Aquí hay un ejemplo. A principios de este año, Amazon integró Suno AI en sus sistemas Alexa+. Según Amazon, Suno permite a los usuarios "convertir solicitudes simples y creativas en canciones completas, incluidas voces, letras e instrumentación". Suno, que actualmente está envuelto en una serie de demandas, ha admitido, en los tribunales, haber utilizado franjas de material protegido por derechos de autor para entrenar sus sistemas. Sin embargo, a pesar de sus problemas legales y su controvertido CEO (él fue quien afirmó que la mayoría de la gente consideraba que el proceso de creación musical "no era realmente agradable"), al estilo clásico de "muévete rápido y rompe cosas", la compañía recibió una valoración de mercado de quinientos millones de dólares en una ronda de financiación de capital de riesgo el año pasado.
Esta creciente facilidad de acceso a la música de IA y las herramientas para crearla ha dado lugar a una preocupación generalizada y campañas para proteger los derechos de autor de los artistas, del tipo rutinariamente ignorado y violado por una industria de IA en rápido crecimiento (aunque supuestamente frágil). Todo esto a pesar de los mejores esfuerzos de los gobiernos de EE.UU. y Reino Unido. El régimen favorable a las grandes tecnologías de Trump despidió recientemente al director de la Oficina de Derechos de Autor de EE.UU., dos días después de que la Oficina publicara un informe cuestionando el uso de contenido protegido por derechos de autor en la capacitación en inteligencia artificial. El gobierno del Reino Unido también está envuelto en una disputa con la Cámara de los Lores que, la semana pasada, votó a favor de agregar una enmienda al proyecto de ley insignia de IA del gobierno, que obligaría a las empresas de IA a revelar si se utilizó material protegido por derechos de autor para entrenar sus sistemas.
Hay una guerra ahí fuera, con la industria de la música como uno de sus principales frentes de batalla. En el frente guerrillero, se están desarrollando una serie de tácticas ingeniosas para ayudar a los músicos a evitar que su trabajo se utilice para entrenar sistemas de IA sin permiso. Una de esas herramientas es HarmonyCloak. Creada por un equipo de la Universidad de Tennessee, es una pieza de tecnología diseñada para evitar que la IA aprenda datos musicales. HarmonyCloak infunde una composición con sonidos que son extremadamente difíciles de identificar para el oído humano. Fue creado cuando el equipo de investigación descubrió que si integraban sonidos de baja frecuencia en una pieza musical que luego se ejecutaba a través de un sistema de IA, alteraría el producto final hasta tal punto que la salida generada por IA se volvería incoherente y esencialmente inaudible.
Echa un vistazo al breve video a continuación para ver una demostración de HarmonyCloak en acción:
—
Para citar a New Atlas, los creadores del video anterior: "estos dos clips de audio son generados por un modelo llamado MusicLM, basado en el mismo mensaje -" generar pista de indie rock - y entrenados en la misma música. La diferencia es que una fuente es limpia, mientras que la otra usa HarmonyCloak."El efecto es notable y no tiene un efecto discernible en la pieza musical original. El artículo de investigación del equipo HarmonyCloak detalla cómo 50 personas escucharon canciones que habían sido 'encubiertas' con la tecnología. Solo una persona, supuestamente un audiófilo, afirmó escuchar distorsión en la música 'encubierta' y eso fue en solo dos de las 15 muestras que escucharon. El próximo año, el equipo detrás de HarmonyCloak planea lanzar la tecnología de forma gratuita.
Aquí hay una explicación (muy) breve del método más común utilizado por los sistemas de IA para generar música. Un modelo de IA se entrena con datos que extrae de Internet. Por ejemplo, MusicLM de Google mencionado anteriormente fue entrenado con alrededor de 280,000 horas de música. A partir de su conjunto de datos musicales, convierte archivos de audio en una colección de espectrogramas, cada uno etiquetado con palabras clave que describen diferentes cualidades musicales. Cuando se le solicita un mensaje escrito, utiliza un proceso enormemente complejo integral del aprendizaje automático moderno llamado 'difusión' para analizar su enorme colección. Luego, la IA genera un espectrograma que se parece mejor al mensaje escrito original. Este espectrograma se convierte de nuevo en un archivo MIDI y, por lo tanto, se crea una 'nueva' pieza musical.
Sin embargo, como demuestra HarmonyCloak, puede ser fácil engañar a estos sistemas. Los 'ataques adversarios' (también denominados 'ruido adversario'; una referencia al uso de 'ruido' por parte de la difusión para generar nuevos datos) adoptan la forma de pequeños ajustes casi invisibles en las entradas de aprendizaje automático que alejan el resultado de una solicitud deseada. Este no es un descubrimiento nuevo. Antes de la era actual de avances en IA, los investigadores y activistas sabían cómo engañar a los algoritmos de aprendizaje profundo, a menudo con algunas técnicas sorprendentemente simples. Alterar solo un píxel puede dañar la capacidad de un sistema de reconocimiento de imágenes de IA para, como se descubrió en 2017, diferenciar entre una tortuga y un rifle. Los ataques adversarios han tomado formas aún más simples. En 2020, los piratas informáticos descubrieron que agregar una tira de cinta negra de dos pulgadas a una señal de límite de velocidad podría engañar al sistema de conducción MobileEye AI de Tesla (notoriamente peligroso y ahora descontinuado) para que acelerara un automóvil más allá del límite de la señal.
Las empresas que crean estos sistemas de IA son conscientes de los intentos de defenderse de sus flagrantes abusos. Open AI, que admitió que sería "imposible" entrenar a sus modelos sin usar contenido protegido por derechos de autor, increíblemente describió el uso de herramientas adversas de protección de derechos de autor como Glaze y Nightshade como "abuso". Curiosamente, si busca en Google la frase 'Ataques adversarios de la industria de la IA', la respuesta dada por el propio resumen de IA de Google describe los ataques adversarios como "actores maliciosos que manipulan los sistemas de IA para hacer predicciones o decisiones incorrectas" que "malinterpretan los datos de entrada o cometen errores, lo que podría conducir a resultados peligrosos". Es justo decir que esta es una versión bastante unilateral de la función que brindan estas herramientas.
—
—
El video anterior describe otro método contradictorio que utilizan los músicos. Fue creado por el músico y activista Benn Jordan, cuyo canal de YouTube es un seguimiento esencial para cualquier persona interesada en los desarrollos incipientes en la tecnología musical. Una frase que usa con frecuencia captura de manera sucinta los sentimientos que muchos músicos y artistas tienen con respecto a la tecnología generativa de IA, calificándola de "solución sin problema". Ha creado una tecnología similar a HarmonyCloak a la que llama Poisonify. Cuando prueba una de sus pistas codificadas con Poisonify en sistemas como el de Suno, las nuevas obras resultantes se desvían mucho en términos de género y estilo a una pesadilla sin sentido. Jordan es un pensador brillante y su video incluido aquí hace un gran trabajo al detallar las peleas adversarias, al tiempo que reconoce algunos de los desafíos que enfrentan estas técnicas, como cuánto tiempo y poder se necesitan actualmente para codificar piezas musicales con la tecnología.
Entonces, ¿cuál es el futuro de las guerras musicales de IA? Obviamente, es muy difícil predecir incluso el futuro cercano. Concluyamos con dos historias razonablemente positivas, en términos de contraataque. Una de las demandas antes mencionadas a las que se enfrenta Suno, comprada por los' tres grandes ' sellos de Sony, Universal y Warner, busca una indemnización de 150.000 dólares por obra que, según alegan, fue utilizada por Suno. Los cálculos exactos son difíciles de resolver, sin embargo, Jordan estima que los daños totales ascienden a más de un billón de dólares. Luego están los comentarios recientes del director editorial de Bandcamp quien, en una entrevista con Forbes, dijo; "No he notado ningún repunte significativo en los registros que se crean con la ayuda de la IA."Esto ofrece un posible futuro intrigante en el que la basura musical de IA se limita a las plataformas de transmisión y sus interminables reproducciones automáticas y sugerencias algorítmicas opacas. Comprar música es un proceso de pensamiento activo, algo que bien puede ser fundamentalmente antitético a la naturaleza del arte generado por el arte.
—
Palabras: Tom Morgan
—
Únase a nosotros en WeAre8, mientras nos metemos en la piel de los acontecimientos culturales mundiales. Sigue la revista Clash AQUÍ mientras saltamos alegremente entre clubes, conciertos, entrevistas y
sesiones de fotos. Obtenga adelantos detrás del escenario y una visión de nuestro mundo a medida que se desarrollan la diversión y los juegos.
La expresión musical no siempre comienza con notas o acordes. La pasión detrás de las canciones a menudo es rastreable, derivada de otras formas de arte. Un rápido
La voz de pop alternativo de Lake District, Tiiva, ha compartido su nuevo sencillo 'you and i'. El precoz viajero del pop está listo para un verano ajetreado, con su álbum debut set
Metallica Confirma Conciertos En Glasgow y Cardiff, Londres; Cómo Conseguir Entradas
Guedra Guedra de Marruecos ha compartido planes para su nuevo álbum 'MUTANT'. Un artista notable, Guedra Guedra reúne aspectos de su arte norteafricano
Los rockeros escoceses Twin Atlantic han compartido nuevo single 'Salvation'. La banda está de regreso, con una gran serie de shows de verano frente a ellos. Los aspectos más destacados incluyen
Kaiser Chiefs reeditará su álbum debut 'Employment' a finales de este año. El álbum fue lanzado en 2005 y se convirtió en un gran éxito, multiplatino
La música generada por IA no solo es cada vez más frecuente, sino que también lo son las herramientas utilizadas para crearla. Aquí hay un ejemplo. A principios de este año, Amazon