Egy új, frissen berobbant rockzenekar, amely gyorsan felkúszott a Spotify toplistáira, egy hónappal a debütáló album után „bejelentette”: teljes egészében mesterséges intelligencia hozta létre – még a zenészek sem valósak.

A ‘60-as évekbeli rock’n’roll hangzásvilágát idéző Velvet Sundown nevű együttes (készítője) szombaton árulta el a titkot, miután a rajongók észrevették, hogy gyakorlatilag semmilyen nyom nem található az interneten az állítólagos tagokról. A zenekar „Floating on Echoes” című bemutatkozó albuma június 5-én jelent meg, és hatalmas online sikert aratott.

A lemez legnépszerűbb dala, a „Dust on the Wind” című békepárti folk-rock szám június 29. és július 1. között az első helyre került a Spotify napi „Viral 50” toplistáján az Egyesült Királyságban, Norvégiában és Svédországban is.

Eközben a több mint egymillió hallgató, akik elkezdték követni a Velvet Sundownt, nem is sejtették, hogy csupán mesterséges intelligencia által generált „zenészeket” hallgatnak.

Árulkodó nyom volt, hogy a zenekarról készült képek – amelyeket a lemezborítón és a közösségi médiában is megosztottak – feltűnően mesterségesnek tűntek: túlságosan simák és élettelenek voltak, a gitáros keze például torz volt és összeforrt ujjakkal szorította a hangszert – ezek klasszikus jelei az AI által generált képeknek.

A dalszövegek is tökéletesen sablonosak voltak, tele klisés békeüzenetekkel, mint például:
„Semmi sem tart örökké, csak a föld és az ég, elsiklik minden, és a pénzed sem vesz neked egy percet sem.”

A mű-rocksztárok ijesztően gyors tempóban dobták ki az új albumokat: júniusban kettőt, majd július közepére újabbat is beharangoztak – olyan gyorsan, amit emberi zenészek nem tudnának követni.

„A zenekar végül a hétvégén leleplezte magát.”

Szombaton frissítették Spotify-profiljukat, és nyilvánosságra hozták az igazságot – hangsúlyozva, hogy nem átverésnek szánták a projektet.

„A Velvet Sundown egy szintetikus zenei projekt, amelyet emberi kreatív irányítás vezérel, és mesterséges intelligencia segítségével komponált, megszólaltatott és vizualizált. Ez nem trükk – hanem tükör. Egy folyamatos művészi provokáció, amely az alkotás, identitás és a zene jövőjének határait feszegeti az MI korszakában.” – olvasható az új bemutatkozó szövegben.

Közben néhányan, akik idő előtt átlátták a „cselt”, megpróbálták kihasználni a hirtelen népszerűséget: egy kanadai (Québec-i) webbiztonsági szakember például „Andrew Frelon” álnéven – ami franciául darazsat jelent – a zenekar szóvivőjének adta ki magát, és még a Rolling Stone magazint is félrevezette hamis információkkal. Később maga a „Frelon” elismerte, hogy csak online trollkodásból tette mindezt.

Nem tudni, hogy a Velvet Sundown szembesül-e valamilyen következménnyel a Spotify vagy más streaming platformok részéről, amelyek jogosultak lehetnek kizárni az MI-tartalmakat a bevételszerzésből.

A YouTube például július 15-től már bejelentette: minden mesterséges intelligenciával generált tartalomnál megszünteti a monetizációt, beleértve a reklámokat is.

Nemrég a híres YouTuber, MrBeast is hasonló vitába keveredett, miután egy AI-alapú indexkép-generáló eszközt próbált bevezetni. A kritika hatására gyorsan eltávolította azt, mivel az MI működtetése jelentős energiafogyasztással jár – ezzel pedig évek óta végzett környezetvédelmi munkáját hiteltelenítette volna.

Az eset figyelmeztet arra is, hogy az AI generált tartalmak a mindennapok során egyre kevésbé megkülönböztethetőek az ember által létrehozott tartalmaktól. Ugyan igaz, hogy tapasztalt vagy szakértői szemmel még könnyen fel lehet ismerni a mesterséges intelligencia hibáit, de a mindennapok során az átlagemberek nem szoktak alaposan megvizsgálni minden tartalmat.

Ez ugyanaz a mechanizmus, mint amit az online csalások esetében láthatunk: alapos szemrevételezéssel lehet, hogy fel lehet ismerni egy adathalász levelet, de a felhasználók a legtöbb információt csak felületesen dolgozzák fel. Ezért elképzelhető, hogy a mesterséges intelligencia által generált tartalmak rövidesen tömegével megjelennek a félrevezető politikai kommunikációban és az átverésekben.

A cikk forrása: New York Post