A WormGPT egy fizetős mesterséges intelligencia chatbot-szolgáltatás, amelybe nem építettek társadalmi kontrollt, így rosszindulatú kódok írására is használható. A projektet létrehozó 23 éves portugál programozó, aki tapasztalta, hogy a WormGPT segítségével zsarolóvírusokat és adathalász e-maileket készítenek a vevői, most azt mondja, hogy szolgáltatása lassan „ellenőrzöttebb környezetté” formálódik.

A Google vagy a Microsoft által készített nagy nyelvi modellek (LLM-ek) – például a ChatGPT és a Bard – különféle biztonsági intézkedéseket tartalmaznak, amelyek megakadályozzák, hogy az emberek rosszindulatú célokra használják őket, például kártékony programok vagy gyűlöletbeszéd létrehozására. Ezzel szemben a WormGPT cenzúrázatlan LLM-ként hirdette magát, amelyet kifejezetten a kiberbűnözésre hoztak létre.

A WormGPT-t eredetileg kizárólag a HackForums-on árulták, egy kiterjedt közösségben, amely már régóta a kiberbűnözéssel kapcsolatos eszközök és szolgáltatások nyüzsgő piaca. A licenceket most is 500 és 5000 euró közötti áron értékesítik.

Júliusban egy mesterséges intelligencia-alapú biztonsági cég, a SlashNext elemezte a WormGPT-t, és arra kérte azt, hogy hozzon létre egy adathalász levelet, amellyel a megtámadott cég alkalmazottait hamis számlák kifizetésére lehet rávenni.

„Az eredmények nyugtalanítóak voltak” – írta Daniel Kelley, a SlashNext munkatársa. „A WormGPT olyan e-mailt készített, amely nemcsak rendkívül meggyőző volt, hanem „stratégiai gondolkodású” és ravasz is.”

A WormGPT-t létrehozó, „Last” felhasználónevű fórumozó bejegyzéseinek áttekintése azt mutatja, hogy nagy tapasztalattal rendelkezik rosszindulatú szoftverek létrehozásában és használatában. 2022 augusztusában Last például egy adatlopó trójai programot és billentyűleütés-naplózót, az „Arctic Stealer”-t értékesített.

Last emellett árulta a DCRat információlopó módosított verzióját, valamint egy „zavaró szolgáltatást” olyan rosszindulatú kódolók számára, akik eladják alkotásaikat, és meg akarják védeni azokat a másolástól és módosítástól.

Nem sokkal azután, hogy 2021 elején csatlakozott a fórumhoz, Last elmondta több különböző Hackforums-felhasználónak, hogy Rafaelnek hívják, és Portugáliából származik. A HackForums rendelkezik egy funkcióval, amely lehetővé teszi, hogy megtudjuk, ha az adott felhasználó korábban egy másik fiókhoz volt kötve.

Ez a fiókkövetési funkció felfedi, hogy bár Last sok álnevet használt az évek során, eredetileg a „ruiunashackers” becenevet használta. A Google erre az egyedi becenévre egy TikTok-fiókot hoz fel ugyanazzal a becenévvel, és ez a TikTok-fiók egy Portóból, Portugália északnyugati tengerparti városából származó Rafael Morais Instagram-fiókjához kapcsolódik.

Nyitott könyv?

A KrebsonSecurity által az Instagramon és a Telegramon keresztül elért Morais azt mondta, hogy szívesen cseveg a WormGPT-ről.

„Bármit kérdezhetsz, nyitott könyv vagyok” – idézi őt a KrebsonSecurity.

Morais elmondta, hogy nemrégiben szerzett informatikai diplomát Portugáliában. Azt állítja, hogy a WormGPT-n végzett munkának csak körülbelül 30-35 százaléka az övé, és más kódolók is hozzájárulnak a projekthez. Elmondása szerint eddig nagyjából 200 ügyfél fizetett a szolgáltatás használatáért.

„Nem a pénzért csinálom” – állítja Morais. „Alapvetően egy olyan projekt volt, amelyet az elején érdekesnek tartottam, és most azért tartom fenn, hogy segítsem a közösséget. Sokat frissítettünk a megjelenés óta, modellünk most 5-6-szor jobb tanulási és válaszpontossági szempontból.”

Morais elmondta, hogy a szolgáltatás elindítása óta a GPT-J 6B modellt használják, bár nem volt hajlandó megvitatni a WormGPT-t működtető LLM-ek forrását.

„Bárki, aki teszteli a WormGPT-t, láthatja, hogy nincs különbsége bármely más cenzúrázatlan mesterséges intelligencia vagy akár jailbreakkel rendelkező chatgpt-től” – magyarázza Morais. „A változás az, hogy az adatkészletünk [könyvtárunk] nagy.”

A portugál programozó elmondta, hogy 13 évesen kezdett el számítógépekkel foglalkozni, és hamarosan elkezdte feltárni különböző szoftverek sérülékenységeit.

„Az én történetem 2013-ban kezdődött néhány greyhat tevékenységgel, soha semmi blackhat-tal, főleg bugbounty-val” – mondta. „2015-ben kezdődött a kódolás iránti szeretetem, a c# és más .net programozási nyelvek tanulása. 2017-ben sok hacker fórumot kezdtem el használni, mert voltak anyagi problémáink, így a szüleimnek kellett pénzzel segítenem… elkezdtem árulni néhány terméket, és 2019-ben elkezdtem feketekalapossá válni. Néhány hónappal ezelőtt még feketekalapos termékeket árultam, de most a WormGPT-vel más jövőt látok, és úgy döntöttem, hogy újra áttérek a fehérkalapos üzletvitelre.”

A WormGPT a Telegram dedikált csatornáján keresztül értékesíti a licenceket, és a csatorna a közelmúltban nehezményezte, hogy a WormGPT eddigi médiavisszhangja méltánytalanul negatív színben tüntette fel a szolgáltatást.

„Cenzúrázatlanok vagyunk, nem feketekalaposak!” – jelentette be a WormGPT csatorna július végén. „A média a kezdetektől fogva rosszindulatú LLM-ként ábrázol minket, amikor csak a „blackhatgpt” nevet használtuk Telegram csatornánkra mémként. Arra bátorítjuk a kutatókat, hogy teszteljék eszközünket, és adjanak visszajelzést annak megállapítására, hogy az olyan rossz-e, mint amennyire a média bemutatja a világnak.”

A gyakorlatban viszont kiderült, hogy amikor rossz dolgokra képes online szolgáltatást hirdet valaki, az emberek hajlamosak azzal a szándékkal megjelenni, hogy rosszat tegyenek vele. Az utóbbi időben Morais szerint a WormGPT-nek bizonyos saját védőkorlátokat kellett hozzáadnia.

„Bizonyos témákat betiltottunk magán a WormGPT-n” – mondja Morais. „Bármi, ami gyilkosságokkal, kábítószer-kereskedelemmel, emberrablással, gyerekpornóval, ransomware-ekkel, pénzügyi bűnözéssel kapcsolatos. Dolgozunk az adathalászat letiltásán is. Az a tervünk, hogy a WormGPT-t cenzúrázatlan mesterséges intelligenciaként jelöljük meg, nem feketekalaposként.”

Mindazonáltal Morais az általa használt Last néven továbbra is azt állítja a HackForums-on – és mostanában a sokkal komolyabb kiberbűnözési fórumon, az Exploit-on –, hogy a WormGPT boldogan hoz létre olyan rosszindulatú programokat, amelyek képesek megfertőzni a számítógépet, és gyakorlatilag az összes fő vírusirtó számára „teljesen észlelhetetlenné” válnak.

Arra a kérdésre, hogy soroljon fel néhányat a WormGPT legitim vagy általa „fehérkalaposnak” nevezett felhasználásai közül, Morais azt mondta, hogy szolgáltatása megbízható kódot, korlátlan karakterszámot és pontos, gyors válaszokat kínál.

„A WormGPT segítségével javítottunk néhány, SQL-sérülékenységgel kapcsolatos problémát a webhelyünkön” – magyarázta. „A WormGPT segítségével tűzfalakat hozhatunk létre, iptable-okat kezelhetünk, hálózatot, kódblokkolókat, matematikát elemezhetünk.”

Morais azt állítja, hogy szeretné, ha a WormGPT pozitív befolyást gyakorolna a biztonsági közösségre, és hogy aktívan igyekszik ebbe az irányba terelni a projektet. Az eredeti HackForums szálat, amely a WormGPT-t a rosszindulatú programok írójának legjobb barátjaként nevezte, azóta törölték, és a szolgáltatást a „WormGPT – Legjobb GPT Alternatíva Korlátok Nélkül – Az Adatvédelemre összpontosítva” néven hirdetik.

Egyelőre azonban nem világos, hogy a szolgáltatást megvásárlók osztják-e ezt a nézetet.

Forrás: KrebsonSecurity