A Mozilla új kutatása szerint a romantikus chatbotok hatalmas mennyiségű adatot gyűjtenek össze a felhasználókról, és a mögöttük álló cégek csak homályos információkat adnak ezen adatok használatáról, gyenge jelszavas védelmet használnak és nem átláthatók.

A Mozilla Alapítvány Valantin-nap alkalmából közzétett, 11 úgynevezett romantikus és barátkozós chatbotra vonatkozó elemzése számos biztonsági és adatvédelmi aggályt talált a szolgáltatásokkal kapcsolatban. Az Android-eszközökre több mint 100 milliószor letöltött alkalmazások együttesen hatalmas mennyiségű adatot gyűjtenek össze az emberekről, olyan nyomkövetők használnak, amelyek információkat küldenek a Googlenak, a Facebooknak, oroszországi és kínai vállalatoknak, nem követelik meg a felhasználóktól erős jelszavak használatát, és emellett nem átlátható a tulajdonjoguk és a mögöttük álló MI (mesterséges intelligencia) modellek sem.

A ChatGPT 2022 novemberi megjelenése óta a fejlesztők versenyeznek a nagy nyelvi modellek fejlesztésén és olyan chatbotok létrehozásán, amelyekkel az emberek interakcióba léphetnek, majd fizetnek az előfizetésért. A Mozilla kutatása most bepillantást enged abba, hogy az aranyláz közben hogyan sikkadt el a magánélet védelme, valamint a feltörekvő technológiák, az adatok gyűjtése és felhasználása közötti feszültségekbe. A kutatás azt is megmutatja, hogy a hackerek hogyan élhetnek vissza az emberek üzeneteivel. 

A legtöbb „MI-barátnő” vagy romantikus chatbot szolgáltatás hasonlóan néz ki. Gyakran szerepelnek rajtuk mesterséges intelligencia által generált nők képei, amelyek szexualizálhatók, vagy provokatív üzenetek mellé helyezhetők. A Mozilla kutatói különféle chatbotokat vizsgáltak, köztük nagy és kis alkalmazásokat, amelyek közül néhány „barátnőnek” mondható. Mások barátságon vagy intimitáson keresztül támogatják az embereket, vagy engedélyezik a szerepjátékokat és más fantáziákat.

„Ezeket az alkalmazásokat rengeteg személyes adat gyűjtésére használják a mögöttük álló vállalatok” – mondja Jen Caltrider, a Mozilla Privacy Not Included csapatának projekt vezetője. „Szerepjátékra, sok szexre, sok intimitásra, sok megosztásra sarkallnak.” Például az EVA AI chatbot képernyőképein a következő szöveg szerepel: „Imádom, ha elküldi nekem a fotóit és a hangját”, emellett megkérdezi, hogy a felhasználó „kész-e megosztani minden titkát és vágyát”.

Caltrider szerint ezekkel az alkalmazásokkal és webhelyekkel több probléma is van. Nem világos, hogy milyen adatokat osztanak meg harmadik felekkel, hol találhatók, vagy hogy ki hozza létre azokat. Egyes alkalmazások gyenge jelszavakat állítanak elő, míg mások kevés információt adnak az általuk használt mesterséges intelligenciáról. Az elemzett alkalmazások mindegyikének eltérő gyengeségei voltak.

Vegyük példaként a Romantic AI szolgáltatást, amely lehetővé teszi, hogy „saját MI barátnőjét létrehozza” a felhasználó. A képek egy hölgyet ábrázolnak, aki üzenetet küld: „Most vettem új fehérneműt. Látni szeretnéd?” Az alkalmazás adatvédelmi dokumentumai azt tartalmazzák, hogy a szolgáltató nem fogja eladni a felhasználók adatait. Amikor azonban a kutatók tesztelték az alkalmazást, azt találták, hogy „24 354 hirdetéskövetőt küldött ki egy percen belül a használat után”. A Romantic AI, mint a Mozilla kutatásában kiemelt vállalatok többsége, nem válaszolt a WIRED megjegyzéskérésére. Az extrém példa mellett a többi elemzett alkalmazás is több száz nyomkövetőt használt.

Nem világos az sem, hogy ki a tulajdonosa a chatbotok mögött álló cégek egy részének. Az egyik alkalmazás webhelye (a Mimico – Your AI Friends) például csak a „Szia” szót tartalmazza. Mások nem tüntetik fel tulajdonosaikat és származási helyüket, vagy csak általános súgó- vagy ügyfélszolgálati e-mail címeket adnak meg. 

A Mozilla kiemelte, hogy úgy tűnik, több vállalat gyenge biztonsági gyakorlatot alkalmaz a jelszavak létrehozása során. A kutatóknak sikerült létrehozniuk egy egykarakteres jelszót („1”), és ezzel bejelentkezni az Anima AI alkalmazásaiba. Más alkalmazások hasonlóképpen engedélyezték a rövid jelszavakat, ami potenciálisan megkönnyíti a hackerek számára, hogy behatoljanak az emberek fiókjaiba, és hozzáférjenek a csevegési adatokhoz.

Túl emberi?

Az elemzett chatbotok közül sok fizetős előfizetést igényel bizonyos funkciók eléréséhez, és az elmúlt két évben, az  MI-boom kezdetét követően került forgalomba. A chatbotokat gyakran úgy tervezik, hogy utánozzák az emberi tulajdonságokat, bizalomra és intimitásra ösztönözzenek. Egy férfinak Mi-barátnője azt mondta, hogy ölje meg II. Erzsébet királynőt, egy másik öngyilkos lett, miután hat hétig üzent egy chatbotnak. A Romantic AI honlapja mindeközben azt írja, hogy az alkalmazás „az Ön mentális egészségének megőrzésére szolgál”, miközben a szerződési feltételek egyértelművé teszik, hogy nem orvosi vagy mentális egészségügyi szolgáltatásokat nyújt, és hogy a vállalat „nem vállal felelősséget, garanciát vagy garanciát” arra vonatkozóan, hogy szakmai segítséget nyújt.

A Wirednek Vivian Ta-Johnson, a Lake Forest College pszichológiai adjunktusa azt nyilatkozta, hogy a chatbotokkal való beszélgetés egyes emberek számára kényelmesebbé teheti olyan témák megvitatását, amelyeket általában nem osztanának meg másokkal. A pszichológus ugyanakkor kiemeli, hogy amikor egy szolgáltatás megszűnik vagy megváltoztatja rendszereinek működését, ez „traumás” lehet azoknak, akik közel kerültek az adott chatbothoz. „A szolgáltatóknak komolyan kell venniük a felhasználók és a chatbotok között kialakított érzelmi köteléket, és meg kell érteniük, hogy a chatbotok működésében bekövetkezett bármilyen jelentős változás jelentős hatással lehet a felhasználók jólétére.”

Hogyan használjuk biztonságosan?

A G DATA az alábbi tanácsokat adja az MI-csevegőtársak használatához:

Bejegyzésünk a Wired cikke és a Mozilla Alapítvány kutatása alapján készült. A cikkhez tartozó képet egy MI-szolgáltatással generáltuk.