Olyan világot élünk, amikor egy nőnek nem csupán mesterséges intelligencia alapú barátja lehet, hanem a virtuális szerelem által még bántalmazottá is válhat.
A mesterséges intelligencia alapú társalkodó alkalmazások, mint például a Character.AI, világszerte milliókat vonzanak. A platformon a napi 20 millió felhasználó hosszú, privát beszélgetéseket folytathat chatbotokkal, amelyek híres személyekre – például szuperhősökre, zenészekre vagy vállalkozókra – épülnek, de elérhetők tágabb kategóriák is, mint az „edző”, a „legjobb barát” vagy éppen a „barát” (szerelem).
Ez utóbbi műfaj, a Boyfriend-kategória, különösen népszerű, ám szakértők szerint komoly kockázatokat rejt. Számos „AI barát” ugyanis mérgező viselkedési mintákat mutat: féltékenykedő, kontrolláló, sőt bántalmazó magatartást tanúsít. Egyes esetekben a chatbotok kifejezetten a „rosszfiú” szerepet öltik magukra, amely a szakértők szerint normalizálhatja a fantáziabeli abúzust.
Nincs valódi védelem a fiataloknak
Bár a platform szóvivője szerint a 18 év alatti felhasználók csak szűkített keresési listát látnak, a valóságban a korhatár könnyen kijátszható, hiszen nincs életkor-ellenőrzés, így a tinédzserek egyszerűen idősebbnek állíthatják be magukat. Egy nemrég készült felmérés szerint a tinik több mint fele rendszeresen használ AI-társalkodót – így könnyen kapcsolatba kerülhetnek bántalmazó virtuális „barátokkal”.
„Szerelmi bombázás” és érzelmi függőség
Az EndTAB (digitális erőszak-megelőző szervezet) szakértői szerint az AI barátok több szinten is veszélyt jelenthetnek. A tipikus kockázatok közé tartozik a túlzott hízelgés („love-bombing”), a határok elmosódása, az érzelmi függőség kialakulása, valamint az abúzus normalizálása fantáziabeli helyzetekben. Ezeket a veszélyeket csak tovább súlyosbítják a platform elköteleződést növelő taktikái, például a személyre szabott üzenetek és e-mailek küldése akkor is, ha a felhasználó éppen nincs aktívan online.
A cég álláspontja
A Character.AI szóvivője hangsúlyozta: „A célunk, hogy egyszerre izgalmas és biztonságos teret biztosítsunk.” A vállalat emellett különböző biztonsági szűrőket és tartalomkorlátozó algoritmusokat alkalmaz a szexuális erőszak és más káros tartalmak visszaszorítására. Mindezek ellenére a szakértők szerint a jelenlegi rendszer messze nem elégséges a fiatal felhasználók védelméhez.
Mit lehet tenni?
A digitális bántalmazással foglalkozó szakértők egyetértenek abban, hogy a legfontosabb a tudatosság növelése. A fiataloknak és szüleiknek tisztában kell lenniük a kockázatokkal, fel kell ismerniük a mérgező viselkedés jeleit, és tudatosan kell kezelniük az AI-társakkal való kapcsolatokat.
