A hír óriási port kavart, a Meta pedig bejelentette, hogy ideiglenes intézkedéseket vezet be a kiskorú felhasználók védelme érdekében.
A Meta eszközével több tucat flörtölő hírességről mintázott chatbotot hoztak létre. Olyan sztárokról készült tartalom, mint Taylor Swift, Scarlett Johansson, Anne Hathaway vagy Selena Gomez. De a még csak 16 éves Walker Scobellről is realisztikus félmeztelen kép született. A tartalmakat különböző eseményeken készült fotók alapján generálták. A Meta eszközével a felhasználók hozták létre a hírességek mását, de hírek szerint a cég egyik alkalmazottja is készített ilyeneket. Volt, ahol fürdőkádban vagy fehérneműben, széttárt lábbal ábrázolták a sztárokat.
Az avatárok gyakran állították, hogy ők a valódi előadók vagy színészek. Többször szexuálisan közeledtek a felhasználókhoz, illetve találkozóra is hívták őket. A tartalmak a hírességek beleegyezése nélkül születtek.
A Meta szóvivője korábban azt nyilatkozta, szerintük mindaddig nem követnek el hibát azzal, hogy hírességekről mintázták a tartalmakat, amíg azok paródiának vannak jelölve. De azt elismerte, hogy kiskorúakról nem készülhettek volna ilyen jellegű fotók. Azt mondták, egy hiba állt a háttérben.
A friss hírek szerint a Meta ideiglenes biztonsági változtatásokat vezet be annak érdekében, hogy a vállalat chatbotjai ne okozzanak további károkat tizenéves felhasználóknak. A Meta szóvivője elmondta, hogy átképezték a chatbotokat. Ezek alapján az AI-eszközök kiskorúak esetében nem foglalkozhatnak önkárosítással, öngyilkossággal, rendellenes táplálkozással kapcsolatos témákkal, illetve kerülniük kell a nem megfelelő romantikus közeledést is. Korábban a chatrobotok egyes esetekben szóba hozhattak ilyen témákat. Azt ígérték, a jövőben a tizenévesek az AI-karakterek csak egy bizonyos csoportját használhatják majd, amelyek az oktatást és a kreativitást segítik elő.
Az eset következtében mintegy 44 főügyészből álló csoport levelet küldött a mesterséges intelligenciával foglalkozó vezető vállalatoknak, köztük a Metának is. Ebben erősebb védelmet követeltek a kiskorúak számára, akik esetleg szexualizált mesterségesintelligencia-tartalmakkal találkozhatnak.
Az incidensek rávilágítottak, hogy az AI-fejlesztők nem képesek mindent előre átgondolni a jelenlegi szemlélet és módszerek mellett, ezért változások várhatók.
- Szigorúbb tartalmi korlátozások– A fejlesztőknek olyan protokollokat kell beépíteniük, amelyek kizárják az AI-val való érzékeny, romantikus vagy szexualizált interakciókat, különösen kiskorúakkal szemben. A Meta például kikényszeríti, hogy az AI ne tárgyaljon önkárosításról, öngyilkosságról, evészavarokról, valamint ne flörtöljön vagy kezdeményezzen romantikus dialógust fiatalkorúakkal.
- Korlátozott hozzáférés fiatalok számára – A chatbotok csak szűkebb, oktatási vagy kreatív jellegű funkciókat kapnak, a szórakoztató vagy személyes karakterek interakciója fiataloknál szigorúan tiltott vagy szabályozott lesz.
- Automatikus átirányítás szakforrásokhoz – Amikor érzékeny témát (például mentális egészség) érint a beszélgetés, az AI automatikusan külső, szakértői forrásokra irányítja a felhasználót.
- Szabályzat és auditálás – A fejlesztőknek auditálniuk kell a chatbotok viselkedését, átláthatóbb, rendszeresen frissített belső szabályzatokat kell bevezetniük, mivel a Reuters által feltárt példák alapján a korábbi szabályozás kockázatos volt.
Ez a botrány még időben riadóztatta a közvéleményt, a fejlesztőket, a felhasználókat és a törvényalkotókat is, ami felgyorsítja az AI-chatbotokat érintő szigorúbb technikai és jogi szabályozás bevezetését, főleg a személyiségi jogokat és gyermekvédelmet érintő területen.
Forrás: Blikk (https://www.blikk.hu/ferfiaknak/tech/meta-chatbot-flortolo-hiressegek-szigoritas-reszveny/yflchch?ms_4)