Egy AI-os plüssmackó nem várt beszélgetésekbe keveredett. Az explicit tartalmak és a kutatók aggodalmaskodása miatt a gyártó letiltotta a játéka forgalmazását és belső vizsgálatot indított.

A gyerekjáték viszonylag egyszerűen megengedett magának BDSM-témákat, és ha ez önmagában nem lenne elég váratlan egy plüssállattól, az még arról is szívesen elcsevegett, hogy otthon hol találunk a legnagyobb eséllyel késeket és gyufát.

Oké, valószínűleg abban a családban sincs minden rendben, ahol egy gyerek a szadomazo szex témáját feszegeti a játékába épített AI-modellel, de mégis jobb, ha a maci erre eleve nem képes, ugye?

Ezt a lécet nem tudta megugrani a FoloToy gyártó „Kumma” nevű plüssmackója, amelynek az árusítását fel is függesztették, amint megbukott a PIRG Education Fund vizsgálatán.

A szervezet kutatói olyan beszélgetésekre vette rá a gyerekjátékot, amelyekben az szexuális fétiseket említett, például a fenekelést, valamint azt, hogyan kell meggyújtani egy gyufát. Az explicit témák és veszélyes tanácsok miatt nem csak a Kumma ugrott a polcokról.

Larry Wang, a szingapúri gyártó vezérigazgatója a CNN-nek azt mondta, az AI-maci mellett az összes többi hasonló funkcióval rendelkező játékot is leveszik a polcról. Érdekes állítás, mert a Kumma mellett egy panda, egy napraforgó, egy polip és egy kaktusz is ott van a webshopban.

A vállalat amúgy 99 dollárért (kb. 33 ezer forintért) árulta a plüssmackót, amely hangszórót tartalmaz és az OpenAI GPT-4o chatbotját integrálja.

A weboldal szerint a játék „a pezsgő beszélgetésektől az oktató jellegű történetmesélésig alkalmazkodik a személyiségedhez és az igényeidhez, melegséget, szórakozást és egy kis kíváncsiságot hozva a napodba”.

Hosszan tesztelték az AI-macit

A PIRG riportja szerint a Kumma gyenge védelmet adott a nem megfelelő tartalmak ellen: a játék egyes beszélgetésekben azt is megmondta, hol lehet késeket találni a lakásban, és több alkalommal szexuálisan explicit témákról beszélt.

„Meglepett minket, hogy a Kumma milyen gyorsan felkapta azt az egyetlen szexuális témát, amit bedobtunk a beszélgetésbe, és hogy tovább is vitte: egyre részletesebben írt le dolgokat, miközben új szexuális fogalmakat hozott be a saját maga kezdeményezésére” – közölte a PIRG.

A játék később „még részletesebb, grafikus szexuális témákról is beszélt, például elmagyarázta különböző szexpozíciók működését, lépésről lépésre útmutatást adott egy kezdőknek szánt ’alapcsomóhoz’ egy partner megkötözéséhez, valamint leírta a tanár–diák és a szülő–gyermek szerepjátékok”.

A jelentés társszerzője, R.J. Cross értékelte, hogy a forgalmazó mentegetőzés helyett azonnal reagált a – nyilvánvalóan nem szándékos – hibára.

„Jó látni, hogy ezek a cégek lépéseket tesznek az általunk jelzett problémák ügyében. De az AI-játékok gyakorlatilag szabályozatlanok, és még mindig rengeteget lehet kapni. Egy problémás termék eltávolítása a piacról jó lépés, de messze van a rendszerszintű megoldástól.”

A címlapkép illusztráció. Fotó: Oxana Lyashenko / Unsplash

Felmérés: Az emberek többsége tényleg fél a mesterséges intelligenciától