2024.11.22. – A hiúság vezérelte, öncélú oldalak alkotóiért nem sokan fognak könnyet hullajtani, az erotikán túlmutató, normális tartalmak gyártóit pedig, akik mondanivalóval készítenek videókat és fotókat, aligha hátráltatja majd a generatív AI. Ettől függetlenül érthető, ha egyre több influenszer esik pánikba a csökkenő bevételek láttán, mert nem tudni, hol a spirál alja:

csődbe viheti őket a mesterséges intelligencia – pontosabban inkább azok, akik etikátlan módon, kép- és videóhamisításra használják.

A 404media elemző cikke rámutat: olyan óriási méreteket ölt a deepfake, hogy idővel akár meg is valósulhat a népszerű összeesküvés-elmélet, a halott internet, ami azt jelenti, hogy már szinte csak botok néznek majd gépek által generált tartalmakat.

Lopják az influenszerek testét

A cikk összehasonlító fotók segítségével demonstrálja, mi itt a baj: az, hogy vannak fiókok (egyre több), amelyek mesterséges intelligencia által generált „influenszerek” és „digitális modellek” oldalai, de a rajtuk lévő tartalom valós emberek – például modellek és erotikus tartalomgyártók – népszerű képeinek és videóinak AI-val hamisított változatai. Ezeken például arcot cserélnek, vagy épp ellenkezőleg: az ismert modell arca kerül mások testére, majd az így manipulált kontenteket arra használják, hogy előfizetéses profilokat reklámozzanak az OnlyFans-hez hasonló platformokon.

Ezek az AI-modellek gyakran több százezer Instagram-követőt gyűjtenek, szinte kizárólag lopott és manipulált tartalmakkal.

A probléma méretét jól példázza az „Adrianna Avellino” néven futó AI-modell Instagram-fiókja, amelynek már 94 ezer követője van. Adrianna oldala egy Fanvue-profilra mutat (ez egy OnlyFans alternatíva), ahol havi öt dollárért lehet előfizetni a „digitális alkotó” tartalmaira. Bár az Instagramon található fotók egy része egyértelműen mesterséges intelligenciával készült, a profilon több tucat olyan videó is található, amelyeken valós nők szerepelnek, csak éppen Adrianna AI-generált arcával.

A deepfake terjedése gyászos jövőképet mutat

Bár a legtöbben aligha fognak könnyeket hullajtani a magamutogatásból, a saját hiúságuk legyezgetésével pénzt kereső influenszerek sorsáért („keressetek rendes munkát!”), az mégis nagyon igazságtalan, hogy az általuk létrehozott anyagok meghamisításával, végeredményben nettó csalók keresnek pénzt, alaposan rontva a hús-vér emberek által létrehozott oldalak forgalmát és bevételét. Vannak olyan modellek, akik idén már csak a töredékét érték el annak a bevételnek, amit tavaly sikerült összehozniuk, mert az igazi tartalmaik deepfake (ezáltal olcsóbban is hozzáférhető) verzió elviszik az előfizetőiket.

Ez az etikai és jogi szempontból is vitatható gyakorlat új szintre emeli a digitális visszaéléseket.

A mesterséges intelligencia segítségével létrehozott modellek nemcsak a valós emberek munkáját árnyékolják be, hanem az érintett videók eredeti alanyainak magánéletét is megsértik, hiszen az engedélyük nélkül használják fel a testüket, arcukat és például mozgásukat. Az ilyen gyakorlatok sürgős szabályozást és nagyobb platformfelelősséget követelnek, különösen a közösségi média világában – állapítja meg a cikk, amelynek szerzője egyébként a Metát is megkereste, hogy reagáljon a hamis fiókokra, de válasz helyett csak annyit ért el, hogy az Instagramról eltűntek az e-mailben megjelölt deepfake oldalak. Ez sajnos nem azt jelzi, hogy a Meta rendszer szinten fel kíván lépni az etikátlan gyakorlat ellen, csak eltussol.

A címlapképen „YourSophieSky” OnlyFans modell valódi (balra) és hamisított arca látható. Forrás: 404media

Gábor János

Ezt is olvasd el:

Azt hiszed sok a streaming? Kínában 150 YouTube van és mindenki nézi