Akcija Forbesa: nad pornografske ponaredke slavnih

Na spletnih straneh Etsyja lahko vsak kupi majice s podobo Olivie Munn in fotografije z njenim podpisom. Na voljo so tudi skodelice za oboževalce Olivie Munn, ki jih je mogoče personalizirati z določenimi napisi.

Do pred kratkim pa je bilo mogoče kupiti tudi video ponaredke, ustvarjene z umetno inteligenco (UI). Nekaj fotografij je bilo tudi pornografskih.

“Z ločljivostjo 300 DPI vse Olivijine podrobnosti zaživijo, zato so fotografije idealne za ustvarjanje digitalne umetnosti in za tisk. Olivia slavi eleganco ženskih oblin na okusen in umetniški način, zato so te podobe primerne za različne ustvarjalne upodobitve,” je pisalo v opisu ene od podob, ki je bila naprodaj za 2,49 dolarja (okoli 2,25 evra).

Za umik ponaredkov potrebovali šest dni

Brian Sullivan, odvetnik Olivie Munn, ki je nastopila v seriji Uredništvo in več filmih o superjunakih, je dejal, da so njegovo klientko te fotografije “prizadele in užalile”.

“To je nezaslišano in gre za kršitev pravic moje klientke, še hujše pa so kršitve njenega dostojanstva,” je dejal za Forbes. “Naredili bomo vse, da se te podobe umaknejo, in preprečili, da bi se to ponovilo. Postopek z Etsyjem smo že začeli.”

Čeprav je Sullivan dejal, da je potem, ko so v stik z njim stopili ljudje iz Forbesa, že 13. decembra takoj obvestil Etsy, pa je e-trgovina podobe odstranila šele šest dni pozneje, ko so iz Forbesa neposredno stopili v stik z njimi.

Drugi prodajalci so ponujali podobne pakete za nekoliko višjo ceno (5,51 dolarja oziroma okoli 4,98 evra), pri tem pa so si privoščili tudi malce ustvarjalne svobode: “Jenna Ortega se je ravnokar oprhala. Obrito mednožje, velikanske prsi.”

Nek drug prodajalec je ponujal izdelavo podobe “katerekoli slavne osebe v različnih položajih, bodisi gole, med seksom ali pa preprosto samo v perilu” za nizko ceno 0,92 dolarja (okoli 0,83 evra).

Etsy je odstranil profile 16 prodajalcev, ki jih je identificiral Forbes, na straneh pa je še vedno več tisoč ponudb, ki vsebujejo pornografijo, ustvarjeno s pomočjo UI. Podobe je mogoče najti že z najbolj osnovnimi iskalnimi pojmi.

Etsy je odstranil profile 16 prodajalcev, na straneh pa je še vedno več tisoč ponudb, ki vsebujejo pornografijo, ustvarjeno s pomočjo umetne inteligence.

Ukrepajo, ko kdo opozori

“Smo globoko predani varnosti naše spletne trgovine in naše skupnosti, zato odstranjujemo produkte, ki kršijo pravila, takoj ko nas nekdo opozori nanje,” je v elektronskem odgovoru Forbesu zapisala Alice Wu, ki pri Etsyju skrbi za varnost in zaupanje. “Ponaredki golih podob slavnih oseb so prepovedani. Ker gre za čedalje bolj razširjeno problematiko na spletu, aktivno krepimo naša prizadevanja na tem področju.”

Podjetje, ki kotira na borzi in ki je s pospeševanjem prodaje okraskov in obrtniških izdelkov doseglo tržno vrednost skoraj deset milijard dolarjev (dobrih devet milijard evrov), ima težave s pornografskimi ponaredki, ki jih spodbuja široka dostopnost umetne inteligence.

V podjetju niso pojasnili, kakšno politiko imajo do podob, ustvarjenih z UI, ko gre za ljudi, ki niso slavni, prav tako pa niso pojasnili, zakaj je na njihovih straneh toliko umetno ustvarjenih pornografskih podob.

“Etsy dovoljuje nekaj vsebine za odrasle, pornografija pa je prepovedana,” je še zapisala Wu.

Kljub tem navedbam pa je iskanje ponaredkov pornografije 18. decembra dalo več kot 1.600 zadetkov. Nekateri od teh zadetkov niso pornografski, saj zgolj ponujajo neeksplicitne storitve, da lahko nekdo “sam izdela svoj ponarejen video”.

Po posredovanju Forbesa

Potem ko je Forbes stopil v stik z Etsyjem, je število rezultatov iskanja padlo pod 1.500. Podobne rezultate je prineslo iskanje “ai nude”, torej golih podob, ustvarjenih z umetno inteligenco. 18. decembra je bilo zadetkov več kot 4.000, po Forbesovem posredovanju je število padlo pod 3.700.

Nekatere od teh podob, ustvarjenih z UI, so bili ponaredki zvezdnic – od Olivie Munn do Jenne Ortega, Ariane Grande in drugih. Druge podobe pa so bile popolnoma umetno ustvarjene osebe, večinoma je šlo za ženske. (Predstavniki Ortege in Grande niso odgovorili na naše prošnje za komentar.)

Ponudbe na spletni strani so bile povsem nedvoumne. “Gre za 40 visokokakovostnih necenzuriranih slik v formatu JPG, na njih pa so različne čudovite povsem gole mlade ženske, ustvarjene z UI, v različnih položajih in na različnih lokacijah. Ne gre za dvojnike drugih prodajanih paketov,” je eden od opisov.

Prepovedi s figo v žepu

Čeprav Etsyjeva pravila o tem, kateri produkti so pri njih prepovedani, govorijo tudi o prepovedi pornografije, definirane kot “material, ki eksplicitno opisuje ali prikazuje spolni akt, spolne organe ali drugo erotično vedenje, namenjeno spolnemu vzburjenju ali stimulaciji”, je na njihovih straneh tega v izobilju.

Najbolj preprosta iskalna gesla, kot recimo “AI porn” namreč vrnejo eksplicitne podobe, tudi umetno ustvarjene zbirke “gotskih cip”, “porednih medicinskih sester” in “zimskega razkazovanja”, pa tudi okrasno blazino s podobami oralnega seksa.

Najbolj preprosta iskalna gesla, kot recimo “AI porn”, vrnejo eksplicitne podobe, tudi umetno ustvarjene zbirke denimo “porednih medicinskih sester”.

Etsyjevi algoritmi za priporočila pa uporabnike usmerjajo k podobnim slikam. Na dnu strani, ki je zdaj izbrisana, ponujala pa je ponaredke Olivie Munn, so bile povezave k drugim erotičnim umetno ustvarjenim podobam zvezdnic, ki jih je ponujal isti prodajalec in priporočila, naj uporabniki posežejo po podobnih iskalnih izrazih, recimo “nsfw ai art” in “olivia munn nude”, torej naj iščejo umetno ustvarjene pornografske podobe in gole slike Olivie Munn.

Etsy bilahko bolje filtriral sporne vsebine

Kot pravi Hany Farid, profesor računalniških znanosti na Berkeleyju in strokovnjak za generativne tehnologije UI, ni prav nobene tehnične ovire, da Etsy ne bi bolje filtriral teh vsebin. Uporaba istega iskalnega izraza (“deepfake porn” oziroma pornografski ponaredki) v drugih e-trgovinah, kot sta Amazon in eBay, ne vrne podobnih pornografskih globokih ponaredkov.

Uradno naj bi Etsy imel ločnico med golimi podobami, ki jih dovoljuje, in med pornografijo, ki je ne. Etsy se pri tem drži splošne zakonske definicije tega žanra in prepoveduje podobe spolnih organov ali spolnih dejanj, “ki naj bi bile namenjene vzburjanju”.

Prav nobene tehnične ovire ni, da Etsy ne bi bolje filtriral spornih vsebin.

Hany Farid, Berkeley

“Še vedno ugotavljamo, kam umestiti produkte, ustvarjene z UI, ki jih ponujamo. Produkte, ustvarjene z UI, ki bodo kršili naša dolgo znana pravila, pa bomo odstranili,” je v izjavi zapisala Wu.

Dodala je, da so prodajalci dolžni spoštovati politiko ponudnika, ob tem pa Etsy “tako ročno kot s samodejnimi protokoli” nadzoruje vsebino ponudbe. Wu ni hotela pojasniti, kakšne so posledice, pojasnila pa ni niti tega, zakaj ob vseh teh pravilih preprosto iskanje s ključem “AI porn” še naprej prinaša pornografske ponaredke znanih filmskih igralk.

Neslutene razsežnosti pornografskih ponaredkov

V zadnjih letih so pornografski ponaredki, ki v veliko večji meri prizadenejo ženske, postali veliko bolj prefinjeni, laže jih je ustvariti, količina pa je po ocenah strokovnjakov dosegla neslutene razsežnosti.

Zlahka dostopna programska oprema lahko praktično katerokoli fotografijo spremeni v pornografsko, pogosto s skoraj resničnimi podrobnostmi. Spletne strani, ki s fotografij resničnih žensk s pomočjo UI odstranijo oblačila, vsakomur omogočajo praktično neomejeno izdelavo pornografskih fotografij v nekaj sekundah.

“Na klinčevem Etsyju!” je Farid dejal za Forbes. “Ne zatiskajmo si oči. Tako vemo, kako zelo se je vse to razširilo. Znašlo se je na Etsyju.”

Podjetje Etsy so ustanovili leta 2005, na borzo pa je šlo leta 2015. Leta 2022 je podjetje ustvarilo 643 milijonov dolarjev dobička (okoli 582 milijonov evrov), leto pred tem pa 627 milijonov dolarjev (okoli 567 milijonov evrov). V začetku decembra so odpustili 11 odstotkov zaposlenih. Podjetje ima težave tudi zaradi poplave drugih produktov, ustvarjenih s pomočjo UI, kot so recimo bizarne pobarvanke in kopica cenenih skodelic z zbadljivimi napisi, je v začetku leta poročal The Atlantic.

Po navedbah enega od prodajalcev, ki na Etsyju ponuja pornografske ponaredke zvezdnic, te podobe niso “posebej priljubljene”, ker lahko “danes že vsak ustvarja eksplicitne ponaredke z UI”. Drugi prodajalci se na naša vprašanja niso odzvali.

V ZDA prepovedi bolj prepuščene platformam kot zakonodaji

Rebecca Delfino, profesorica prava na losangeleški univerzi Loyola Marmount, se že več let ukvarja s prepletom ponaredkov in prava, za Forbes pa je povedala, da v ZDA ni zveznega zakona, ki bi ščitil dejanske žrtve teh ponaredkov, ima pa takšno zakonodajo nekaj zveznih držav.

“Ko določene reči prodajaš in jih množično tržiš, moraš upoštevati veliko avtorskih pravic, od prisvojitve podobe do razžalitve in prikazovanja v lažni luči. Nekatere države, kot sta Kalifornija in New York, omogočata pravne ukrepe,” je dejala in omenila državi, kjer je veliko teh slavnih osebnosti.

Delfino je dejala, da bi morali odvetniki teh slavnih osebnosti Etsyju poslati odlok o prepovedi, da bi zaščitili svoje stranke.

Dodala je, da do danes ni bilo velikih primerov, ki bi se nanašali na kršitve zakonov posameznih držav, ko gre za ponaredke. Na zveznem sodišču v Los Angelesu pa trenutno poteka proces, povezan z nepornografskimi ponaredki.

Ker so pravna sredstva omejena, potrebnega pa je tudi veliko časa in denarja, da bi jih uveljavili, so za obvladovanje širjenja pornografskih ponaredkov v veliki meri odgovorne tehnološke platforme, ki jih gostijo in omogočajo dostop do njih, pa naj gre za Etsy ali pa za Google, ki omogoča enostavno iskanje drugih spletnih mest, na katerih so objavljeni pornografski globoki ponaredki.

“Mislim, da se to ne bo uredilo s pismi in z odvetniki,” je rekel Farid. “To je internet, človek. Moraš pomisliti, kje zadevo zaustaviti.”

Avtor članka je Cyrus Farivar.