Umetna inteligenca slači ženske brez njihove privolitve: Evropska poslanka razkrila pretresljivo izkušnjo #foto

Avstrijska evropska poslanka Lena Schilling je javno spregovorila o spolno eksplicitnih ponarejenih fotografijah, ki so jih neznanci ustvarili iz njenih resničnih posnetkov. S pomočjo umetne inteligence so njene fotografije spremenili tako, da je bila na njih navidezno gola, čeprav takšnih podob nikoli ni ustvarila ali dovolila.

Primer ni osamljen: po novi raziskavi je bilo tarča podobnih zlorab najmanj 50 evropskih poslancev, od tega kar 46 žensk. Schillingova skupaj z drugimi poslanci zahteva učinkovito ukrepanje Evropske unije proti aplikacijam, ki omogočajo takšno digitalno nasilje.

Fotografija s tiskovne konference postala orodje poniževanja

Lena Schilling, avstrijska evropska poslanka iz vrst Zelenih, je za britanski Guardian opisala izkušnjo, ki razkriva eno najbolj skrb vzbujajočih oblik zlorabe umetne inteligence. Prejšnji mesec je izvedela, da po spletu krožijo spolno eksplicitne ponarejene podobe, na katerih je upodobljena sama. Ko je odprla povezave, je prepoznala fotografije z ene svojih prvih tiskovnih konferenc, vendar so bile digitalno spremenjene tako, da so ustvarjale lažen vtis, da je brez oblačil.

Fotografije niso prikazovale resničnega dogodka. Nastale so s pomočjo tehnologije, ki omogoča spreminjanje podob in ustvarjanje prepričljivih ponaredkov. Prav v tem je nevarnost takšnih vsebin: gledalec, ki ne pozna njihovega izvora, lahko dobi napačen vtis, da gre za pristne fotografije.

Poslanka je pojasnila, da jo je zloraba posebej prizadela, ker je bila prvotna fotografija povezana s pomembnim trenutkom njene politične poti. Na tiskovno konferenco se je skrbno pripravljala, bila je nervozna in dogodek ji je veliko pomenil. Pozneje je nekdo isti posnetek uporabil za njeno poniževanje.

Schillingova je svojo izkušnjo opisala kot obliko digitalnega nasilja nad ženskami. Poudarila je, da takšni napadi niso nedolžna spletna zabava, temveč poseg v človekovo dostojanstvo in pravico do nadzora nad lastno podobo.

Tarča najmanj 50 evropskih poslancev

Primer avstrijske poslanke je del precej širšega problema. Raziskava organizacije Agora Digitale Transformation je pokazala, da so bili s spolno eksplicitnimi ponaredki tarča najmanj 50 poslancev Evropskega parlamenta. Med njimi je bilo 46 žensk, kar kaže na izrazito nesorazmerje med spoloma.

Po ugotovitvah raziskovalcev so bile političarke bistveno pogosteje tarča tovrstnih vsebin kot njihovi moški kolegi. Podatek je posebej zaskrbljujoč, ker kaže, da tehnologija ni uporabljena zgolj za naključno spreminjanje fotografij, temveč lahko postane sredstvo sistematičnega poniževanja in zastraševanja žensk v javnem življenju.

Pri takšnih ponaredkih storilci pogosto ne potrebujejo dostopa do zasebnih fotografij. Zadostuje lahko že običajen javno dostopen portret, fotografija s političnega dogodka ali objava na družbenem omrežju. Posebna programska orodja nato ustvarijo novo, neresnično podobo, ki lahko deluje prepričljivo, čeprav z resničnostjo nima nobene povezave.

To pomeni, da so potencialno izpostavljene številne ženske, ne le političarke in druge javne osebnosti. Tehnologija lahko poseže tudi v življenje učiteljic, študentk, zaposlenih ali povsem zasebnih posameznic, katerih fotografije so dostopne na spletu.

Ko ponarejena podoba postane sredstvo nadzora

Ena od najresnejših posledic takšnih zlorab je občutek izgube nadzora nad lastno podobo. Žrtev lahko fotografijo objavi v povsem običajnem kontekstu, pozneje pa odkrije, da jo je nekdo uporabil za ustvarjanje spolno eksplicitne vsebine brez njene vednosti in privolitve.

Čeprav je podoba lažna, so lahko posledice resnične. Žrtev se lahko sooči s poniževanjem, nadlegovanjem, grožnjami ali strahom pred nadaljnjim širjenjem posnetkov. Posebej problematično je, da se takšne vsebine lahko hitro razširijo po različnih spletnih platformah, njihovo popolno odstranjevanje pa je lahko zelo zahtevno.

Schillingova opozarja tudi na širši družbeni učinek. Če morajo ženske pred vstopom v politiko računati na možnost, da bodo njihove fotografije uporabljene za spolno poniževanje, lahko to nekatere odvrne od javnega delovanja. Digitalno nasilje tako ne prizadene le posameznice, temveč lahko vpliva tudi na enakopravno sodelovanje žensk v demokratičnem življenju.

Zato evropska poslanka poudarja, da vprašanje ni zgolj tehnološko. Gre tudi za varstvo osebnostnih pravic, dostojanstva, enakosti in politične svobode.

Zahteva po evropski prepovedi, ki bo dejansko delovala

Schillingova je skupaj z nemško evropsko poslanko Terry Reintke pripravila pobudo, ki jo je podpisalo 119 evropskih poslancev. V njej pozivajo Evropsko unijo, naj zagotovi učinkovito izvajanje prihajajoče prepovedi aplikacij in spletnih storitev, ki z umetno inteligenco ustvarjajo lažne gole podobe ljudi.

Po poročanju Guardiana naj bi prepoved začela veljati 2. decembra. Podpisniki opozarjajo, da sama zakonska prepoved ne bo zadostovala, če pristojni organi ne bodo imeli učinkovitih možnosti za njeno izvajanje.

Težava je namreč v tem, da lahko ponudniki spornih storitev poskušajo obiti pravila s spremembami delovanja, selitvijo na druge spletne naslove ali uporabo drugačnih tehničnih rešitev. Zato poslanci zahtevajo ukrepe, ki bodo preprečili, da bi takšne aplikacije še naprej ostajale dostopne uporabnikom v Evropski uniji.

Pobuda se osredotoča predvsem na orodja, ki omogočajo navidezno odstranjevanje oblačil z običajnih fotografij. Gre za posebno kategorijo generativnih sistemov, pri katerih je tveganje za zlorabo očitno, saj lahko uporabnik ustvari spolno eksplicitno podobo resnične osebe, ne da bi ta pri tem kakor koli sodelovala.

Problem presega politiko in znane osebnosti

Čeprav je primer Lene Schilling povezan z Evropskim parlamentom, opozarja na nevarnost, ki lahko prizadene praktično vsakogar. Širjenje zmogljivih orodij umetne inteligence pomeni, da je ustvarjanje prepričljivih ponaredkov vse lažje, pogosto pa zanj ni potrebno posebno tehnično znanje.

Pomembno je razlikovati med običajno računalniško obdelavo fotografij in ustvarjanjem lažnih intimnih podob brez privolitve. Pri slednjem ne gre za nedolžno spreminjanje videza, temveč za uporabo identitete druge osebe v spolnem kontekstu, ki ga ni odobrila.

Žrtve lahko zaradi takšnih vsebin občutijo resne posledice v zasebnem, poklicnem in družbenem življenju. Tudi če je ponaredek pozneje razkrit, to ne pomeni, da je škoda odpravljena. Posnetki lahko ostanejo shranjeni, se ponovno pojavijo ali jih drugi uporabniki širijo brez pojasnila, da so umetno ustvarjeni.

Prav zato je pomembno, da se odgovornost ne prelaga na žrtve z nasveti, naj ne objavljajo svojih fotografij. Fotografiranje in javno nastopanje nista privolitev v spolno zlorabo lastne podobe.

Evropski preizkus zaščite dostojanstva v digitalnem svetu

Razprava o prepovedi tovrstnih aplikacij odpira širše vprašanje, kako hitro lahko zakonodaja sledi razvoju umetne inteligence. Tehnologija, ki ima številne koristne uporabe, lahko ob pomanjkljivem nadzoru postane tudi učinkovito sredstvo nadlegovanja in poniževanja.

Evropski poslanci zato zahtevajo, da nova pravila ne ostanejo zgolj deklarativna. Učinkovita zaščita bo odvisna od tega, ali bodo pristojni organi lahko ukrepali proti ponudnikom spornih storitev in preprečevali njihovo nadaljnje delovanje.

Primer Lene Schilling je opozorilo, da lažna fotografija še zdaleč ne pomeni lažne škode. Podoba je lahko ustvarjena z umetno inteligenco, občutek ponižanja in izgube nadzora pa je povsem resničen. Prav zato bo odločilno, ali bo Evropa znala zaščititi ljudi pred tehnologijo, ki lahko brez njihove privolitve poseže v najbolj intimne vidike njihove identitete.