»Jaz sem Giorgia Meloni«: premierka želi zaščititi svoj glas pred umetno inteligenco

Štiri sekunde, štiri besede in nenavadna pravna bitka z umetno inteligenco. Italijanska premierka Giorgia Meloni je pri Uradu Evropske unije za intelektualno lastnino vložila zahtevo za registracijo svojega glasu kot zvočne znamke. Prijavi je priložila kratek posnetek, na katerem dvakrat izgovori: »Io sono Giorgia Meloni« oziroma »Jaz sem Giorgia Meloni.«

V ozadju poteze je problem, ki postaja vse resnejši tudi v politiki: umetna inteligenca danes potrebuje le nekaj sekund pristnega posnetka, da lahko ustvari prepričljiv klon človekovega glasu in mu položi v usta besede, ki jih nikoli ni izrekel. Melonijeva želi zato svojemu glasu dodati še eno plast pravne zaščite. Toda tudi če bo njena prijava odobrena, umetne inteligence s tem ne bo mogoče preprosto utišati.

Italijanski časnik La Repubblica je prvi razkril, da se je predsednica italijanske vlade obrnila na EUIPO – Urad Evropske unije za intelektualno lastnino. Prijava je bila vložena 5. oktobra, po podatkih agencije Ansa pa jo je v njenem imenu vložila ekipa, ki vključuje rimsko pravno pisarno in podjetje, specializirano za zaščito intelektualne lastnine. V evidenci EUIPO je bila v ponedeljek prijava še vedno označena kot »under examination« oziroma v postopku preizkusa, kar pomeni, da Melonijeva svojega glasu še nima registriranega kot dokončno priznano zvočno znamko.

Štiri sekunde, ki naj bi dokazovale: to je res Giorgia

Posnetek, priložen prijavi, je dolg približno štiri sekunde. Melonijeva na njem dvakrat izgovori svoje ime: »Io sono Giorgia Meloni.« Izbira besed skoraj zagotovo ni naključna, saj spominja na enega najbolj prepoznavnih trenutkov njene politične kariere. Leta 2019 je v govoru v Rimu izrekla stavek

»Io sono Giorgia, sono una donna, sono una madre, sono italiana, sono cristiana« – »Sem Giorgia, sem ženska, sem mati, sem Italijanka, sem kristjanka.«

Posnetek je nato zaživel povsem svoje življenje, bil remiksan v glasbo, uporabljen v memih in postal eden najbolj prepoznavnih zvočnih podpisov italijanske političarke.

Zdaj želi Melonijeva prav glas, ki je bil v preteklosti neštetokrat vzorčen, predelan in posneman, zaščititi pred bistveno naprednejšo tehnologijo. Današnji sistemi generativne umetne inteligence lahko iz razmeroma kratkega vzorca izdelajo sintetični glas, ki posnema barvo, naglas, ritem in način govora resnične osebe. Rezultat je lahko posnetek, na katerem javna oseba navidezno izreče nekaj, česar v resnici nikoli ni povedala. La Repubblica ob tem opozarja, da so storitve za izdelovanje lažnih glasovnih sporočil postale poceni in široko dostopne.

Toda ali je človek sploh lahko lastnik svojega glasu?

Tu postane zgodba pravno precej zanimivejša. Melonijeva namreč ne more preprosto registrirati svojega glasu tako, da ga od tega trenutka naprej nihče več ne bi smel posnemati. Znamka ne postavlja pod pravno ključavnico vsega, kar človek izgovori, niti ne pomeni lastništva nad celotnim zvočnim timbrom neke osebe. Zaščiten je določen zvočni znak v povezavi z blagom oziroma storitvami, navedenimi v prijavi.

Po podatkih Anse je Melonijeva registracijo zahtevala za tri skupine storitev, ki med drugim vključujejo prenosljive multimedijske vsebine, kulturne dejavnosti in organizacijo političnih prireditev. Če bo EUIPO prijavo sprejel, bi lahko takšna znamka Melonijevi dala dodatno pravno podlago za ukrepanje ob določenih nepooblaščenih komercialnih oziroma javnih uporabah njenega zvočnega znaka.

To pa ne pomeni, da bi registracija čudežno preprečila izdelavo deepfake posnetkov. Programska oprema bo njen glas še vedno tehnično sposobna klonirati, prav tako ne bo avtomatično nezakonita vsaka parodija, imitacija ali posnetek z glasom, ki ji je podoben. Znamka bi ji predvsem dala še eno pravno orodje, s katerim bi lahko v določenih okoliščinah zahtevala odstranitev oziroma ukrepala proti zlorabi.

Deepfake lahko politikom položi v usta skoraj karkoli

Prav pri politikih je problem sintetičnih glasov še posebej občutljiv. Predstavljajmo si zvočni posnetek, ki se nekaj ur pred volitvami razširi po družbenih omrežjih in na katerem predsednik vlade navidezno napove odstop, prizna kaznivo dejanje, žali določeno skupino prebivalstva ali govori o dogodku, ki se nikoli ni zgodil. Če je ponaredek dovolj prepričljiv in se razširi dovolj hitro, lahko popravek pride šele potem, ko je posnetek videlo ali slišalo več milijonov ljudi.

Melonijeva se je s ponarejenimi vsebinami že srečala. V preteklosti so se na spletu pojavile deepfake pornografske vsebine z njeno podobo, zaradi katerih je sprožila pravni postopek. AP poroča, da je v enem od primerov zahtevala 100.000 evrov odškodnine. V Italiji so se pojavljali tudi drugi ponarejeni oziroma manipulirani posnetki premierke, zaradi česar je sama večkrat opozarjala na težave pri razlikovanju med pristnimi in umetno ustvarjenimi vsebinami.

Melonijeva ni prva – pred politiki so se zganili zvezdniki

Zanimivo je, da ideja o zaščiti glasu kot znamke ni nastala v politiki. Pred Melonijevo se je za podobno potezo odločila italijanska pevka Giusy Ferreri, ki je znana po izrazito prepoznavni barvi glasu. La Repubblica navaja tudi italijanskega igralca in sinhronizatorja Luca Warda, enega najbolj prepoznavnih glasov italijanske filmske sinhronizacije.

Širše pa se z vprašanjem zaščite glasu in digitalne podobe ukvarja vedno več svetovno znanih osebnosti. AP med drugim izpostavlja Taylor Swift, Scarlett Johansson in Matthewa McConaugheyja, ki so se na različne načine odzivali na uporabo oziroma potencialno zlorabo svojih podob in glasov z umetno inteligenco. Razlog je precej preprost: glas, obraz in način govora so bili nekoč značilnosti, ki jih je bilo težko prepričljivo ponarediti, generativna umetna inteligenca pa je to oviro v nekaj letih močno zmanjšala.

Staro pravo lovi tehnologijo, ki se spreminja iz meseca v mesec

Melonijina poteza zato odpira precej širše vprašanje: kako zaščititi človekovo identiteto v času, ko jo je mogoče digitalno kopirati? Tradicionalno pravo intelektualne lastnine je bilo oblikovano predvsem za zaščito znamk, avtorskih del, patentov in drugih jasno opredeljivih stvaritev. Generativna umetna inteligenca pa je ustvarila položaj, v katerem je mogoče reproducirati nekaj veliko bolj osebnega – obraz, glas, mimiko in način izražanja konkretnega človeka.

Zvočna znamka je pri tem zanimiva, vendar nepopolna rešitev. Njena glavna prednost je, da lahko lastniku ponudi dodatno pravno podlago za ukrepanje, zlasti kadar je ponarejeni glas uporabljen na način, ki posega na področja, za katera je znamka registrirana.

Ne more pa preprečiti nastanka ponaredka in tudi ne more zagotoviti, da se deepfake ne bo v nekaj minutah razširil po družbenih omrežjih. Prav hitrost širjenja je ena največjih težav umetno ustvarjenih dezinformacij.

Ko »Jaz sem Giorgia« postane vprašanje pristnosti

Pri Melonijevi ima celotna zgodba skoraj simboličen zaključek. Besede »Io sono Giorgia« so bile leta del njene politične identitete. Najprej govor, nato slogan, meme, glasbeni remiks in naslov avtobiografije. Zdaj se ista ideja vrača v povsem drugačnem času – času, ko posnetek glasu ni več nujno dokaz, da je človek nekaj res izrekel.

Če bo EUIPO njeno prijavo odobril, Melonijeva s tem ne bo dobila čarobnega ščita pred deepfaki. Dobila pa bo še eno pravno sredstvo za dokazovanje in preprečevanje določenih oblik nepooblaščene uporabe svojega zvočnega znaka. In prav v tem je zanimiv paradoks štirisekundnega posnetka: nekoč je bilo dovolj slišati prepoznaven glas, da smo verjeli, kdo govori.

V dobi umetne inteligence pa tudi stavek »Jaz sem Giorgia Meloni« sam po sebi ni več dokaz, da ga je res izrekla Giorgia Meloni.

Spletno uredništvo Goriške novice