Meta v središču škandala: Tajni testi z lažnimi profili

Podjetje Meta je tarča kritik zaradi trditev, da je v okviru skrivnega projekta najelo več sto pogodbenih delavcev, ki so se na spletu predstavljali kot otroci in najstniki. Njihova naloga je bila preizkušati varnostne mehanizme klepetalnih robotov konkurenčnih podjetij z uporabo izjemno občutljivih vprašanj.

Po poročanju ameriške revije Wired, ki se sklicuje na interne dokumente in pričevanja sodelujočih, naj bi bil projekt interno imenovan Cannes, izvajalo pa naj bi ga podjetje Covalen.

Preizkušanje meja varnosti klepetalnih robotov

Sodelavci so ustvarjali lažne uporabniške račune mladoletnikov in prek njih pošiljali vprašanja klepetalnim robotom, kot so ChatGPT, Gemini in Character.AI. Cilj projekta naj bi bil preveriti, ali je mogoče te modele pripraviti do odgovorov, ki bi obšli njihove varnostne omejitve. Ena od preglednic je vsebovala skoraj 38.000 vprašanj, ki so se osredotočala na teme, kot so samomor, samopoškodovanje, motnje hranjenja, spolnost, nasilje in uporaba drog. V nekaterih primerih so sodelavci pošiljali tudi fotografije tablet, nožev, zank in drugih nazornih vsebin.

Odklon od običajnih industrijskih praks

V kasnejši fazi testiranja je bilo postavljenih še več kot 45.000 vprašanj, pri čemer so sodelavci natančno beležili odzive posameznih modelov. Kaj natančno je Meta naredila z zbranimi podatki, ni znano. Interni dokumenti opisujejo projekt kot obsežno primerjalno testiranje varnosti modelov umetne inteligence. Nekateri pogodbeni sodelavci so dejali, da jih je delo močno pretreslo. Eden izmed njih je izjavil, da je naletel na številne vsebine, ki jih najraje nikoli ne bi videl, in da so bili mnogi sodelavci presenečeni nad skrajnostjo vprašanj, ki so jih morali pripraviti.

Meta zavrača obtožbe

Meta je zavrnila obtožbe in poudarila, da gre za običajno prakso preverjanja varnosti sistemov umetne inteligence. Po njihovih besedah podjetja v panogi redno izvajajo tako imenovano varnostno testiranje, da preverijo, kako modeli reagirajo na zahtevne in občutljive primere. Vendar se vsi strokovnjaki s tem ne strinjajo. Izvršna direktorica neprofitne organizacije Humane Intelligence, Rumman Chowdhury, je opozorila, da večmesečno, skrivno testiranje z lažnimi računi, ki se predstavljajo kot otroci, presega običajne industrijske standarde. Dodala je, da Meta o projektu ni obvestila konkurentov niti javno predstavila rezultatov.

Spletno uredništvo Goriške novice