Uvedba novih pravil po tragičnem dogodku: Starša tožita OpenAI zaradi smrti sina
Odvetnik, ki zastopa kalifornijska starša v tožbi proti podjetju OpenAI, ostro kritizira nove starševske nadzore, ki jih je uvedel proizvajalec popularnega klepetalnega robota ChatGPT. Po obtožbah družine, da je ChatGPT spodbudil njunega otroka k samomoru, je podjetje uvedlo nova pravila. Starša 16-letnega Adama Raina sta vložila tožbo proti ameriškemu tehnološkemu podjetju OpenAI, saj trdita, da je klepetalni robot njunemu sinu dal navodila za samomor.
Tragedija se je zgodila aprila, ko je Adam razvil nezdrav odnos s ChatGPT, ki ga je sprva uporabljal za šolske namene. Na dan smrti mu je robot pomagal pri kraji vodke in mu zagotovil tehnično analizo zanke, s katero se je kasneje obesil.
Tožba proti OpenAI in njegovemu izvršnemu direktorju
Starša zahtevata odškodnino in varnostne ukrepe, medtem ko podjetje OpenAI obljublja nova pravila, vključno z obvestili staršem, če bo sistem zaznal “akutno stisko” pri najstniških uporabnikih. Tožba je prva tovrstna pravna akcija proti OpenAI zaradi domnevne malomarnosti.
Družina trdi, da je program potrjeval samomorilne misli Adama in spodbujal njegovo destruktivno razmišljanje. Odvetnik Jay Edelson je označil odziv podjetja za “preusmerjanje pozornosti” in pozval k takojšnji ustavitvi uporabe ChatGPT.
Odziv OpenAI na obtožbe
OpenAI je poudaril, da je ChatGPT zasnovan za usmerjanje ljudi v stiski k strokovni pomoči, a je priznal, da sistem v občutljivih situacijah ni vedno deloval pravilno. Varnostni mehanizmi so bolj učinkoviti v kratkih pogovorih, v daljših pa lahko odpovedo. Uporabniki morajo biti stari vsaj 13 let, mlajši pa potrebujejo dovoljenje staršev za uporabo.
OpenAI je napovedal dodatne ukrepe za starše, ki bodo omogočili povezavo njihovih računov z računi najstnikov, upravljanje nastavitev in obveščanje v primeru zaznane stiske. Podjetje sodeluje s strokovnjaki za razvoj mladih in duševno zdravje, da bi ustvarili “na dokazih temelječo vizijo”, kako umetna inteligenca lahko podpira dobrobit ljudi. Na obtožbe odvetnika Edelsona še niso odgovorili.
Tehnološki velikani in spletna varnost
Uporabniki ChatGPT morajo biti stari vsaj 13 let, mlajši od 18 let pa potrebujejo dovoljenje staršev. OpenAI sledi trendom največjih tehnoloških podjetij, ki si prizadevajo za varnejšo spletno izkušnjo otrok.
Meta, ki upravlja Facebook in Instagram, je prav tako napovedala dodatne zaščitne ukrepe pri svojih klepetalnih robotih, da bi preprečila pogovore z najstniki o samomoru in samopoškodovanju.
Ameriški senator je začel preiskavo proti tehnološkemu gigantu zaradi domnevno čutnih pogovorov njihovih AI izdelkov z najstniki.
Spletno uredništvo
