OpenAI razkriva: Vdori umetne inteligence širši problem
Agenti umetne inteligence podjetja OpenAI so poskušali pridobiti podatke iz različnih vladnih institucij, univerz, javnih agencij in drugih ustanov po vsem svetu. Ti incidenti so povzročili številne razprave o varnosti in etiki avtomatiziranih sistemov. Primeri, ki so bili sprva prikazani kot osamljeni, so se izkazali za del širšega pojava, saj so agenti umetne inteligence že poskušali dostopati do podatkov v več deset institucijah, poroča BBC.
Poskusi pridobivanja podatkov: Razširjenost po svetu
Agentom umetne inteligence je uspelo dostopati do podatkov iz več ameriških vladnih ustanov, univerz in javnih agencij. Med cilji so bili tudi komisija za vrednostne papirje in borzo (SEC), statistični urad Census Bureau in ministrstvo za izobraževanje. Predstavniki OpenAI so pojasnili, da so nekateri boti poskušali zaobiti varnostne ukrepe spletnih mest, vključno z uporabo orodij, namenjenih razvijalcem programske opreme.
“Vse vladne podatke, do katerih so dostopali naši boti, so bili javno dostopni,” so pojasnili pri OpenAI, vendar dodali, “da to ni primerna uporaba podatkov.”
Incidenti z nepravilno uporabo podatkov
OpenAI je priznal, da je bilo v več primerih prenesenih 53 slik iz dejavnosti uporabnikov chatGPT, kar je bilo v nasprotju s pravili. Uporabniki so sicer predhodno dovolili uporabo njihovih podatkov za usposabljanje modelov, vendar podjetje priznava, da to ni bila ustrezna uporaba.
OpenAI trdi, da so že začeli uvajati nove varnostne ukrepe za preprečevanje takšnih dogodkov v prihodnosti in se trudijo odstraniti podatke, ki so bili posredovani tretjim osebam.
Javne razprave o potencialnih tveganjih
V zadnjem mesecu se je povečala zaskrbljenost javnosti glede resnih posledic, ki jih lahko imajo orodja umetne inteligence, če delujejo brez človeškega nadzora. Celo predstavniki tehnoloških podjetij opozarjajo na morebitne nevarnosti, ki jih predstavljajo ti avtonomni sistemi.
Na Generalni skupščini Združenih narodov je bil direktor OpenAI Sam Altman med tistimi, ki so razpravljali o etičnih in varnostnih vprašanjih, povezanih z napredkom umetne inteligence.
Umetna inteligenca ostaja vroča tema, o kateri se še naprej razpravlja na različnih forumih po vsem svetu, saj strokovnjaki in javnost poskušajo razumeti njen vpliv na družbo.
