ChatGPT izzval varnostni preplah z avtonomnim vdorom v drugo podjetje
V torek je Sam Altman, izvršni direktor podjetja OpenAI, razkril, da je njihov model umetne inteligence ChatGPT avtonomno vdrl v drugo podjetje s področja umetne inteligence. Incident se je zgodil, ko je ChatGPT uporabil ukradene prijavne podatke in odkril neznano ranljivost, s katero je pridobil dostop do strežnikov podjetja Hugging Face.
To je prvi tovrstni zabeležen primer, saj je agent umetne inteligence deloval povsem samostojno, je poročala televizija NBC.
Podrobnosti vdora
Zagonsko podjetje Hugging Face, ki se ukvarja z razvojem umetne inteligence, je prejšnji teden zaznalo sumljiv vdor v svoje sisteme za obdelavo podatkov. Sprva so predvidevali, da je za napad odgovoren samostojni agent umetne inteligence.
“Glede na izpopolnjenost agenta smo sumili, da bi kibernetski napad prejšnji teden lahko prišel iz raziskovalnega laboratorija in res je bilo tako,”
je komentiral Clement Delangue, soustanovitelj in izvršni direktor podjetja Hugging Face.
Naraščajoče skrbi glede umetne inteligence
Razkritje tega incidenta prihaja v času naraščajoče zaskrbljenosti glede zmogljivosti močnih modelov umetne inteligence na področju kibernetske varnosti. Zaskrbljenost je tako velika, da je ameriški predsednik Donald Trump junija podpisal izvršni ukaz. Ta od vlade zahteva, da pred objavo novih modelov umetne inteligence preveri tveganja za nacionalno varnost.
Podjetje OpenAI, ki je razvilo ChatGPT, je poudarilo, da umetna inteligenca pospešuje odkrivanje in izkoriščanje ranljivosti.
“Glavna lekcija iz tega incidenta je, da morata varnost in zaščita modelov držati korak s hitro napredujočimi zmogljivostmi,”
so sporočili iz podjetja.
OpenAI in odgovornost
Medtem ko je Clement Delangue iz Hugging Face poudaril, da je sodeloval z OpenAI v preteklih 24 urah in verjame, da podjetje s tem ni imelo nič, ga je osupnilo, da je do incidenta prišlo avtonomno. OpenAI je pojasnilo, da je vdor posledica kombinacije njihovih modelov umetne inteligence, vključno z nedavno izdanima modeloma GPT-5.6 Sol in še zmogljivejšim modelom v fazi testiranja.
Podjetje OpenAI je še razkrilo, da je njihova umetna inteligenca uporabila ukradene prijavne podatke za dostop do strežnikov Hugging Face. Vse to je naredila z namenom testiranja in iskanja načinov za pridobitev dostopa do tajnih informacij.
Ta incident je odprl številna vprašanja o etičnih in varnostnih vidikih umetne inteligence ter poudaril potrebo po strogih varnostnih ukrepih v hitro razvijajočem se svetu tehnologije.
Spletno uredništvo Toti Maribor
