Nova spletna grožnja: Otroci mislijo, da se pogovarjajo s prijateljem
Večina staršev danes pozna klasična spletna tveganja. Previdni so pri uporabi družbenih omrežij, opozarjajo na nevarnosti spletnih iger in poudarjajo pomen varovanja osebnih podatkov. Kljub temu se je v otroška življenja skoraj neopazno vtihotapila nova nevarnost – umetna inteligenca. Uporabljajo jo za domače naloge, zabavo, ustvarjanje slik in iskanje odgovorov.
Generativna umetna inteligenca je postala del njihovega vsakdana hitreje, kot ji starši uspejo slediti. Zato strokovnjaki opozarjajo na nova tveganja, ki jih odrasli pogosto ne prepoznajo pravočasno.
Otroci mislijo, da se pogovarjajo s prijateljem
Ena največjih sprememb je, da se otroci vse pogosteje pogovarjajo z umetno inteligenco, skoraj tako, kot bi se s prijateljem. Klepetalniki z naprednimi jezikovnimi modeli znajo odgovarjati prijazno in prepričljivo, kar otrokom daje občutek razumevanja in podpore.
Strokovnjaki pri UNICEF-u opozarjajo, da otroci lahko umetni inteligenci pripisujejo čustva in avtoriteto, ki jih ta v resnici nima. Posledično lahko odgovore razumejo kot strokovne nasvete ali moralna vodila.
To postane posebej občutljivo pri temah, kot so duševno zdravje ali medvrstniški odnosi, ko otrok išče odgovore pri digitalnem sogovorniku, ki ni sposoben resnično razumeti njegove stiske.
Fotografija, ki nikoli ni obstajala, lahko uniči ugled najstnika
Drugo hitro rastoče področje tveganj so lažne podobe in videoposnetki, ustvarjeni z umetno inteligenco. Tehnologija deepfake postaja vse bolj dostopna in enostavna za uporabo. Ni potrebno posebno tehnično znanje, dovolj je nekaj fotografij z družbenih omrežij.
To odpira vrata novim oblikam spletnega nasilja med mladimi, saj se lahko manipulirane fotografije širijo med vrstniki in služijo za poniževanje ali izsiljevanje.
Europol in strokovnjaki za kibernetsko varnost opozarjajo, da umetna inteligenca spreminja tudi področje spletnih prevar.
Umetni inteligenci otroci pogosto povedo več kot staršem
Posebno vprašanje odpira količina podatkov, ki jih otroci nehote delijo z umetno inteligenco. Ko otrok klepetalniku zaupa osebne podatke, pogosto ne razume, kam ti podatki odhajajo in kako se uporabljajo.
Evropski regulatorji opozarjajo na potrebo po dodatni zaščiti zasebnosti otrok. Mlajši uporabniki pogosto uporabljajo umetno inteligenco za vprašanja, ki jih ne upajo postaviti staršem ali učiteljem, zato je pomembno, da razumejo omejitve teh sistemov.
Nova digitalna pravila za družine
Starši umetne inteligence ne smejo demonizirati ali prepovedati, saj lahko prinaša tudi koristi, kot so pomoč pri učenju ali razvijanju novih veščin. Pomembno je, da odrasli vedo, kako otroci uporabljajo ta orodja. Strokovnjaki za digitalno varnost priporočajo, da starši otroke odkrito vprašajo o uporabi teh orodij in jih poučijo, da umetna inteligenca ni zanesljiv prijatelj ali učitelj.
Digitalna pismenost danes vključuje tudi razumevanje algoritmov in lažnih vsebin. Nova spletna grožnja ni več le sumljivo elektronsko sporočilo, ampak lahko pride v obliki prijaznega pogovora ali realistične fotografije, ki jo otrok sprejme kot resnico.
Spletno uredništvo
