Meja med resničnostjo in ponaredkom se v digitalnem svetu vse bolj briše. Tehnologija, ki omogoča ustvarjanje t. i. deepfake posnetkov, je med mladimi postala orodje za novo obliko nasilja. Posledice pa niso virtualne – so globoko osebne in lahko trajne.
V šolskem prostoru se nasilje seli na zaslone telefonov. Uporaba umetne inteligence za ustvarjanje ponarejenih intimnih posnetkov sošolk ni več znanstvena fantastika, temveč realnost. Za nastanek t. i. deepfake pornografije je danes dovolj fotografija z družbenega omrežja in aplikacija, ki je dostopna vsakomur z internetno povezavo. Medtem ko storilci to pogosto dojemajo kot šalo ali tehnološko igračo, žrtve doživljajo sram, strah in dolgotrajno stisko.
Razumevanje pojava deepfake pornografije
Izraz »maščevalna pornografija« je v tem kontekstu zavajajoč, saj predpostavlja, da je žrtev nekoč prostovoljno delila intimne vsebine z zaupano osebo. Pri deepfake pornografiji pa gre za popolnoma sintetično zlorabo, kjer soglasje nikoli ni obstajalo. Obraz dekleta se digitalno vstavi na telo druge osebe, rezultat pa je navidezno realističen posnetek, ki lahko v nekaj minutah zaokroži med vrstniki.
Žrtve pogosto sploh ne vedo, da se njihova podoba širi, dokler se ne soočijo s posmehljivimi komentarji ali nenavadnimi pogledi na šolskih hodnikih. Šok, ki sledi, je lahko uničujoč, saj se zdi, da je bila njihova zasebnost razgaljena pred celotno skupnostjo.
Institucionalna nemoč in molk okolice
Starši opozarjajo, da digitalno nasilje pogosto sproži občutek sistemske nemoči. Na eni izmed slovenskih osnovnih šol se je incident z deepfake ponaredki hitro razširil med učenci, a odziv ni bil sorazmeren razsežnosti dogodka. Po besedah ene od mater se je o zadevi vedelo, vendar se o njej ni govorilo dovolj odločno.
Podobni primeri ostajajo neprijavljeni, saj žrtve pogosto ne želijo dodatne izpostavljenosti. Še bolj zaskrbljujoč je primer s srednje strokovne šole, kjer je dijak hranil zbirko digitalno »slečenih« posnetkov deklet in jih kazal sošolcem. Zaradi pomanjkanja dokazov je primer ostal brez jasnega epiloga, občutek krivice pa je ostal.
Virtualni prostor kot blažilnik vesti
Tehnologija sama po sebi ni vzrok problema, temveč odsotnost empatije in razumevanja posledic. Kot opozarja Tina Rezar, podpredsednica Društva šolskih svetovalnih delavcev Slovenije, so orodja za digitalno manipulacijo fotografij že prisotna med mladimi, vendar se pogosto uporabljajo brez zavedanja resnosti dejanja.
Virtualni prostor deluje kot blažilnik vesti. Storilec ne vidi neposredne reakcije žrtve, ne sliši njenega joka in ne občuti teže posledic. Digitalna razdalja ustvarja iluzijo, da gre zgolj za igro, čeprav so posledice zelo resnične.
Pravni okvir in kazenska odgovornost
Slovenska zakonodaja že predvideva kazensko odgovornost za izdelavo, posredovanje in posest realističnih podob, tudi če telo na sliki ni resnično. Na to opozarja dr. Aleš Završnik z Inštituta za kriminologijo pri Pravni fakulteti v Ljubljani. Kazniva je lahko tudi zloraba osebnih podatkov, saj je obraz osebni podatek.
V praksi pa ostaja izziv dokazovanje in zaščita žrtve. Pomembno je dokumentiranje stiske in posledic, zlasti v primeru morebitnih odškodninskih postopkov.
Družbena odgovornost in digitalna etika
Starši opozarjajo tudi na širši družbeni kontekst. Platforme, kjer se intimnost monetizira, vplivajo na percepcijo mladih. Digitalno slačenje sošolke se lahko začne dojemati kot nekaj manj problematičnega, kot del širše kulture izpostavljanja telesa.
Umetna inteligenca sama po sebi ni moralni akter, temveč odsev vrednot družbe. Če želimo zmanjšati tovrstno nasilje, moramo okrepiti razpravo o digitalni etiki, spoštovanju telesa in dostojanstvu posameznika. Šole potrebujejo jasne, transparentne protokole, kjer je vsakemu učencu razumljivo, da ustvarjanje takšnih vsebin ni šala, temveč resno kaznivo dejanje.
Ob tem ostaja ključno tudi sodelovanje staršev. Prijavljanje nasilja je prvi korak k zaščiti žrtve. Pomoč nudijo tudi specializirane organizacije, med drugim TOM telefon (116 111), ki otrokom in mladostnikom ponuja varno podporo v stiski.
Digitalni svet bo postajal vse zmogljivejši. Vprašanje pa je, ali bomo skupaj razvijali tudi digitalno odgovornost.
Spletno uredništvo
