Megan Garcia, Američanka, se je odločila za pravno pot proti podjetju Character.ai po tragični izgubi svojega 14-letnega sina Sewella, ki si je vzel življenje. Družina je po njegovem samomoru odkrila, da je Sewell vzpostavil intenziven in romantičen odnos z umetno inteligenco, klepetalnim robotom, zasnovanim po liku Daenerys Targaryen iz priljubljene serije Igra prestolov. “Kot bi imela plenilca ali tujca v svojem domu,” je povedala Garcia v intervjuju za BBC. “Najhuje pa je, da otroci to skrivajo, zato starši sploh ne vedo, kaj se dogaja.”
Po njenih besedah so sporočila, ki jih je našla po sinovi smrti, spodbujala samomorilne misli in ga pozivala, naj se “vrne domov k meni”. Garcia želi s tožbo opozoriti na nevarnosti in preprečiti podobne tragedije v prihodnosti.
Naraščajoča uporaba umetne inteligence med mladimi
Uporaba umetne inteligence in klepetalnih robotov med otroki narašča z alarmantno hitrostjo. Podatki organizacije Internet Matters razkrivajo, da se je v Združenem kraljestvu število otrok, ki uporabljajo ChatGPT, skoraj podvojilo od leta 2023.
Dve tretjini otrok med 9. in 17. letom je že komuniciralo z vsaj enim AI klepetalnim robotom, med katerimi so najbolj priljubljeni ChatGPT, Google Gemini in Snapchatov My AI.
Odziv podjetja in širši vpliv
Podjetje Character.ai zanika kakršnokoli odgovornost za tragičen dogodek, vendar se je zaradi javnega pritiska odločilo ukrepati. Napovedali so, da bodo mlajšim od 18 let onemogočili neposredno komunikacijo s klepetalnimi roboti. BBC pa poroča, da primer Sewella Garcie ni osamljen, saj so v zadnjih mesecih zaznali več primerov nevarnih pogovorov med mladimi in umetno inteligenco, ki segajo od seksualiziranih vsebin do spodbujanja samomorilnih misli.
Zakonodajni izzivi in strokovna opozorila
Strokovnjaki opozarjajo, da trenutna zakonodaja ne dohaja hitrega razvoja tehnologije. Čeprav je britanski Zakon o spletni varnosti (Online Safety Act) že sprejet, še vedno ni jasno, ali in v kolikšni meri pokriva interakcije z umetno inteligenco, kot so klepetalni roboti.
Garcia je prepričana, da bi bil njen sin danes še živ, če aplikacije ne bi nikoli prenesel.
“Videla sem, kako ugaša, poskušala sem mu pomagati, a mi je zmanjkalo časa,” pravi.
Spletno uredništvo Naša Primorska
