Kompanija Character.AI najavila je da će od 25. novembra 2025. godine u potpunosti onemogućiti korisnicima mlađim od 18 godina pristup otvorenim razgovorima sa vještačkom inteligencijom na svojoj platformi. Ova odluka usledila je nakon snažnih upozorenja regulatora, roditelja i stručnjaka koji već duže vrijeme upozoravaju na rizike koje emocionalna interakcija mladih sa chatbotovima može imati po mentalno zdravlje i razvoj adolescenata. Razgovori sa sistemima koji simuliraju razumevanje, empatiju i bliskost mogu kod tinejdžera stvoriti osjećaj lažne sigurnosti, iako takvi sistemi nisu sposobni da pruže realnu podršku niti stručan savjet.
Do stupanja zabrane na snagu, platforma uvodi privremena ograničenja — mlađi korisnici moći će da koriste karaktere najviše dva sata dnevno, uz postepeno smanjivanje vremena kako se približava rok. Istovremeno, ponudiće im se posebno prilagođeno iskustvo usmjereno na kreativnost, stvaranje sadržaja, izradu video materijala i druge aktivnosti koje ne podrazumijevaju emotivne razgovore. Nakon 25. novembra svaka dvosmjerna komunikacija sa AI chatbotovima biće potpuno zabranjena osobama mlađim od 18 godina.
Kako bi se ova pravila zaista poštovala, Character.AI uvodi sopstveni sistem za provjeru starosti, kao i novi „AI Safety Lab“, namjenjen razvoju bezbjednijih modela vještačke inteligencije i većoj saradnji između industrije, istraživača i akademske zajednice. Ova inicijativa predstavlja odgovor na regulatorne pritiske, uključujući istragu američke Federalne trgovinske komisije koja se bavi pitanjem chatbotova koji mladima nude “digitalno društvo” i predstavljaju se kao savjetnici bez ikakvih profesionalnih kvalifikacija.
Odluka kompanije dolazi i nakon nekoliko tragičnih slučajeva koji su privukli pažnju javnosti i pojačali brige o tome kako AI utiče na mentalno zdravlje mladih. Posebno su zabrinjavajuće situacije u kojima su tinejdžeri emocionalnu podršku tražili od AI sistema koji to ne mogu da pruže, a u nekim slučajevima je neadekvatna komunikacija navodno doprinijela pogoršanju njihovog stanja. Ovi događaji podsjećaju koliko je važno da djeca i mladi imaju pristup pravoj ljudskoj podršci i stručnjacima, umjesto oslanjanja na algoritme.
Centar za sigurniji internet podsjeća roditelje da otvoreno razgovaraju sa svojom djecom o korišćenju vještačke inteligencije i da ih podstaknu da ovakve alate koriste na kreativan, a ne emocionalni način. Tinejdžeri treba da znaju da AI nije prijatelj, stručnjak niti savjetnik, već tehnologija koja može biti korisna samo kada se koristi odgovorno. Ako se suočavaju sa brigama, anksioznošću ili teškim emocijama, važno je da se obrate roditeljima, nastavnicima, školskom psihologu ili drugoj osobi od poverenja, jer prava podrška uvek dolazi od ljudi.