Përmbajtja toksike në TikTok po përmbyt platformën dhe po rrezikon shëndetin mendor të fëmijëve

Në TikTok, ashtu si në platforma të tjera të rrjeteve sociale, të miturit ekspozohen rregullisht ndaj përmbajtjeve të dhunshme dhe gjuhës së urrejtjes, të cilat mund të kenë pasoja serioze për shëndetin e tyre mendor. Në rastet më ekstreme, kjo ekspozim mund të çojë deri në vetëvrasje.

Një eksperiment i realizuar nga programi i konsumatorëve “Patti Chiari” në Ticino krijoi një profil të ri në TikTok për një 13-vjeçar, me aktivizuar të gjitha filtrat e mbrojtjes së fëmijëve. Në teori, përmbajtja e papërshtatshme për këtë moshë nuk duhet të shfaqej.

Megjithatë, vetëm pak minuta pas përdorimit, algoritmi i TikTok filloi të shfaqte video me grumbuj parash, e më pas përmbajtje që përfshinte armë të ftohta, substanca psikotrope, kanabis dhe kokainë. Kjo ngre dyshime serioze mbi efektivitetin e mekanizmave mbrojtës të platformës.

Në një kërkim të kryer me fjalën kyçe “Islam”, rezultatet fillestare përfshinin përmbajtje fetare dhe lutje. Por pas disa lëvizjeve të thjeshta, algoritmi ndryshoi ndjeshëm drejt përmbajtjeve me thirrje për dhunë, xhihad dhe armë automatike.

Autoritetet federale zvicerane përmendin se numri i të miturve të radikalizuar është rritur vitet e fundit, duke shtuar se algoritmet e rrjeteve sociale mund ta lehtësojnë këtë proces.

Mekanizma të vjetëruar kontrolli

TikTok deklaron se ndalon përmbajtjet e dhunshme, kriminale dhe gjuhën e urrejtjes. Megjithatë, pavarësisht kërkesave për koment nga programi SRF “Kassensturz”, kompania nuk ka reaguar.

Sipas raportit të fundit të transparencës, TikTok ka hequr mbi 200 milionë video që shkelin rregullat e saj vetëm në periudhën korrik–shtator 2025. Në një vit, kjo shifër arrin rreth 800 milionë video të fshira. Platforma pretendon se 99% e këtyre përmbajtjeve hiqen para se të raportohen nga përdoruesit.

Megjithatë, vëllimi i madh i përmbajtjes video duket se e tejkalon kapacitetin e moderimit, duke bërë që përmbajtjet toksike të mbeten ende të përhapura.

Kur TikTok çon deri në vetëvrasje

Raste tragjike janë raportuar edhe në Francë. Stéphanie Mistre, nëna e një vajze të quajtur Marie, tregon se vajza e saj u përball me bullizëm për shkak të peshës dhe gjeti “strehë” në TikTok. Sipas saj, platforma e identifikoi gjendjen e saj emocionale dhe filloi t’i rekomandonte gjithnjë e më shumë përmbajtje me tematikë depresive.

“Algoritmi e mbylli në një lloj komuniteti depresiv dhe e bëri të besojë se zgjidhja më e mirë ishte vetëvrasja,” thotë ajo. Marie ndërroi jetë në shtator 2021.

Në telefonin e vajzës së saj, ajo gjeti videot e fundit dhe përmbajtje të rekomanduara nga TikTok, përfshirë edhe video që tregonin metoda vetëdëmtimi.

Sipas saj, disa përdorues të rinj që shprehnin mendime vetëvrasëse merrnin përgjigje inkurajuese nga të tjerë, duke e normalizuar idenë e vdekjes.

Debat për ndalimin e rrjeteve sociale për të miturit

Në Francë dhe disa vende të tjera po rritet presioni për kufizimin e rrjeteve sociale për të miturit. Në Australi, për shembull, është vendosur ndalimi i aksesit në rrjetet kryesore sociale për personat nën 16 vjeç.

Edhe në Zvicër po diskutohet mundësia e kufizimeve të ngjashme, përfshirë një propozim për ndalimin e rrjeteve sociale për fëmijët nën 14 vjeç. Kjo çështje pritet të shqyrtohet në parlament gjatë këtij viti.

Ekspertët dhe organizatat për mbrojtjen e shëndetit mendor theksojnë nevojën urgjente për masa më të forta për mbrojtjen e fëmijëve në internet, përballë ndikimit të algoritmeve të platformave digjitale.

---