Rregullat se çfarë përmbajtje mund të postohet dhe promovohet janë kryesisht të pandryshuara, por përfshijnë kufizime të reja në ndarjen e falsifikimit të AI, të cilat janë bërë gjithnjë e më të njohura në aplikacion gjatë muajve të fundit.
Pjesa më e madhe e këtyre politikave të moderimit (ose "Udhëzimet e Komunitetit", në gjuhën e TikTok) janë të pandryshuara dhe të paçuditshme. Nuk lejohet dhuna grafike, asnjë gjuhë urrejtjeje dhe asnjë përmbajtje e hapur seksuale, me rregulla të shkallëzuara për këtë të fundit bazuar në moshën e subjektit. Një seksion i sapo zgjeruar, megjithatë, mbulon "media sintetike dhe të manipuluara" - të njohura si "deepfakes" të AI, të cilat janë bërë gjithnjë e më të njohura në aplikacion muajt e fundit.
Më parë, rregullat e TikTok për "deepfakes" ishin të kufizuara në një linjë të vetme që ndalonte përmbajtjen që mund të "mashtronte përdoruesit duke shtrembëruar të vërtetën e ngjarjeve [ose] të shkaktonte dëm të konsiderueshëm në subjektin e videos". Tani, kompania thotë se e gjithë përmbajtja realiste e gjeneruar dhe e redaktuar nga AI duhet të "zbulohet qartë" si e tillë, qoftë në titullin e videos ose si një ngjitës i mbivendosur.
TikTok thotë se nuk do të lejojë asnjë media sintetike "që përmban ngjashmërinë e ndonjë figure reale private" ose që tregon një figurë publike që miraton një produkt ose shkel politikat e tjera të aplikacionit (d.m.th., ndalimet e tij për gjuhën e urrejtjes). Kompania i përcakton figurat publike si çdo person 18 vjeç ose më i vjetër me "një rol të rëndësishëm publik, si një zyrtar qeveritar, politikan, udhëheqës biznesi ose personazh i famshëm".
Përmbajtja e krijuar nga AI është rritur në popullaritet në TikTok, kryesisht falë disponueshmërisë më të gjerë të mjeteve të klonimit të zërit të AI që e bëjnë të lehtë imitimin e zërit të dikujt. Këto mjete kanë krijuar nëngjini të reja të përmbajtjes, të fokusuara shpesh në vendosjen e figurave publike si presidenti Joe Biden dhe ish-presidenti Donald Trump në skenarë të papritur, si transpozimi i personaliteteve të presidentëve në argumente rreth lojërave online ose Dungeons & Dragons, për shembull.
Rastet e tjera të përdorimit janë më të dëmshme. Shumë falsifikime të AI tregojnë të njëjtat figura që lexojnë deklarata transfobike ose homofobike dhe ndonjëherë janë ngatërruar me pamje reale. Ndalimi i TikTok për miratimet e falsifikuara të thella, ndërkohë, duket si një përgjigje ndaj një videoje specifike që përdori AI për të falsifikuar Joe Rogan duke promovuar një "përforcues të dëshirës seksuale për meshkuj". Video të tilla janë përhapur edhe në aplikacione si Twitter dhe Instagram.
Përditësimi i politikave të TikTok vjen në një kohë të presionit politik në rritje për kompaninë mëmë ByteDance, pasi qeveritë perëndimore shprehin frikën mbi mbledhjen e të dhënave private të aplikacionit dhe potencialin e tij për të ndikuar opinionin publik. Qeveria e SHBA thuhet se ka kërcënuar një ndalim publik të TikTok nëse pronari ByteDance nuk shet aksionet e tij, ndërsa aplikacioni tashmë është ndaluar në pajisjet qeveritare në SHBA, MB, Zelandën e Re dhe Kanada.
TikTok nuk i adreson këto kërcënime ndaj biznesit të tij drejtpërdrejt me këto politika të përditësuara, por vëren se dëshiron të ofrojë "shumë më shumë transparencë në lidhje me rregullat tona dhe mënyrën se si ne i zbatojmë ato". Kompania po publikon gjithashtu një listë me tetë "Parimet e Komunitetit" që thotë se "formësojnë punën tonë të përditshme dhe udhëzojnë se si u qasemi vendimeve të vështira të zbatimit". Veçanërisht, dy parimet e para janë "parandalimi i dëmit" dhe "mundësimi i shprehjes së lirë".