Imazhet e rreme të Taylor Swift qarkullonin kryesisht në faqen e mediave sociale X, e njohur më parë si Twitter. Fotot të cilat tregojnë këngëtaren në pozicione seksuale të ndryshme janë parë dhjetëra miliona herë përpara se të hiqen nga platformat sociale. Por asgjë në internet me të vërtetë nuk është zhdukur përgjithmonë dhe padyshim që ato do të vazhdojnë të ndahen në kanale të tjera.

Ashtu si shumica e platformave kryesore të mediave sociale, politikat e X ndalojnë ndarjen e "mediave sintetike, të manipuluara ose jashtë kontekstit që mund të mashtrojnë ose ngatërrojnë njerëzit dhe të çojnë në dëm".

Incidenti vjen ndërsa Shtetet e Bashkuara po shkojnë në një vit zgjedhjesh presidenciale dhe shqetësimet po rriten rreth asaj se si imazhet dhe videot mashtruese të krijuara nga AI mund të përdoren për të nxitur përpjekjet për dezinformim dhe përfundimisht për të prishur votimin.

“Ky është një shembull kryesor i mënyrave në të cilat AI është duke u lëshuar për shumë arsye të ndyra pa parmakë mbrojtëse të mjaftueshme për të mbrojtur sheshin publik,” tha për CNN Ben Decker, i cili drejton Memetica, një agjenci hetimesh dixhitale.

Decker tha se shfrytëzimi i mjeteve gjeneruese të AI për të krijuar përmbajtje potencialisht të dëmshme që synojnë të gjitha llojet e figurave publike po rritet shpejt dhe po përhapet më shpejt se kurrë në mediat sociale.

"Kompanitë e mediave sociale nuk kanë në të vërtetë plane efektive për të monitoruar domosdoshmërisht përmbajtjen," tha ai.

X, për shembull, ka shkatërruar kryesisht ekipin e tij të moderimit të përmbajtjes dhe mbështetet në sistemet e automatizuara dhe raportimin e përdoruesve. (Në BE, X aktualisht është duke u hetuar mbi praktikat e tij të moderimit të përmbajtjes).

Meta gjithashtu bëri shkurtime në ekipet e tij që trajtojnë dezinformimin dhe fushatat e koordinuara të trolleve dhe ngacmimeve në platformat e tij, thanë për CNN njerëz me njohuri të drejtpërdrejta të situatës, duke ngritur shqetësime përpara zgjedhjeve kryesore të 2024 në SHBA dhe në mbarë botën.

Është e paqartë se ku e kanë origjinën imazhet e lidhura me Taylor Swift. Edhe pse disa imazhe u gjetën në sajte si Instagram dhe Reddit, ato ishin një çështje e përhapur në veçanti në X.

Incidenti gjithashtu përkon me rritjen e mjeteve të gjenerimit të AI si ChatGPT dhe Dall-E. Sidoqoftë, ekziston gjithashtu një botë shumë më e gjerë e modeleve të pamoderuara të inteligjencës artificiale jo të sigurta për punë në platformat me burim të hapur, tha Decker.

“Kjo është tregues i një lloji më të madh të moderimit të përmbajtjes së thyer dhe qeverisjes së platformës, sepse nëse të gjithë palët e interesuara kompanitë e AI, kompanitë e mediave sociale, rregullatorët dhe shoqëria civile nuk po flasin për të njëjtat gjëra dhe në të njëjtën faqe se si të adresohen. këto çështje, ky lloj i përmbajtjes thjesht do të vazhdojë të përhapet,” shtoi ai.

Decker tha, megjithatë, se synimi i Swift mund të sjellë më shumë vëmendje ndaj çështjeve në rritje rreth imazheve të krijuara nga AI. Kontigjenti i madh i "Swifties" besnikë të Swift shprehu zemërimin e tyre në mediat sociale këtë javë, duke e çuar çështjen në plan të parë. Në vitin 2022, një përmbysje e Ticketmaster përpara koncertit të saj Eras Tour shkaktoi bujë në internet, duke çuar në disa përpjekje legjislative për të goditur politikat jo miqësore ndaj konsumatorit të biletave.

Ndoshta e njëjta gjë do të jetë e vërtetë për dëmtimin e imazheve të krijuara nga AI, sugjeroi Decker.

“Kur keni figura si Taylor Swift që janë kaq të mëdha [të synuara], ndoshta kjo është ajo që nxit veprim nga ligjvënësit dhe kompanitë e teknologjisë, sepse ata nuk mund të përballojnë që të dashurën e Amerikës të jetë në një fushatë publike kundër tyre,” tha ai. "Unë do të argumentoja se ata duhet ta bëjnë atë të ndihet më mirë sepse ajo ka ndoshta më shumë ndikim se pothuajse kushdo tjetër në internet."

Kjo lloj teknologjie është përdorur për të krijuar atë që njihet si "pornografi hakmarrëse" - duke postuar imazhe të qarta të dikujt në internet pa pëlqimin e tyre - për një kohë tani, por po merr vëmendje të përtërirë tani për shkak të fotove ofenduese të Swift.

Nëntë shtete të SHBA-së aktualisht kanë ligje kundër krijimit ose ndarjes së fotografive të rreme pa konsensuale, të cilat janë imazhe sintetike të krijuara për të imituar ngjashmërinë e dikujt.