Por koncepti nuk është aspak i ri: njerëzit e kanë armatosur këtë lloj teknologjie kundër grave dhe vajzave për vite me radhë. Dhe me rritjen dhe rritjen e aksesit në mjetet e AI, ekspertët thonë se do të përkeqësohet shumë, për të gjithë, nga fëmijët e moshës shkollore te të rriturit.

Tashmë disa nxënës të shkollave të mesme në mbarë botën, nga Nju Xhersi në Spanjë, kanë raportuar se fytyrat e tyre janë manipuluar nga AI dhe janë shpërndarë në internet nga shokët e klasës. Ndërkohë, një femër e re e njohur transmetuese e Twitch zbuloi se ngjashmëria e saj po përdorej në një video pornografike të rreme dhe eksplicite që u përhap me shpejtësi në të gjithë komunitetin e lojërave.

"Nuk janë vetëm të famshëm [në shënjestër]", tha Danielle Citron, një profesore në Shkollën Juridike të Universitetit të Virxhinias. “Janë njerëz të zakonshëm. Janë infermierë, studentë të artit dhe drejtësisë, mësues dhe gazetarë. Ne kemi parë histori se si kjo ndikon tek studentët e shkollave të mesme dhe tek njerëzit në ushtri. Ajo prek të gjithë.”

Por ndërsa praktika nuk është e re, shënjestrimi i Swift mund të sjellë më shumë vëmendje ndaj çështjeve në rritje rreth imazheve të krijuara nga AI. Kontigjenti i saj i madh i "Swifties" besnikë shprehu zemërimin e tyre në mediat sociale këtë javë, duke e çuar çështjen në plan të parë. Në vitin 2022, një përmbysje e Ticketmaster përpara koncertit të saj Eras Tour shkaktoi bujë në internet, duke çuar në disa përpjekje legjislative për të goditur politikat jo miqësore ndaj konsumatorit të biletave.

"Ky është një moment interesant, sepse Taylor Swift është shumë e dashur," tha Citron. “Njerëzit mund t'i kushtojnë më shumë vëmendje sepse është dikush i admiruar përgjithësisht ai që ka një forcë kulturore. … Është një moment llogarie.”

Imazhet e rreme të Taylor Swift u përhapën kryesisht në faqen e mediave sociale X, e njohur më parë si Twitter. Foto të cilat tregojnë këngëtaren në pozicione seksuale sugjestive dhe eksplicite janë parë dhjetëra miliona herë përpara se të hiqen nga platformat sociale. Por asgjë në internet me të vërtetë nuk është zhdukur përgjithmonë dhe padyshim që ato do të vazhdojnë të ndahen në kanale të tjera më pak të rregulluara.

Megjithëse kanë qarkulluar paralajmërime të forta se si imazhet dhe videot mashtruese të krijuara nga AI mund të përdoren për të prishur zgjedhjet presidenciale dhe për të nxitur përpjekjet për dezinformim, ka pasur më pak diskutime publike se si fytyrat e grave janë manipuluar, pa pëlqimin e tyre në video pornografike shpesh agresive dhe fotografi.

Trendi në rritje është ekuivalenti i AI i një praktike të njohur si "pornografi hakmarrëse" dhe po bëhet gjithnjë e më e vështirë të përcaktohet nëse fotot dhe videot janë autentike.

Ajo që është ndryshe këtë herë, megjithatë, është se baza besnike e fansave të Swift u bashkua për të përdorur mjetet e raportimit për të hequr në mënyrë efektive postimet. "Shumë njerëz u angazhuan në atë përpjekje, por shumica e viktimave kanë vetëm veten," tha Citron.

Edhe pse thuhet se u deshën 17 orë për X për të hequr fotot, shumë imazhe të manipuluara mbeten të postuara në faqet e mediave sociale. Sipas Ben Decker, i cili drejton Memetica, një agjenci hetimesh dixhitale, kompanitë e mediave sociale "nuk kanë në të vërtetë plane efektive për të monitoruar domosdoshmërisht përmbajtjen".

Ashtu si shumica e platformave kryesore të mediave sociale, politikat e X ndalojnë ndarjen e "mediave sintetike, të manipuluara ose jashtë kontekstit që mund të mashtrojnë ose ngatërrojnë njerëzit dhe të çojnë në dëm". Por në të njëjtën kohë, X ka shkatërruar në masë të madhe ekipin e tij të moderimit të përmbajtjes dhe mbështetet në sistemet e automatizuara dhe raportimin e përdoruesve. (Në BE, X aktualisht është duke u hetuar mbi praktikat e tij të moderimit të përmbajtjes).

Kompanitë e tjera të mediave sociale gjithashtu kanë reduktuar ekipet e tyre të moderimit të përmbajtjes. Meta, për shembull, bëri shkurtime në ekipet e tij që trajtojnë dezinformimin dhe koordinoi fushatat e trolleve dhe ngacmimeve në platformat e saj, thanë për CNN njerëz me njohuri të drejtpërdrejta të situatës, duke ngritur shqetësime përpara zgjedhjeve kryesore të 2024-ës në SHBA dhe në mbarë botën.

Decker tha se ajo që i ndodhi Swift-it është një "shembull kryesor i mënyrave në të cilat AI është duke u lëshuar për shumë arsye të mbrapshta pa parmakë të mjaftueshëm mbrojtës në vend për të mbrojtur sheshin publik".

Një trend në rritje

Edhe pse kjo teknologji është e disponueshme për një kohë tani, ajo po merr vëmendje të përtërirë tani për shkak të fotove ofenduese të Swift.

Vitin e kaluar, një nxënëse e shkollës së mesme të Nju Xhersit nisi një fushatë për legjislacionin federal për të adresuar imazhet pornografike të krijuara nga AI, pasi ajo tha se fotot e saj dhe 30 shoqeve të tjera femra të klasës ishin manipuluar dhe ndoshta shpërndarë në internet.

Francesca Mani, një studente në shkollën e mesme Westfield, shprehu zhgënjimin për mungesën e mjeteve ligjore për të mbrojtur viktimat e pornografisë së krijuar nga AI. Nëna e saj tha për CNN se dukej se "një djalë ose disa djem" në komunitet i krijuan imazhet pa pëlqimin e vajzave.

"Të gjitha distriktet shkollore po përballen me sfidat dhe ndikimin e inteligjencës artificiale dhe teknologjive të tjera të disponueshme për studentët në çdo kohë dhe kudo," tha në një deklaratë për CNN, në atë kohë, mbikëqyrësi i Westfield Dr. Raymond González.

Në shkurt të vitit 2023, një problem i ngjashëm goditi komunitetin e lojërave kur një transmetues i profilit të lartë mashkullor të lojërave video në platformën popullore Twitch u kap duke parë videot e rrejshme të disa prej kolegeve të tij femra të transmetimit të Twitch. Transmetuesi i Twitch "Sweet Anita" tha më vonë për CNN se është "shumë, shumë surreale të shikosh veten duke bërë diçka që nuk e ke bërë kurrë".

Rritja dhe aksesi në mjetet e krijuara nga AI e ka bërë më të lehtë për këdo që të krijojë gjithashtu këto lloj imazhesh dhe videosh. Dhe ekziston gjithashtu një botë shumë më e gjerë e modeleve të pamoderuara të AI jo të sigurta për punë në platformat me burim të hapur, sipas Decker.

Goditja e kësaj mbetet e vështirë. Nëntë shtete të SHBA-së aktualisht kanë ligje kundër krijimit ose ndarjes së fotografive pa konsensuale të falsifikuara, imazhe sintetike të krijuara për të imituar ngjashmërinë e dikujt, por asnjëra nuk ekziston në nivel federal. Shumë ekspertë po bëjnë thirrje për ndryshime në Seksionin 230 të Aktit të Desencës së Komunikimit, i cili mbron platformat në internet nga përgjegjësia ndaj përmbajtjes së krijuar nga përdoruesit.

"Ju nuk mund ta dënoni atë sipas ligjeve të pornografisë së fëmijëve ... dhe është ndryshe në kuptimin që nuk ka abuzim seksual të fëmijëve," tha Citron. “Por poshtërimi dhe ndjenja e të qenit i kthyer në një objekt, të kesh të tjerët të të shohin si një objekt seksi dhe mënyra se si e përvetëson atë ndjenjë… është kaq tmerrësisht shkatërruese për vlerësimin tënd shoqëror.”

Si të mbroni imazhet tuaja?

Njerëzit mund të ndërmarrin disa hapa të vegjël për të ndihmuar në mbrojtjen e tyre nga përdorimi i ngjashmërisë së tyre në imazhe jo konsensuale.

Eksperti i sigurisë kompjuterike, David Jones, nga kompania e shërbimeve të IT-së Firewall Technical, këshillon që njerëzit duhet të konsiderojnë mbajtjen e profileve private dhe ndarjen e fotove vetëm me njerëz të besuar, sepse "nuk e dini se kush mund të shikojë profilin tuaj".

Megjithatë, shumë njerëz që marrin pjesë në "pornografi hakmarrëse" i njohin personalisht objektivat e tyre, kështu që kufizimi i asaj që ndahet në përgjithësi është rruga më e sigurt.

Për më tepër mjetet e përdorura për të krijuar imazhe eksplicite kërkojnë gjithashtu shumë të dhëna të papërpunuara dhe imazhe që tregojnë fytyra nga kënde të ndryshme, kështu që sa më pak dikush të punojë me të, aq më mirë. Jones paralajmëroi, megjithatë, se për shkak se sistemet e AI po bëhen më efikase, është e mundur që në të ardhmen të nevojitet vetëm një foto për të krijuar një version të rrejshëm të një personi tjetër.

Hakerët gjithashtu mund të kërkojnë të shfrytëzojnë viktimat e tyre duke fituar akses në fotot e tyre. “Nëse hakerët janë të vendosur, ata mund të përpiqen të thyejnë fjalëkalimet tuaja në mënyrë që të kenë akses në fotot dhe videot tuaja që shpërndani në llogaritë tuaja,” tha ai. "Asnjëherë mos përdorni një fjalëkalim të lehtë për t'u hamendësuar dhe kurrë mos e shkruani atë."