Një rritje shqetësuese e popullaritetit të aplikacioneve dhe faqeve të internetit që përdorin inteligjencën artificiale për të zhveshur gratë në foto ka tërhequr vëmendjen e studiuesve dhe mbrojtësve të privatësisë, zbuloi një raport nga Bloomberg. Graphika, një kompani e analizës së rrjeteve sociale, zbuloi se 24 milionë njerëz i vizituan këto faqe interneti të zhveshjes vetëm në shtator, duke theksuar një rritje shqetësuese të pornografisë jo-konsensuale të nxitur nga përparimet në inteligjencën artificiale.
Shërbimet e ashtuquajtura "nudify" kanë përdorur rrjetet sociale të njohura për marketing, me numrin e lidhjeve që reklamojnë aplikacionet e zhveshjes duke u rritur me mbi 2,400 për qind në platforma si X dhe Reddit që nga fillimi i vitit. Këto shërbime përdorin teknologjinë e AI për të zhveshur në mënyrë dixhitale individët, duke u fokusuar kryesisht te gratë. Ky përhapje paraqet sfida serioze ligjore dhe etike, pasi imazhet shpesh merren nga mediat sociale pa pëlqimin ose dijeninë e subjektit.
Tendenca shqetësuese shtrihet në ngacmimet e mundshme, pasi disa reklama sugjerojnë që klientët mund të krijojnë imazhe nudo dhe t'ia dërgojnë ato personit të zhveshur në mënyrë dixhitale. Si përgjigje, Google ka deklaruar politikën e saj kundër përmbajtjes seksualisht eksplicite në reklama dhe po heq në mënyrë aktive materialet dhunuese. Megjithatë, X dhe Reddit nuk i janë përgjigjur ende kërkesave për komente.
Ekspertët e privatësisë po japin alarmin për aksesin në rritje të pornografisë së falsifikuar të thellë, të lehtësuar nga përparimet në teknologjinë AI. Eva Galperin, drejtoreshë e sigurisë kibernetike në Fondacionin Electronic Frontier, vë në dukje një zhvendosje drejt njerëzve të zakonshëm që përdorin këto teknologji në objektivat e përditshme, duke përfshirë studentët e shkollave të mesme dhe të kolegjit. Shumë viktima mund të mbeten të pavetëdijshme për këto imazhe të manipuluara dhe ata që përballen me sfida në kërkimin e ndërhyrjes së zbatimit të ligjit ose ndjekjen e veprimeve ligjore.
Pavarësisht shqetësimeve në rritje, aktualisht nuk ka asnjë ligj federal në Shtetet e Bashkuara që ndalon në mënyrë eksplicite krijimin e pornografisë së rreme. Një rast i fundit në Karolinën e Veriut, ku një psikiatër fëmijësh u dënua me 40 vjet për përdorimin e aplikacioneve të zhveshjes në fotot e pacientëve, shënon ndjekjen e parë penale sipas një ligji që ndalon gjenerimin e rrejshëm të materialit të abuzimit seksual të fëmijëve.
Në përgjigje të tendencës alarmante, TikTok dhe Meta Platforms Inc. kanë ndërmarrë hapa për të bllokuar fjalë kyçe që lidhen me këto aplikacione zhveshëse. TikTok paralajmëron përdoruesit se termi "zhvesh" mund të shoqërohet me përmbajtje që shkel udhëzimet e tij, ndërsa Meta Platforms Inc. nuk pranoi të jepte komente të mëtejshme mbi veprimet e saj.
Ndërsa teknologjia evoluon, sfidat etike dhe ligjore të paraqitura nga pornografia e rreme nënvizojnë nevojën urgjente për rregullore gjithëpërfshirëse për të mbrojtur individët nga përdorimi jo konsensual dhe i dëmshëm i përmbajtjes së krijuar nga AI.