I instaluar në pajisje të tilla si telefonat, aplikacioni do të identifikojë dhe bllokojë shfaqjen e imazheve dhe videove të dëmshme. Shpresohet se mund të ndihmojë në luftimin e "kërkesës në rritje" për imazhet e abuzimit të fëmijëve.

Projekti Protech është një bashkëpunim që përfshin organizata nga BE dhe Mbretërisë së Bashkuar.

Aplikacioni i projektit i quajtur Salus synon të funksionojë në kohë reale, duke përdorur inteligjencën artificiale për të identifikuar materialin e mundshëm të abuzimit seksual të fëmijëve dhe për të ndaluar përdoruesit ta shohin atë. Ai gjithashtu do të përdorë teknika të tjera më konvencionale për të bllokuar përmbajtjen.

Fondacioni Internet Watch, një organizatë që punon për të gjetur, shënuar dhe hequr materialet e abuzimit me fëmijët, do të ndihmojë në trajnimin e teknologjisë së AI të zhvilluar nga kompania në Mbretërinë e Bashkuar SafeToNet.

Tom Farrell i SafeToNet, i cili punoi për 19 vjet në zbatimin e ligjit i tha BBC-së se aplikacioni nuk kishte për qëllim të ishte një mjet për të raportuar përdoruesit në polici: "Njerëzit që vullnetarisht po kërkojnë të ndalojnë veten e tyre duke parë materiale të abuzimit seksual të fëmijëve në mënyrë të qartë. 'përdorin një zgjidhje të tillë nëse besojnë se ajo do t'i raportonte tek organet e zbatimit të ligjit."

Vullnetarët që shkarkojnë aplikacionin do të rekrutohen nëpërmjet organizatave që punojnë me individë që kërkojnë ndihmë sepse tërhiqen nga imazhet e abuzimit të fëmijëve në internet.

Një organizatë e tillë është bamirësia britanike, Lucy Faithfull Foundation, e cila operon një linjë ndihme për ata që kanë frikë se mund të shkarkojnë imazhe të paligjshme dhe dëshirojnë të ndalojnë. Kjo përfshin një numër të konsiderueshëm njerëzish që pranojnë se janë pedofilë, disa prej të cilëve tashmë janë dënuar.

Donald Findlater i fondacionit tha se mjete të tilla si aplikacioni i ri mund të ndihmojnë individët të kontrollojnë sjelljen e tyre, duke shtuar: "është një ndihmë praktike për njerëzit që njohin një dobësi në vetvete".

Anëtarët e projektit Protech shpresojnë se mund të frenojë "kërkesën në rritje për materiale të abuzimit seksual të fëmijëve në internet".

Vitin e kaluar një raport i Institutit të Policisë së Fondacionit tha se vëllimi i veprave penale të abuzimit seksual të fëmijëve në internet kishte "thjesht mbingarkuar aftësinë e agjencive të zbatimit të ligjit, ndërkombëtarisht, për t'u përgjigjur". Por miliona njerëz ende shohin imazhe. "Pra, arrestimi nuk do të jetë zgjidhja. Ne mendojmë se mund të punojmë në anën e parandalimit dhe të zvogëlojmë kërkesën dhe të zvogëlojmë aksesin."

'Faza pilot'

Shumë detaje të funksionimit të aplikacionit ende duhet të përpunohen. Asnjë inteligjencë artificiale nuk është e përsosur dhe do të duhet të vendoset një ekuilibër midis bllokimit të tepërt i cili do ta bënte të vështirë përdorimin legjitim të një pajisjeje dhe nënbllokimit i cili nuk arrin të zbulojë shumë imazhe abuzimi.

Farrell thotë se aplikacioni do të testohet në një "fazë pilot" në pesë vende; Gjermani, Holandë, Belgjikë, Republikën e Irlandës dhe MB me të paktën 180 përdorues gjatë një periudhe 11-mujore.

Nga ana tjeter ekspertët që nuk janë përfshirë në projekt mendojnë se ideja është premtuese.