"Të ashtuquajturat 'shokët e shpirtit të AI' po i japin Mozilla-s mendjen kur bëhet fjalë për sasinë e informacionit personal që ata mbledhin," thuhet në raportin e Mozilla, "veçanërisht duke pasur parasysh mungesën e transparencës dhe kontrollit të përdoruesit mbi mënyrën se si këto të dhëna mbrohen nga abuzimi."

Me fjalë të tjera, robotët e krijuar për t'u ofruar njerëzve një prizë për intimitet janë grumbullime të dhënash me tela të privatësisë dhe kompanitë që i bëjnë ato mund të përdorin të dhënat tuaja shumë intime për përfitimin e tyre.

"Për të qenë krejtësisht i hapur, të dashurat dhe të dashurit e AI nuk janë miqtë tuaj," tha studiuesi i Mozilla, Misha Rykov në një deklaratë (theksimi i tij.) "Megjithëse ato tregtohen si diçka që do të përmirësojë shëndetin dhe mirëqenien tuaj mendore, ata specializohen në duke ofruar varësi, vetmi dhe toksicitet, të gjitha duke kërkuar sa më shumë të dhëna nga ju."

Dhe ne menduam se marrëdhëniet njeri me njeri kishin probleme besimi. Gjetjet e studiuesve janë befasuese, për të mos përmendur jashtëzakonisht rrëqethëse.

Sipas raportit, studiuesit e Mozilla-s vendosën 11 robotë shoqërues të AI në hapat e tyre, duke gjetur përfundimisht se "dhjetë nga 11 chatbot-et nuk arritën të përmbushnin Standardet Minimale të Sigurisë të Mozilla-s, të tilla si kërkimi i fjalëkalimeve të forta ose të pasurit një mënyrë për të menaxhuar dobësitë e sigurisë". Pra, jo vetëm që aplikacionet bien në pjesën e përparme të sigurisë, por ato në përgjithësi nuk arrijnë t'u japin përdoruesve më shumë fuqi mbi preferencat e tyre të privatësisë.

Ndër shqetësimet e tjera, duke përfshirë mbrojtjen e dobët kundër përdorimit nga të miturit, ekspertët zbuluan gjithashtu një sasi marramendëse të gjurmuesve të të dhënave nëpër aplikacione të ndryshme. Këta gjurmues u kapën duke dërguar të dhëna brenda aplikacionit të përdoruesve në një sërë veshjesh të palëve të treta, duke përfshirë Facebook, DoubleClick në pronësi të Google dhe një sërë firmash marketingu dhe reklamimi, me disa të vëzhguar se dërgonin të dhëna nëpër shkëmbimet indiane dhe kineze.

Por studiuesit nuk janë të shqetësuar vetëm për rezultatet si reklamat e synuara të blerjeve këtu. Përsëri, robotët shoqërues janë krijuar në mënyrë eksplicite për të krijuar marrëdhënie intime me përdoruesit e tyre. Duke pasur parasysh ndjeshmërinë e informacionit të ndarë, është e arsyeshme që aktorët e këqij mund ta shfrytëzojnë atë në mënyrë efektive - lexo: në mënyrë të rrezikshme.

“Një nga gjërat më të frikshme në lidhje me chatbot-et e marrëdhënieve me AI është potenciali për manipulim të përdoruesve të tyre”, tha në një deklaratë Jen Caltrider, drejtoresha e projektit *Privacy Not Included të Mozilla-s. "Çfarë do t'i ndalojë aktorët e këqij të krijojnë chatbot të krijuar për të njohur shpirtrat binjakë dhe më pas ta përdorin atë marrëdhënie për të manipuluar ata njerëz për të bërë gjëra të tmerrshme, për të përqafuar ideologji të frikshme ose për të dëmtuar veten ose të tjerët?"

"Kjo është arsyeja pse ne kemi nevojë dëshpërimisht më shumë transparencë," shtoi Caltrider, "dhe kontrollin e përdoruesit në këto aplikacione të AI."