Zyra e Komisionerit të Informacionit (ICO) paralajmëroi se mund të mbyllë funksionin My AI në MB pas një "hetimi paraprak".
Kompania amerikane tha se ishte duke "shqyrtuar nga afër" gjetjet e përkohshme.
Mjeti i lejon përdoruesit të dërgojnë mesazhe në një kompjuter që imiton bisedën njerëzore.
Snapchat e përshkruan atë si një "tipar në zhvillim" i cili mundësohet nga ChatGPT, një mjet në internet i AI që përdor teknologji të re për të imituar bindshëm përgjigjet realiste.
Snap, kompania mëmë pas Snapchat, u bë platforma e parë e mediave sociale që miratoi një funksion të bisedës me inteligjencë artificiale në fillim të këtij viti.
Aplikacioni ka 21 milionë përdorues në Mbretërinë e Bashkuar, shumë prej të cilëve janë fëmijë. ICO tha se ishte veçanërisht e shqetësuar për rreziqet e mundshme të privatësisë për përdoruesit e moshës 13 deri në 17 vjeç.
Snap tha se do të "punonte në mënyrë konstruktive" me ICO pasi lëshoi një njoftim paraprak kundër kompanisë, duke shtuar se kishte kryer një "shqyrtim të fuqishëm ligjor dhe privatësie" përpara se funksioni të bëhej publik.
Mbikëqyrësi i të dhënave theksoi se gjetjet e tij nuk janë përfundimtare dhe nuk ka arritur në përfundimin se kompania ka shkelur ndonjë ligj për mbrojtjen e të dhënave.
Në këtë fazë, njoftimi është një sinjal për Snap për t'u siguruar që AI ime përputhet me rregullat e mbrojtjes së të dhënave, të cilat përfshijnë Kodin e Dizajnit të Fëmijëve.
Kodi i mbikëqyrësit përmban 15 standarde që shërbimet online duhet të ndjekin. Kjo siguron që ata janë në përputhje me detyrimet e tyre sipas ligjit për mbrojtjen e të dhënave për të mbrojtur të dhënat e fëmijëve në internet.
ICO tha se nëse do të miratohej një njoftim përfundimtar i zbatimit, Snap mund të mos jetë në gjendje të ofrojë funksionin My AI për përdoruesit në Mbretërinë e Bashkuar derisa kompania të kryejë "një vlerësim adekuat të rrezikut".
Çfarë është 'MY AI?
Kompania e përshkruan My AI si "një chatbot eksperimental dhe miqësor" i krijuar për të qenë një ndihmës personal për çdo Snapchatter që bisedon me të.
Ky funksion, i cili mund të përdoret si një asistent për të planifikuar udhëtime ditore ose për të krijuar menu, ka më shumë se dy milionë biseda në ditë që ndodhin në aplikacion, sipas shefit të Snap, Evan Spiegel.
Ai u vu në dispozicion për të gjithë përdoruesit e Snapchat në prill, pasi u lançua me një tarifë në shkurt.
Që atëherë, platforma e mediave sociale tha se "shumë përparim" ishte bërë në aftësitë e saj, megjithëse pranoi se "mund të ndodhin gabime".
"Inteligjenca ime artificiale mund të përgjigjet gabimisht, të japë përgjigje të njëanshme ose të vërejë se nuk është e sigurt për përgjigjet, kështu që mos u mbështetni në këshillat e saj," tha kompania.
Snap është kritikuar gjithashtu për të qenë i paqartë nëse chatbot mund të ketë akses në informacione private siç janë të dhënat e vendndodhjes.
“Snapchat mund të hyjë në vendndodhjen tuaj vetëm nëse pranoni ta ndani atë”, tha firma.
Një nga shqetësimet e tjera në lidhje me AI-n time është - për shkak të asaj se si përdoruesit e rinj të Snapchat anojnë - nëse ata vërtet i kuptojnë implikimet e mbledhjes së të dhënave.
"Privatësia është një vlerë themelore për ne - është thelbësore për rastin tonë thelbësor të përdorimit për të ndihmuar njerëzit të komunikojnë vizualisht me miqtë dhe familjen e tyre," theksoi platforma.
Komisioneri i Informacionit John Edwards tha: "Gjetjet e përkohshme të hetimit tonë sugjerojnë një dështim shqetësues nga Snap për të identifikuar dhe vlerësuar në mënyrë adekuate rreziqet e privatësisë për fëmijët dhe përdoruesit e tjerë përpara se të lançojë AI ime.
“Ne kemi qenë të qartë se organizatat duhet të marrin parasysh rreziqet që lidhen me AI, krahas përfitimeve.
"Njoftimi paraprak i zbatimit i sotëm tregon se ne do të ndërmarrim veprime për të mbrojtur të drejtat e privatësisë së konsumatorëve në Mbretërinë e Bashkuar."
Në rastin e shkeljeve serioze, ICO ka fuqinë të lëshojë gjoba prej 17.5 milionë £ ose 4% të xhiros vjetore të një kompanie në mbarë botën nga viti financiar i mëparshëm, cilado qoftë më e lartë.
Një zëdhënëse e Snap tha: "Ne po shqyrtojmë nga afër vendimin e përkohshëm të ICO-së.
"Ashtu si ICO, ne jemi të përkushtuar të mbrojmë privatësinë e përdoruesve tanë.
“Në përputhje me qasjen tonë standarde për zhvillimin e produktit, AI ime kaloi përmes një procesi të fuqishëm të rishikimit ligjor dhe të privatësisë përpara se të vihej në dispozicion të publikut.
"Ne do të vazhdojmë të punojmë në mënyrë konstruktive me ICO-në për të siguruar që ata janë të kënaqur me procedurat tona të vlerësimit të rrezikut."
Snap tani do të ketë një shans për t'iu përgjigjur shqetësimeve të rregullatorit përpara se ICO të marrë vendimin e saj përfundimtar.