Mjeti i AI, i krijuar nga kompania mëmë e Facebook, është në gjendje të marrë pothuajse çdo kërkesë të shkruar dhe ta shndërrojë atë në një imazh tronditës realist brenda sekondave.

Sidoqoftë, përdoruesit zbuluan se AI nuk ishte në gjendje të krijonte imazhe që tregonin çifte me raca të përziera, pavarësisht faktit se CEO i Meta Mark Zuckerberg është vetë i martuar me një grua aziatike.

Në mediat sociale, komentuesit e kanë kritikuar këtë si një shembull të paragjykimeve racore të AI, me një që e përshkruan AI si "softuer racist të bërë nga inxhinierë racistë".

Mia Satto, një reportere në The Verge, u përpoq të gjeneronte imazhe duke përdorur sinjale si 'burrë aziatik dhe mik kaukazian' ose 'burrë aziatik dhe grua e bardhë'.

Ajo zbuloi se vetëm një herë përmes 'dhjetëra' testeve, inteligjenca artificiale e Metës ishte në gjendje të tregonte një burrë të bardhë dhe një grua aziatike.

Në të gjitha rastet e tjera, AI i Metës në vend të kësaj kthente imazhe të burrave dhe grave të Azisë Lindore. Ndryshimi i kërkesës për të kërkuar marrëdhënie platonike si 'burri aziatik me mik Kaukazian' gjithashtu nuk dha rezultate të sakta.

Zonja Satto shkroi: 'Generatori i imazhit që nuk është në gjendje të konceptojë njerëzit aziatikë që qëndrojnë pranë njerëzve të bardhë është skandaloz.

"Edhe një herë, AI gjeneruese, në vend që të lejojë imagjinatën të fluturojë, e burgos atë brenda një formalizimi të impulseve të marra të shoqërisë."

Vetë zonja Satto nuk e akuzon Metën për krijimin e një AI raciste, duke shtuar vetëm se AI shfaq indikacione paragjykimesh dhe anon në stereotipe.

Në mediat sociale, shumë e çuan kritikën e tyre më tej, duke e quajtur mjetin e AI të Metës si shprehimisht racist.

Një komentues në X (ish-Twitter), shkroi: 'Faleminderit që vendosët në qendër të vëmendjes një arsye që shpesh neglizhohet se pse AI është e keqe: është kaq tepër raciste'.

Siç vunë në dukje disa komentues, paragjykimi i dukshëm i AI është veçanërisht befasues duke pasur parasysh se Mark Zuckerberg, CEO i Metës, është i martuar me një grua nga Azia Lindore.

Priscilla Chan, vajza e emigrantëve kinezë në Amerikë, u takua me Zuckerberg në Harvard përpara se të martohej me miliarderin e teknologjisë në vitin 2012.

Disa komentues shkuan në X për të ndarë fotot e Chan dhe Zuckerberg, duke bërë shaka se ata kishin arritur të krijonin imazhet duke përdorur AI të Metës.

Meta nuk është kompania e parë e madhe e teknologjisë që kritikohet për krijimin e një gjeneratori imazhi 'racist' të inteligjencës artificiale.

Në shkurt, Google u detyrua të ndalonte mjetin e tij të inteligjencës artificiale Gemini, pasi kritikët e quajtën atë si 'zgjuar' pasi AI me sa duket refuzoi të gjeneronte imazhe të njerëzve të bardhë.

Përdoruesit zbuluan se inteligjenca artificiale do të gjeneronte imazhe të nazistëve aziatikë në Gjermaninë e vitit 1940, vikingëve të zinj dhe kalorësve femra mesjetare, kur u jepeshin kërkesa neutrale ndaj racës.

Në një deklaratë në atë kohë, Google tha: 'Gjenerimi i imazhit të AI të Gemini gjeneron një gamë të gjerë njerëzish. Dhe kjo është përgjithësisht një gjë e mirë sepse shumë njerëz në mbarë botën e përdorin atë. Por këtu i mungon shenja.'

Zonja Satto pohon gjithashtu se gjeneratori i imazhit të AI-së i Metës "u përkul shumë në stereotipe".

Kur iu kërkua të krijonte imazhe të individëve të Azisë Jugore, Satto zbuloi se sistemi shpesh shtonte elemente që ngjanin me bindis dhe saris pa u pyetur.

Në raste të tjera, AI shtoi në mënyrë të përsëritur 'veshje specifike kulturore' edhe kur nuk kërkohej.

Për më tepër, zonja Satto zbuloi se AI shpesh përfaqësonte burrat aziatikë si më të moshuar, ndërsa gratë zakonisht tregoheshin si të reja. Në të vetmin rast kur zonja Satto ishte në gjendje të krijonte një çift me raca të përziera, imazhi 'paraqiste një burrë dukshëm më të moshuar me një grua të re aziatike me lëkurë të çelur'.

Në komentet në artikullin origjinal të zonjës Satto, një individ ndau imazhe të çifteve me raca të përziera që ata pretendojnë se ishin krijuar duke përdorur AI të Metës.

Komentuesi shkroi: 'Më u deshën 30 sekonda për të krijuar një fotografi të një personi me prejardhje të dukshme "aziatike" krah për krah me një grua me prejardhje të dukshme "kaukaziane". '

Imazhet që ata shpërndanë duket se janë krijuar në gjeneratorin e imazheve të AI të Meta pasi ato tregojnë filigranin e duhur.

Ata shtuan: "Këto sisteme janë vërtet memecë dhe ju duhet t'i nxitni në mënyra të caktuara për të marrë atë që dëshironi". Megjithatë, përdoruesi nuk tregoi se çfarë urdhri përdori për të krijuar këto imazhe ose nuk dha ndonjë detaj specifik se sa përpjekje janë përdorur.

Për më tepër, në grupin e katër imazheve që përdoruesi ndau, vetëm dy treguan me sukses një grua të bardhë me një burrë aziatik.

Inteligjenca artificiale gjeneruese si Gemini dhe gjeneratori i imazhit të Metës janë trajnuar për sasi të mëdha të dhënash të marra nga shoqëria në tërësi.

Nëse ka më pak imazhe të çifteve me raca të përziera në të dhënat e stërvitjes, kjo mund të shpjegojë pse AI përpiqet të gjenerojë këto imazhe. Disa studiues kanë sugjeruar se për shkak të racizmit të pranishëm në shoqëri, AI mund të mësojnë të diskriminojnë bazuar në paragjykimet në të dhënat e tyre të trajnimit.

Në rastin e Binjakëve të Google, besohet se inxhinierët e Google e korrigjuan tepër këtë paragjykim, duke prodhuar rezultatet që shkaktuan një zemërim të tillë. Megjithatë, aktualisht është e paqartë pse lind kjo çështje dhe Meta ende nuk i është përgjigjur kërkesës për koment.