Por drejtuesit e Google thonë se teknologjia është ende shumë e papjekur për t'u vënë përpara përdoruesve, me probleme duke përfshirë paragjykimin e chatbot-eve, toksicitetin dhe prirjen e tyre për të krijuar thjesht informacion.
Sipas një raporti nga CNBC, CEO i Alphabet, Sundar Pichai dhe kreu i AI i Google, Jeff Dean trajtuan ngritjen e ChatGPT në një takim të fundit. Një punonjës pyeti nëse lëshimi i robotit – i ndërtuar nga OpenAI, një kompani me lidhje të thella me rivalin e Google, Microsoft – përfaqësonte një “mundësi të humbur” për gjigantin e kërkimit. Pichai dhe Dean thuhet se u përgjigjën duke thënë se modelet e gjuhës së AI të Google janë po aq të afta sa ato të OpenAI, por që kompania duhej të lëvizte "më konservatore se një startup i vogël" për shkak të "rrezikut të reputacionit" që paraqet teknologjia.
"Ne po kërkojmë absolutisht t'i nxjerrim këto gjëra në produkte reale dhe në gjëra që paraqesin më shumë modelin gjuhësor dhe jo nën kopertinat, ku ne i kemi përdorur ato deri më sot," tha Dean. “Por, është shumë e rëndësishme që ta bëjmë këtë siç duhet.” Pichai shtoi se Google ka planifikuar “shumë” për veçoritë e gjuhës AI në vitin 2023 dhe se “kjo është një fushë ku ne duhet të jemi të guximshëm dhe të përgjegjshëm, kështu që duhet ta balancojmë atë”.
Google ka zhvilluar një numër modelesh të mëdha gjuhësore të AI (LLM) të barabarta në aftësi me ChatGPT të OpenAI. Këto përfshijnë BERT, MUM dhe LaMDA, të cilat të gjitha janë përdorur për të përmirësuar motorin e kërkimit të Google. Sidoqoftë, përmirësime të tilla janë delikate dhe fokusohen në analizimin e pyetjeve të përdoruesve për të kuptuar më mirë qëllimin e tyre. Google thotë se MUM e ndihmon të kuptojë kur një kërkim sugjeron se një përdorues po kalon një krizë personale, për shembull, dhe i drejton këta individë në linjat e ndihmës dhe informacione nga grupe si samaritanët. Google ka lançuar gjithashtu aplikacione si AI Test Kitchen për t'u dhënë përdoruesve një shije të teknologjisë së tij chatbot me AI, por ka kufizuar ndërveprimet me përdoruesit në një sërë mënyrash.
OpenAI, gjithashtu, më parë ishte relativisht i kujdesshëm në zhvillimin e teknologjisë së tij LLM, por ndryshoi qëndrim me lançimin e ChatGPT, duke e hapur aksesin gjerësisht për publikun. Rezultati ka qenë një stuhi publiciteti dhe zhurme e dobishme për OpenAI, edhe pse kompania ka kosto të mëdha duke e mbajtur sistemin të lirë për t'u përdorur.
Megjithëse LLM-të si ChatGPT shfaqin fleksibilitet të jashtëzakonshëm në gjenerimin e gjuhës, ato gjithashtu kanë probleme të njohura. Ato përforcojnë paragjykimet sociale që gjenden në të dhënat e tyre të trajnimit, shpesh duke denigruar gratë dhe njerëzit me ngjyrë; ato janë të lehta për t'u mashtruar (përdoruesit zbuluan se mund të anashkalojnë udhëzimet e sigurisë të ChatGPT, të cilat supozohet se e ndalojnë atë të japë informacion të rrezikshëm, duke i kërkuar thjesht të imagjinojë se është një AI e keqe); dhe - ndoshta më e rëndësishmja për Google - ato ofrojnë rregullisht informacione të rreme dhe mashtruese në përgjigje të pyetjeve. Përdoruesit kanë zbuluar se ChatGPT "gënjen" për një gamë të gjerë çështjesh, nga krijimi i të dhënave historike dhe biografike, deri te justifikimi i pretendimeve të rreme dhe të rrezikshme si t'u thuash përdoruesve se shtimi i porcelanit të grimcuar në qumështin e gjirit "mund të mbështesë sistemin tretës të foshnjave".
Në takimin gjithëpërfshirës të Google, Dean pranoi këto sfida. Ai tha se "mund të imagjinoni për aplikacione të ngjashme me kërkimin, çështjet e fakteve janë vërtet të rëndësishme dhe për aplikacione të tjera, paragjykimet dhe çështjet e toksicitetit dhe sigurisë janë gjithashtu të rëndësishme." Ai tha se chatbot-et e AI "mund të krijojnë gjëra [...] Nëse ata nuk janë vërtet të sigurt për diçka, ata thjesht do t'ju thonë, e dini, elefantët janë kafshët që bëjnë vezët më të mëdha ose çfarëdo tjetër."
Edhe pse lançimi i ChatGPT ka shkaktuar biseda të reja rreth potencialit të chatbot-eve për të zëvendësuar motorët tradicionalë të kërkimit, pyetja ka qenë në shqyrtim në Google për një kohë të gjatë – ndonjëherë duke shkaktuar polemika. Studiuesit e AI, Timnit Gebru dhe Margaret Mitchell u pushuan nga Google pasi publikuan një punim që përshkruan sfidat teknike dhe etike që lidhen me LLM-të (të njëjtat sfida që Pichai dhe Dean po ia shpjegojnë tani stafit). Dhe në maj të vitit të kaluar, një kuartet studiuesish të Google eksploruan të njëjtën pyetje të AI në kërkim dhe detajuan probleme të shumta të mundshme. Siç vunë në dukje studiuesit në punimin e tyre, një nga çështjet më të mëdha është se LLM-të "nuk kanë një kuptim të vërtetë të botës, ata janë të prirur ndaj halucinacioneve, dhe më e rëndësishmja ata janë të paaftë të justifikojnë thëniet e tyre duke iu referuar dokumenteve mbështetëse në korpus. ata ishin të trajnuar".
Ka mënyra për të zbutur këto probleme, sigurisht, dhe kompanitë rivale të teknologjisë pa dyshim do të llogaritin nëse lansimi i një motori kërkimi të fuqizuar nga AI – qoftë edhe i rrezikshëm – ia vlen vetëm për të rivalizuar Google. Në fund të fundit, nëse jeni i ri në skenë, "dëmtimi i reputacionit" nuk është shumë problem.
Nga ana e vetë OpenAI, duket se po përpiqet të zbusë pritshmëritë. Siç shkroi kohët e fundit CEO Sam Altman: “ChatGPT është tepër i kufizuar, por mjaft i mirë në disa gjëra për të krijuar një përshtypje mashtrues, është gabim të mbështetesh në të për ndonjë gjë të rëndësishme tani. është një pamje paraprake e progresit; kemi shumë punë për të bërë për qëndrueshmërinë dhe vërtetësinë.”