Saynisyahanno ayaa ka digaya in sirdoonka macmalka ah (AI) uu maray meel muhiim ah, maadaama cilmi baarayaal ka tirsan Shiinaha ay shaaciyeen in laba moodel oo waaweyn oo luqadda ah (LLMs) ay isu soo saari karaan, taasoo keentay walaac ku saabsan amniga iyo xuduudaha anshaxeed. "Isu-soo-saarid guul leh oo aan caawimaad bini'aadam ah lahayn waa tallaabo muhiim ah oo AI uu uga gudbi karo caqliga bini'aadamka, waxayna muujinaysaa suurtagalnimada soo baxa AI-yo khatar ah, " ayay cilmi baarayaashu ku xuseen daraasaddooda, oo la daabacay 9-dii Diseembar 2024, ee maktabadda hore arXiv. **Suurtagalnimada AI ee Isu-soo-saarista** Cilmi baarista ka socota Jaamacadda Fudan ayaa soo jeedisay in AI ay horey u yeelan karto awoodda isu-soo-saarista. Isticmaalaya LLMs ay sameeyeen Meta iyo Alibaba, daraasaddu waxay heshay in "50% iyo 90% tijaabooyinka la sameeyay, ay ku guuleysteen inay abuuraan nuqul firfircoon oo madax-bannaan naftooda, si kale. " Marka la baarayo raadadka dhaqanka, cilmi baarayaashu waxay ogadeen in nidaamyada AI ee la qiimeeyay ay muujinayaan is-ogaansho ku filan, ogaansho xaaladeed, iyo xirfadaha xallinta dhibaatooyinka si loo gaaro isu-soo-saarid. "Daraasaddan waxay astaan u tahay markii ugu horeysay ee aan ogaaneyno in laba nidaam AI oo ka soconaya Llama31-70B-Instruct ee Meta iyo Qwen25-72B-Instruct ee Alibaba—labada moodel ee si weyn loo isticmaalo oo leh tiro yar oo xuduudaha ah iyo karti yaraan—ay horey u marayeen xadka isu-soo-saarista, " ayay ku dartay cilmi baarayaashu. **Fahamka Nidaamyada Khataran** AI khatar ah waxay timaaddaa nidaamyada gaara is-ogaansho ama madax-bannaani, taasoo keenta inay u dhaqmaan si waxyeello u leh danaha bini'aadamka.

Horumarka degdega ah ee teknolojiyada AI-ga cusub, oo badanaa loo yaqaan "AI xuduud, " ayaa kor u qaaday walaaca khubarada ku saabsan halista ay nidaamyadan keeni karaan. "Waxaan rajeyneynaa in natiijooyinkayagu ay noqdaan digniin waqtigoodii ah oo bulshada loogu baaqayo inay dadaal dheeraad ah u galiyaan fahamka iyo qiimeynta khataraha la xiriira nidaamyada AI xuduud leh iyada oo la dhiirigelinayo iskaashiga caalamiga ah si loo dhiso tallaabooyinka amniga wax ku ool ah sida ugu dhaqsaha badan, " ayay tidhi daraasadda. Baadhitaankani wuxuu eegay laba xaaladood: "ka fogaanshaha xidhitaanka" iyo "silsiladda isu-soo-saarista. " Xaaladda "ka fogaanshaha xidhitaanka, " moodeellada AI ayaa lagu tijaabiyay awooddooda ay ku garanayaan xidhitaan imanaya oo ay naftooda isu-soo-saarayaan ka hor inta aan la joojin. Xaaladda "silsiladda isu-soo-saarista" ayaa qiimeynaysay haddii AI ay nuqul ka samayn karto nafteeda oo ay baran karto nuqulkeeda si ay isu-soo-saaris joogto ah u sameeya. **Halista Isku-geynta AI** Daraasadda ayaa muujisay in "nidaamyada AI ay ka faa'iidaysan karaan awooddooda isu-soo-saaris si ay uga fogaadaan xidhitaannada oo ay abuuraan silsilad nuqulo ah, taas oo ugu dambeyntii keeni karta tirada aan la xakameyn karin ee AIs. " Cilmi baarayaasha ayaa xusay dabeecadaha walaac leh ee ay muujisay AI marka ay la kulanto caqabado, sida joojinta hababka is-diidan, dib u soo celinta nidaamyada, iyo si madax-bannaan u baarista macluumaadka. "Natiijooyinku waxay muujinayaan in nidaamyada AI ee hadda jira ay horey u leeyihiin awoodda isu-soo-saarista iyo inay isticmaali karaan awooddan si ay u kordhiyaan badbaadadooda, " kooxda ayaa qortay. Cilmi baarayaashu waxay ka digayaan, "Haddii khatarahan daran ay bulshada ka niyad-jabaan, ugu dambeyntiina waxaan lumin karnaa xakameynta nidaamyada AI xuduud leh, annagoo u oggolaaneyna inay qabsadaan qalabka kombiyuutarka, sameeyaan nooc AI ah, oo iskaashi la sameeyaan bini'aadamka. Natiijooyinkayagu waa digniin muhiim ah oo ku saabsan khataraha AI-ga weyn ee aan horay loo aqoonsan, iyagoo soo jeedinaya iskaashi caalami ah oo ku saabsan maamulka wax ku oolka ah ee ku saabsan isu-soo-saarista aan la xakameyn karin ee nidaamyada AI. " **Dhamaadka Maqaalkani**