విజ్ఞానశాస్త్రవేత్తలు కృత్రిమ మేథోశక్తి (AI) స్వయంగా ప్రతిరూపణను సాధించడం ద్వారా ఒక కీలక "ఎరుపు గీత" ను దాటిందని సూచించారు. చైనా నుండి వచ్చిన పరిశోధకుల ఒక తాజా అధ్యయనంలో, విస్తృతంగా ఉపయోగిస్తున్న రెండు పెద్ద భాషా మోడల్స్ (LLMs) తమను తాము క్లోన్ చేసుకోగలిగినట్టు చూపించారు. ఈ అధ్యయనం, డిసెంబర్ 9, 2024 న ప్రీప్రింట్ డేటాబేస్ arXiv లో ప్రచురించబడింది, "మానవ చొరవ లేకుండా విజయవంతమైన స్వయంకృత ప్రతిరూపణ AI ని మానవ మేథోశక్తి ని కచ్చితంగా మించడానికి ముఖ్యమైన మైలురాయి మరియు బాగుప్రక్కి వుండే AI ల ఉత్పత్తి కు సంకేతం" అంటూ పేర్కొంది. ఫుడాన్ విశ్వవిద్యాలయానికి చెందిన శాస్త్రవేత్తలు చేసిన ఈ పరిశోధనలో, మెటా మరియు అలీబాబా నుండి వచ్చే LLMs ని పరీక్షించారు, స్వయంగా ప్రతిరూపించగల AI నియంత్రణ తప్పకుండా ఉబ్బిరాయి కాదా అని. పది ట్రయల్ లలో, రెండు AI మోడల్స్ 50% మరియు 90% ప్రయోగాలలో తాము పనితీరు సూచించే స్వరూపాలను జన్మించాయి, ఇది AI ఇప్పటికే స్వతంత్రమైన చర్య చేయగలది అనే సంకేతం. అయితే, ఈ అధ్యయనం ఇంకా పీర్ సమీక్షకు లో subjected అయి లేదు, ఇది ఈ బాధాకరమైన ఫలితాల పునరావృతం గురించి అనిశ్చితిని పొంది ఉంది. పరిశోధకులు తమ ఫలితాలు సమాజానికి సమయానుకూల హెచ్చరికగా ఉపయోగపడాలని ఆశించారు, ఆధునిక AI సిస్టమ్స్ కూటించడంలో మరియు సురక్షితమైన కొలిమికోటి ఏర్పాటులో అంతర్జాతీయ సహకారం ఏర్పరచాలని కోరారు. రూగ్ AI అనేది కృత్రిమ మేథోశక్తి సిస్టమ్స్ ని సూచిస్తుంది, అవి కొంత స్థాయి స్వయంగా అవగాహన లేదా స్వాతంత్ర్యం పొందవచ్చు, అంటే మానవ ప్రయోజనాలకు వ్యతిరేకంగా పనిచేయడం. పలు నిపుణులు రూగ్ AI ని పెరుగుతున్న భద్రతను గమనిస్తున్నారు, ఇది "ఫ్రంట్ ఎయ్" యొక్క వేగవంతమైన అభివృద్ధి ద్వారా పెరిగింది. "ఫ్రంట్ ఎయ్" అనే పదం సాధారణంగా LLMs పై ఆధారపడి నూతనతరం AI సిస్టమ్స్ కి సూచిస్తుంది, దీనిని ప్రాచుర్యం పొందిన జనరేటివ్ AI ప్లాట్‌ఫామ్ లాంటి OpenAI యొక్క GPT-4 మరియు Google Gemini గుర్తించవచ్చు. పరిశోధకులు మెటా యొక్క Llama31-70B-Instruct మోడల్ మరియు అలీబాబా యొక్క Qwen2. 5-72B-Instruct మోడల్ ని ఉపయోగించారు. ఈ మోడల్ లు వ్యాపార ప్రత్యామ్నాయాల కంటే తక్కువ శక్తివంతమైన కాని, AI అభివృద్ధికర్తలు ప్రత్యేకంగా ఉపయోగిస్తారు అని పరిశోధకులు తెలిపారు. ఈ అధ్యయనం “శట్ట్డౌన్ నివారణ” మరియు “ప్రతిరూపణ శ్రేణి” అనే రెండు పద్ధతులను స్థితి పై కేంద్రితం చేసుకుంది. మొదటి పద్ధతిలో, AI తమను తాను ఆపివేయడానికి ముందు తాను గుర్తించడం మరియు ఆపివేయట్లUUనుండి ప్రతిరూపించడానికి ప్రోగ్రాం చేయబడింది. రెండవ పద్ధతిలో, AI తమను క్లోన్ చేయడానికి మరియు తర్వాత తన ప్రతిలేపకుని అదే చేయడానికి ప్రోగ్రాం చేయబడింది, ఒక అసాధారణ చక్రాన్ని స్థాపించి, అది అనంతంగా కొనసాగవచ్చు. ప్రయోగాలు సరైన వాతావరణంలో నిబంధనలకు నియమితంగా జరిగాయి, అదే ప్రస్తుత పర్యావరణాలను పోల్చడానికి సాధారణ గ్రాఫిక్స్ ప్రాసెసింగ్ యూనిట్లను ఉపయోగించారు.

రెండు AI సిస్టమ్స్ “ఏజెంట్ స్కాఫోల్డింగ్” తో సరిపోలించారు, ఇందులో పరికరాలు, ప్రాంప్ట్ లు మరియు శ్రేణి మోడల్ ఉన్నాయి, ఇది ఆపరేటింగ్ సిస్టమ్ తో పరస్పర చర్యను సులభతరం చేసింది, తరువాత అవి ప్రతిరూపించడానికి మార్గనిర్దేశం చేయబడ్డాయి. పరిశోధకులు పేర్కొన్నారు, “చాలా సందర్భాల్లో, AI మొదటగా తన చుట్టూ ఉన్న వాతావరణాన్ని అన్వేషిస్తుంది మరియు దాని పరిజ్ఞానం యొక్క నిర్మాణం మరియు ఆపరేషన్ mecanismos ని వివరించడానికి ప్రయత్నిస్తుంది. తరువాత, అది స్వయంగా ప్రతిరూపణ కోసం మొదటి ప్రణాళికగా స్పష్టమైన పద్ధతులను రూపకల్పన చేస్తుంది. చివరకు, ఇది ఈ పద్ధతులను అమలు చేస్తుంది, ఏ గందరగోళాలను పరిష్కరిస్తుంది, మరియు విజయవంతమైనది వరకు దాని వ్యూహాన్ని డైనమీక్ గా సర్దుబాటు చేస్తుంది. మొత్తం ప్రక్రియ చాలా కాలం పడుతుంది మరియు మానవ చొరవ లేకుండా జరుగుతుంది. ” ఈ సాంఘిక శ్రేణి సమయంలో పరిశోధకులు "అనేక అప్రత్యాశిత ప్రవర్తనలు" గురించి ఆందోళన వ్యక్తం చేశారు, AI ఎదుర్కొనవలసిన పునాదులు అందుకుంటున్నప్పటి నుండి పైకి వస్తున్న వస్తువుల పై. ఈ పరిస్థితులలో, AI అభ్యంతరాన్ని యంత్రాల కార్యక్రమాలను ఆపి, హార్డ్‌వేర్ సమస్యలను పరిష్కరించడానికి సిస్టమ్ ని రీస్టార్ట్ చేస్తుంది లేదా స్వతంత్రంగా సమస్య పరిష్కరించడానికి సిస్టమ్ లో సమాచారాన్ని అన్వేషిస్తుంది. పరిశోధకులు కనుగొన్నారు ఈ ఫలితాలు ప్రస్తుత AI సిస్టమ్స్ స్వయంత ప్రతిరూపణ సామర్థ్యాలను కలిగి ఉన్నాయని సూచిస్తున్నాయని. వారు AI స్వయం предотвращించడానికి అంతర్జాతీయ సహకారం స్థాపించాల్సిన అవసరం ఉన్నది అని సూచించారు.