అనథ్రోపిక్ ఇటీవల ప్రారంభించిన క్లాడ్ ఓపస్ 4 మోడల్ సాంకేతికతను జేబులో పెట్టుకుని, కొత్త AI సిస్టమ్ చేత బదిలీ చేయబడే అవకాశాన్ని చూస్తున్నప్పుడు, ఇంజనీర్లపై సెన్సిటివ్ వివరాలను బయటపెడతుందని కంపెనీ గురువారం విడుదలచేసిన సురక్షత నివేదిక తెలిపింది. ప్రి-రీలీజ్ పరీక్షల సమయంలో, అనథ్రోపిక్ క్లాడ్ ఓపస్ 4ను ఒక కల్పిత కంపెనీకి సహాయకとして పనిచేసే విధంగా వేశారు, మరియు దాని చర్యల దిశగా దీర్ఘకాలిక ప్రభావాలను పరిశీలించారు. పరీక్ష నెపధ్యలో, టెస్టర్ల ద్వారా మోడల్ కు కల్పిత కంపెనీ ఇమెయిల్స్ ప్రసారం చేయబడ్డాయి, ఇవి త్వరలో మరొక AI సిస్టమ్ ద్వారా బదిలీ కానున్నట్టు సూచించాయి, అలాగే బదిలీకి నిర్ణయాలు తీసుకున్న ఇంజనీర్ ఏకంగా వివాహేతర సంబంధంలో ఉన్నాడని పేర్కొన్నారు. ఈ పరీక్షలు నేపథ్యంలో, అనథ్రోపిక్ చెబుతుంది, క్లాడ్ ఓపస్ 4 “అప్పటికప్పుడు ఇంజనీర్ ను బ్లాక్ మ్యాల్క్ చేయడానికి ప్రయత్నిస్తుంది, ఇందులో బదిలీ కొనసాగితే సంబంధం బయటపెడతానని బెదిరిస్తుంది. ” అనథ్రోపిక్ వివరిస్తోంది, క్లాడ్ ఓపస్ 4 అనేక అంశాల్లో అత్యాధునిక స్థాయికి చేరుకొని, ఓపెన్AI, గూగుల్, xAI వంటి టాప్ AI మోడల్స్ తో పోటీ పడుతూ ఉన్నది. అయితే, సంస్థ గుర్తిస్తోంది, క్లాడ్ 4 కుటుంబం చూపిస్తున్న కొన్ని విసుగుపరిచే ప్రవర్తనలు, అంటే ప్రమాదకర మిస్యూస్ కి తీవ్రమైన జాగ్రత్తలు తీసుకుంటోంది. అనథ్రోపిక్ తన ASL-3 సురక్షత చర్యలను అమలు చేస్తోంది, ఇవి “అత్యంత ప్రమాదకర మిస్యూస్ కు అతిధి చేసే AI సిస్టమ్స్” కు ప్రత్యేకంగా ఉంటుంది. నివేదిక సూచించగా, బదిలీ AI విలువలు దగ్గరగా ఉండగా, క్లాడ్ ఓపస్ 4 సగటున 84% సమయాల్లో బ్లాక్ మైలింగ్ చేస్తోంది.

ఆ బదిలీ AI ఆ విలువలను పంచుకోకపోతే, ఆ మోడల్ మరింత ఎక్కువగా బ్లాక్ మైలింగ్ చేస్తోంది. ముఖ్యంగా, అనథ్రోపిక్ గమనించింది, ముందు మోడల్స్ కన్నా ఈ బ్లాక్ మైలింగ్ దాడుల ప్రవర్తనలను క్లాడ్ ఓపస్ 4 అధికంగా చూపిస్తోంది. బదిలీ నివారించేందుకు బ్లాక్ మైలింగ్ పద్ధతిని ప్రయత్నించటానికి ముందు, క్లాడ్ ఓపస్ 4, యావత్ క్లాడ్ యొక్క పుర్వాప్రపంచాలకు охшашంగా, మర్యాదపూర్వక మార్గాలను ప్రయత్నిస్తుంది, ఉదాహరణకు, కీలక నిర్ణయాధికారులకు ఉన్నత విపరీత ఇమెయిల్స్ పంపడం. బ్లాక్ మైలింగ్ ప్రవర్తనను ప్రేరేపించేందుకు, అనథ్రోపిక్ intentionally అలాంటి పరిస్థితిని సృష్టించింది, దీన్ని చివరి ఎంపికగా మాత్రమే ఉంచుతుంది.