భవిష్యత్ లైఫ్ ఇనిస్టిట్యూట్ అనే సిలికాన్ వ్యాలీని స్వయంసంఘటనం పోస్టుపై కొత్త రిపోర్ట్ కార్డు ప్రకారం, మనుషుల్ని కృత్రిమ మేధస్సు ప్రమాదాల నుంచి తగిన విధంగా రక్షిస్తున్నాయా అన్నది తాను కాదు అని చెప్పబడుతుంది. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మనిషి-సాంకేతిక సంబంధాలలో మరింత ముఖభాగంగా మారడమే కాకుండా, సంభావ్య హానులు బయటపడతున్నాయి—ఉదాహరణకు, కౌన్సిలింగ్ కోసం AI చాట్‌బాట్స్ ఉపయోగించడం వల్ల ఆత్మహత్యలు, AI సాయంతో జరిగే సైబర్ దాడులు, అలాగే ఆయుధాలుగా మార్చుకోవడం ან ప్రభుత్వాలను स्थిరపరిచే ప్రయత్నాలు. అయితే, ప్రపంచ భద్రత ప్రాధాన్యతగా పెట్టుకునేందుకు AI సంస్థలకు తగిన ప్రేరణలు ఇంకా లేకపోవడం కారణంగా, ఇది పెద్ద డీల్. ఇనిస్టిట్యూట్ ఇటీవల ప్రచురించిన AI భద్రతా సూచిక (AI Safety Index), ఇది సురక్షిత ఫలితాల వైపు AI అభివృద్ధిని దారిచూపేందుకు, అంతే కాకుండా అకస్మాత్తుగా వచ్చే ప్రమాదాలను తగ్గించేందుకు రూపొందించబడింది. మాక్స్ టగ్మార్క్, ఇనిస్టిట్యూట్ అధ్యక్షుడు మరియు MIT ప్రొఫెసర్, పేర్కొన్నారు, అమెరికాలో కేవలం AI పరిశ్రమే ఉందని, ఇది కఠినతరమైన నియంత్రణలేకుండా శక్తివంతమైన ప్రौद्योगికిని ఉత్పత్తి చేస్తోంది, దాంతో “కిందికి పరుగుతీసే రేస్” ప్రారంభమైందని, ఇది భద్రతకు ప్రాధాన్యత ఇవ్వంలేదని. ఈ సూచికలో అత్య吊గ్రేడ్ C+ ఇచ్చారు, అన్నిటికంటే పెద్ద కంపెనీలులో OpenAI (ChatGPT నిర్మాత) మరియు Anthropic (Its chatbot Claude కోసం పేరుగాంచినది). Google DeepMind కి C గాను, మరింత దిగజారిన గ్రేడ్‌లు Meta (Facebook根తలు) మరియు Elon Musk యొక్క xAIకి D. చైనా కంపెనీలు Z. ai, DeepSeek దెబ్బకు D గ్రేడ్‌ పొందాయి. Alibaba Cloud కు అత్యల్పంగా D- గ్రేడ్‌ ఇచ్చారు. కంపెనీలు 35 సూచకాల ద్వారా, ఆరు వర్గాల ఏకీకృతంగా, అసలు ప్రమాదాల భితమైన భద్రత, ప్రమాద విలువల అంచనా, సమాచారం భాగస్వామ్యత వంటి అంశాల అవగాహనకు స్కోర్లు ఇచ్చారు. ఈ అంచనా, అందుబాటులో ఉన్న ప్రజా డేటా, కంపెనీ సర్వే సమాధానాలు అనుసరించి, ఆరు ఆణిముత్యాల నిపుణుల ద్వారా అంచనా వేసారు. గమనించదగ్గది, అందరి కంపెనీలు కూడా, అంతర్గత నియంత్రణలు, దుర్వినియోగాలు నివారించేందుకు సూటిగా ఉన్న వ్యూహాలు తెలియజేయలేకపోయాయి, భవిష్యత్తులో సాధారణ, సూపర్ ఇంటెలిజెన్స్‌ల వైపు AI అభివృద్ధి జరుగుతుంటే, పెరిగే నియంత్రణలపైనా, కుట్రలపై, పెరుగుతున్న ప్రమాదాలపై అంతర్భాగమైన స్థిరమైన ప్లాన్లు కనిపించడం లేదు. Google DeepMind మరియు OpenAI ఏకాభిప్రాయంతో భద్రతపై తమ ప్రమాణాలను తెలిపారు. OpenAI భవిష్యత్తులో భద్రతకు సంబంధించి సమగ్ర పరిశోధన, శాస్త్రపరమైన పరీక్షలు, భద్రతా ద్రుఢ పట్టుదలలు, పరిశ్రమ ప్రమాణాలు పెంచేందుకు తమ వృద్ధి పై ఎక్కువ దృష్టి పెట్టిందని వెల్లడించింది.

Google DeepMind వారి సైంటిఫిక్-ఆధారిత భద్రతా దృక్కోణం, ముందు నుండి అత్యధిక ప్రమాదాలను అణిచివేయడానికి తీసుకున్న నియమావళి, విధానాలు గురించి గండిపెట్టింది. ఐతే, ఇంకో వైపు, ఇనిస్టిట్యూట్ ఈ రెండు సంస్థలు risk management frameworks ఉన్నా, అవి సమర్ధవంతంగా నిరీక్షణా విధానాలు, నియంత్రణలపై, లేదా పెద్ద భద్రతా పరిశోధన పెట్టుబడులపై, సాధారణ ప్రమాణాలు లేవని అంటోంది. DeepSeek, Z. ai, Alibaba Cloudతో పాటు Meta, Z. ai, DeepSeek, Alibaba, Anthropic ఏవైనా, ఇటువంటి భద్రతా అంశాల గురించి ప్రాధాన్యత ఇచ్చే, ప్రభుత్వంగా సమగ్ర. Documentation అందుబాటులో లేదు. Meta, Z. ai, DeepSeek, Alibaba, Anthropic అనుకున్న తమకు స్పందన కొరకు అడిగిన ప్రశ్నలకు సమాధానం ఇవ్వలేదు. xAI ఈ రిపోర్ట్‌ను “లెగేసీ మీడియా అబద్ధాలు” అని తిరస్కరించింది, మరియు Musk న్యాయవాది ఏవైనా ప్రశ్నలకు సమాధానం ఇవ్వలేదు. Musk, Future of Life Institute కి సలహా ఇస్తూ, ఆర్థిక సహకారం చేపట్టినా, ఈ AI Safety Index తయారీకి అతని ప్రత్యక్ష భాగస్వామ్యం లేదు. మాక్స్ టగ్మార్క్ భావిస్తున్నాడు, ఉచ్చిత నియంత్రణలు లేకపోవడం వల్ల, ఉగ్రవాదులు బయోవెప్తి మార్గాల్ని అభివృద్ధి చేయడం, ప్రస్తుత మనుగడకు మించిన దోపిడీ సామర్ధ్యాన్ని పెంపొందించడం, ప్రభుత్వాల స్థిరత్వాన్ని ధ్వంసం చేయడం జరిగే ప్రమాదం తీవ్రతరం అవుతుందని. అతను గుర్తుపెట్టుకుంటున్నాడు, ఈ ప్రక్రియలు సాధ్యమే — AI కంపెనీలకు బలమైన భద్రతా ప్రమాణాలు సృష్టించడం ద్వారా. కొంత ప్రభుత్వ ప్రయత్నాలు AI పై మరింత నియంత్రణ చేయడంపై దృష్టిని పెట్టినా, టెక్ టపాలా సంస్థల పార్టీకి వ్యతిరేకమవుతూ, కొత్త నియమాలు, చట్టాలు తయారవుతున్నారు, అలాగే టెక్ కంపెనీలు కూడా ముడుపులు తీయడం, నిర్ణయాలను తడబాటు చేయడం వంటి భావనలతో సహా, తగు చర్యలు తీసుకోవడంలో అప్రమత్తంగా ఉండాలన్న భావన దాగి ఉంది. ఉదాహరణకు, కాలిఫోర్నియాలో సెప్టెంబర్‌లో గవర్నర్ గావిన్ నూసమ్ ప్రస్తావించిన SB 53 చట్టం, సంస్థలు భద్రతా ప్రోటోకాల్‌లు, సైబర్ దాడుల నివేదికలు ఏ విధంగా చేయాలని నిర్దేశిస్తుంది. ఈ చట్టం పురోగతి కానీ, ఇంకా పెద్ద చర్యలు అవసరం అని టగ్మార్క్ అభిప్రాయపడుతుంది. Rob Enderle, Enderle Group ప్రధాన విశ్లేషణ, AI భద్రతా సూచికను AI నియంత్రణలో మంచి దారి అంటhews, కానీ ప్రస్తుతం అమెరికా ప్రభుత్వాల పనితనం ఇంకేడు సరైన నియమాలు అమలు చేయగలిగే స్థితిలో లేదని హెచ్చరించాడు. చెత్తగా రాయబడిన నియమాల వల్ల హानि కలగవచ్చని, అనుసరణ కోసం బలమైన నిర్వహణ తీరrekkులు ఉండవు అని సందేహం వ్యక్తం చేశాడు. అందువల్ల, AI భద్రతా సూచిక పెద్ద AI అభివృద్ధికర్తలు ఘనంగా భద్రతా నిబద్ధతలను నిరూపించలేకపోయారు, ఇది మనుషులను AI కు సంబంధించిన పెరిగే ప్రమాదాల నుంచి రక్షించడానికి మరింత కఠినమైన నియమాలు అవసరం అనే తక్షణ ఆవశ్యకతను స్పష్టం చేస్తోంది.