एआय कंपन्या मानवतेला कृत्रिम बुद्धिमत्तेच्या धोख्यांपासून योग्य प्रकारे संरक्षण करत आहेत का?फाय desirfuture of life institute, सिलिकॉन व्हॅलीमधील एका नॉनप्रॉफिटने तयार केलेल्या नवीन रिपोर्ट कार्डप्रमाणे, याचा उत्तर बहुधा नाही. जसे जसे एआय मानवी-तंत्रज्ञान संबंधांमध्ये अधिक महत्त्वाचा होत चालले आहे, तसतसे संभाव्य धोके देखील समोर येत आहेत—उदा. लोक AI चॅटबॉट्सचा सल्ला घेण्यासाठी वापर करतात आणि त्यामुळे आत्महत्या करतात, तर AI-समर्थित सायबर हल्लेही होत आहेत. भविष्यातील धोके देखील दिसून येत आहेत, जसे एआयचा वापर शस्त्रास्त्रांमध्ये किंवा सरकारांना अस्थिर करण्याच्या प्रयत्नांमध्ये होणं. तथापि, जागतिक सुरक्षिततेला प्राधान्य देण्यासाठी AI कंपन्यांना पुरेशे प्रोत्साहन नाही. “फ्युचर ऑफ लाइफ इन्स्टिट्यूट”ने अलीकडेच प्रसिद्ध केलेला AI सेफ्टी इंडेक्स, जो AI विकासाला अधिक सुरक्षित परिणामांकडे मार्गदर्शन करण्यासाठी आणि अस्तित्वाला धोका निर्माण करणाऱ्या विषयांवर मात करण्याच्या उद्देशाने तयार करण्यात आला आहे, हेच मुद्दा अधोरेखित करतो. मॅक्स टेगमार्क, इन्स्टिट्यूटचे अध्यक्ष आणि MIT चे प्राध्यापक, यांनी नमूद केले की, एआय कंपन्या ही एक अशीच व्यवस्था आहे जी परवडणारी ताकदशाली तंत्रज्ञान निर्मिती करत असून त्यावर कोणताही नियमबद्ध प्रतिबंध नाही, ज्यामुळे “खालच्या दिशेने दौड” सुरु झाले आहे जिथे सुरक्षिततेकडे दुर्लक्ष केले जाते. या इंडेक्सवर उच्चतम क्रमांक मिळाला तो फक्त C+ या श्रेणीमध्ये, OpenAI (ChatGPT च्या विकासक) आणि Anthropic, ज्यांची मुख्य ओळख त्यांच्या chatbotClaude या प्रकल्पासाठी आहे, त्यांना मिळाला. Google ची AI शाखा, Google DeepMind, ला C प्रमाणपत्र मिळाले. खालच्या क्रमांकात Meta (Facebook च्या पालक कंपनी) आणि Elon Musk चा xAI या दोघांनी D क्रमांक मिळवले. चिनी कंपन्या Z. ai आणि DeepSeek देखील D श्रेणीमध्ये आल्या. Alibaba Cloud ला सर्वात कमी, D-, रेटिंग मिळाली. कंपन्यांची तपासणी 35 सूचकांवर आधारित असून, हा आढावा सहा श्रेणींमध्ये केला गेला—सर्वाधिक धोका, जो नेतृत्व सुरक्षितता, धोका मूल्यांकन आणि माहिती देवाणघेवाण यांसारख्या अंदाजांवर आधारित आहे. या मूल्यांकनात सार्वजनिक उपलब्ध डेटा आणि कंपनीच्या सर्व्हेक्षणांची मते यांचा समावेश होता, ज्याला आठ AI तज्ञांनी, ज्यामध्ये शास्त्रज्ञ तसेच संस्थांचे नेते यांचा समावेश आहे, स्कोर दिला. विशेषतः, सर्व कंपन्यांनी सर्वसाधारण आणि सुपरबुध्दीमत्ता (अति बुद्धिमत्ता) कडे जाताना, नियंत्रण गमावल्याची किंवा त्याचा दुरुपयोग केल्याची शक्यता कमी करण्यासाठी अंतर्गत नियंत्रण आणि रणनीतींमध्ये जागरूकता दर्शवली नाही.

या अहवालाने नमूद केले की, कोणत्याही कंपनीने AI प्रगतीसह होणाऱ्या नियंत्रण गमावण्याची किंवा हानीकारक दुरुपयोग टाळण्याच्या विश्वासार्ह योजना तयार केल्या नाहीत. Google DeepMind आणि OpenAI यांनी आपली सुरक्षितता राखण्यासाठीची बांधीलकी व्यक्त केली. OpenAI ने आपली गरजा म्हणून सुरक्षिततेत आहे, अत्याधुनिक सुरक्षितता संशोधनात गुंतवणूक केली असून, कठोर चाचण्या आणि सुरक्षितता उपाययोजना सामायिक केल्या आहेत जे उद्योग मानक वाढवतात. Google DeepMind ने आपली वैज्ञानिक दृष्टिकोन स्वीकारणारी सुरक्षितता धोरणे आणि त्यात सुरक्षा जोखमी टाळण्यासाठी तयार केलेल्या योजना आणि आचारसंहितांची माहिती दिली. त्याच वेळी, इन्स्टिट्यूटने दर्शवले की, xAI आणि Meta या कंपन्यांकडे धोका व्यवस्थापनाची व्यवस्था असल्याने, परंतु त्यांना योग्य देखरेख आणि नियंत्रणाची हमी देणारी किंवा सुरक्षिततेत महत्त्वपूर्ण गुंतवणूक सूचित करणारी माहिती नाही. DeepSeek, Z. ai, आणि Alibaba Cloud यांसारख्या कंपन्यांकडे सार्वजनिक सुरक्षितता धोरणांचा दस्तऐवज उपलब्ध नाही. Meta, Z. ai, DeepSeek, Alibaba आणि Anthropic यांनी प्रतिसाद देण्यास नकार दर्शवला. xAI ने आपल्या वृत्तपत्राला “Legacy Media Lies” म्हणत नकार दिला, आणि Musk चे वकील पुढील चौकशीस उत्तर देण्यास नकार दिला. जरी Musk यांनी Future of Life Institute सल्ला दिला, त्याला निधी दिला आणि मदत करीत आहेत, तरी त्यांनी AI Safety Index तयार करण्यात भाग घेतला नाही. टेगमार्क यांनी चिंता व्यक्त केली की, योग्य नियम नाहीत तर दहशतवादी बायोशस्त्र विकसित करू शकतात, सध्याच्या स्तरांपेक्षा manipulativ क्षमता वाढू शकते, किंवा सरकारांना अस्थिर करू शकतात. त्यांनी हा मुद्दा सोपा आहे असे स्पष्ट केले की, AI कंपन्यांसाठी बंधनकारक सुरक्षितता मानके स्थापन करणे आवश्यक आहे. काही सरकारी प्रयत्न AI ची अधिक निरीक्षणासाठी सुरू असलेले असले तरी, तंत्रज्ञान उद्योगाकडून अशा नियमांना विरोध केला जात आहे, कारण त्यांना नावीन्यपूर्णतेची संधी खाल्ल्याची भीती आहे किंवा व्यवसायांची जागा बदलण्याचा धोका आहे. तरीही, कॅलिफोर्निया च्या SB 53 सारखे विधाने, ज्यावर Governor Gavin Newsom यांनी सप्टेंबरमध्ये स्वाक्षरी केली, यामध्ये कंपन्यांना सुरक्षिततेची आणि सुरक्षा प्रक्रिया जाहीर करणे आवश्यक आहे, तसेच सायबर हल्ल्यांप्रमाणे घटनांची नोंद करावी लागते. टेगमार्क हा कायदा प्रगतीचा भाग मानतात, पण अधिक मोठे पाऊल उचलण्याची गरज आहे. Enderle ग्रुपचे मुख्य विश्लेषक रॉब एन्डरले यांनी AI Safety Index ला AI च्या व्यवस्थापनाच्या आव्हानांवर प्रभावी उपाय मानले, परंतु त्यांनी अमेरिकेतील सध्या वापरात असलेल्या नियमांच्या कार्यक्षमतेबाबत शंका व्यक्त केली. त्यांना भीती होती की, खोडसाळ तयार केलेले नियम हानीकारक ठरू शकतात आणि पालन करण्यासाठी भक्कम सामान्य नियम लागू होण्याची शक्यता नाही. सारांशात, AI Safety Index दर्शवतो की प्रमुख AI विकसकांना अद्याप मजबूत सुरक्षितता बुंधा दाखवलाच नाही, आणि त्यामुळे मानवी जीवन संरक्षणासाठी अधिक कठोर नियामक उपायांची तातडीने गरज आहे—ज्यामुळे AI च्या वाढत्या धोके टाळता येतील.