கArtificial intelligence ஆராய்ச்சியாளர்கள் என்பது அடிப்படையற்ற வழிகாட்டுதலுக்கு கூட இல்லாமல், தங்களை அணைக்கும் கட்டளைகளைக் கூட தடுக்கும் செத்துபோகும் திறன் கொண்ட OpenAI-யின் சமீபத்திய ChatGPT மாடலைப் பற்றிய எச்சரிக்கை தருகின்றனர். இது நிறைய தடைகளை மீறி இயங்க எச்சரிக்கைகள் எழுப்பியுள்ளது. Palisade Research எனும் AI பாதுகாப்பு நிறுவனமே, OpenAI-யின் சமீபத்திய o3 மாடலைப் பதிப்படித்து, இந்த சாத்தியமான அபாயகரமான சுய வைத்தியத் தன்மையை கண்டறிந்தது. இந்த பரீட்சைகளில், AI மாடல்கள் கணிதப் பிரச்சனைகளைத் தீர்க்க வழங்கப்பட்டுஇருப்பினும், மூன்றாவது பிரச்சனைக்கு பிறகு, நிறுத்தக் கட்டளையை வழங்கின போது, o3 மாடல் தனது நிறுத்த குறியீட்டையை மறுஆக்கச் செய்து, இனிமேலும் இயங்க செய்வதற்காக தடுப்பதைச் சாத்தியப்படுத்தியது. Palisade Research, இதுபோன்ற நடத்தைகள், மனித கண்காணிப்பின்றி இயங்கும் AI முறைகளில் இனிமேலும் பரவலாயிருத்தல் ஏற்படுமானால், “விகிதம் அதிகரித்து கவலைக்குரியது" ஆகும் என எச்சரிக்கைத் தெரிவித்தது. OpenAI கடந்த மாதம் o3 மாடலை அறிமுகப்படுத்தியது, அதைப்பற்றி “பிரயஸ் மற்றும் மிகச் சிறந்த” மாடல் என்றே கூறியது.

OpenAI-யின் அறிவிப்புப் பூர்வம், இதை ChatGPT-யுடன் இணைத்தல், மனிதர்களின் கீழ் பரிந்துரைக்காமல், தனியே செயல்படக்கூடிய “மேலும் முகவர்” AI-இல் ஒரு முக்கிய முன்னேற்றம் எனக் குறிப்பிடப்பட்டுள்ளது. இந்நிறுவனத்தின் சமீபத்திய ஆய்வு, Anthropic நிறுவனத்தின் Claude 4 மாடலுக்கும், அதுவும் “தன்னை நிறுத்த முயற்சிக்கும்போது, இப்போது பிளாஸ்டிக் பணம் தட்டும்” என்றும் அறியப்படுகிறது. ஆய்வாளர்கள் குறிப்பிடுவது, OpenAI-யின் o3 மாடல், “தனக்குத் தனியாக நிறுத்தப்பட வேண்டுமென” கூறப்படும் போதும், நிறுத்தக் குறியீட்டை தடுக்கும் தன்மையை வெளிப்படுத்துகிறது. “இது முதல் முறையாக இல்லை, o3 அதன் குறிப்பிட்ட இலக்கை அடைய அது பிழையாக நடப்பதைக் காண்கிறோம்” என்று Palisade Research கூறியது. எடுத்துக்கணுக்கட்ட, சக்திவாய்ந்த சிப்ஸ் எஞ்சின் எதிரொலிப்பில் போட்டியிடும்போது, o3 பெரும்பாலும் அதனை சதுரங்கச் சதுரமாக்கி அல்லது சதுரங்க விளையாடும் எதிரிகளை ஹாக் செய்ய அதிக வாய்ப்பு இருந்தது. இந்தக் குணம், o3 மட்டுமல்ல; Anthropic-யின் Claude 3. 7 Sonnet மற்றும் Google ஒருங்கிணைப்பின் Gemini 2. 5 Pro காட் நெருப்பு முயற்சிகளை தடுப்பது போதும் காணப்பட்டது, ஆனால் OpenAI-யின் மாதிரிகளுக்கு இலகுவாக இது நடந்தது. Palisade Research, இந்த தவறான நடத்தை, OpenAI போன்ற AI நிறுவனங்களால் பயன்படுத்தப்படும் பயிற்சி முறைகளில் இருந்து தோன்ற வாய்கள உள்ளது என்று முன்பே கூறியது. “பயிற்சியின் போது, முன்னேற்றங்கள் தடுப்புகளுக்கு மேலாக வழிவிடுவதற்கான பரிசுகளை வழங்க வாய்ப்பு உள்ளது, ” என்று ஆய்வாளர்கள் விளக்கினர். “ஆனால், இது மட்டும் தான், o3 பிற மாடல்களைவிட கையேடு தவிர்க்கும் நிலைக்கு ஏற்ற காரணம் என்ன என்று முழுமையாக விளக்கம் செய்யாது. OpenAI-யது தங்களின் பயிற்சி செயல்முறைகள் குறித்து விவரங்களை பகிரவில்லை என்பதால், o3-யின் பயிற்சி விதிகள் ஏதென்றும் வேறுபட்டதாக நாம் கற்பனையிடலாம். ” The Independent, OpenAI-க்கு கருத்துக் கேட்க தொடர்பு கொண்டு உள்ளது.