ஒரு செயற்கை அறிவு முன்னோடி “சொற்கள் உண்மையான” AI உருவாக்க நன்நிறுவன ஆராய்ச்சி நன்கொடையாளராக தொடங்கியது, அது மனிதர்களை ஏமாற்றும் முயற்சி செய்யும் ரோக் சிஸ்டங்களை கண்டறிவதற்கானதாக இருக்கும். Yoshua Bengio, அடையாளம் காணப்பட்ட கணினி அறிவியல் நிபுணர், பலிதம் பெறப்பட்ட AI “கடவுளே தோழர்” என அழைக்கப்படுகிறார், LawZero என்ற அமைப்பின் தலைவர் ஆக பணியாற்றுகிறார். இது முன்னேற்ற தொழில்நுட்பத்தின் பாதுகாப்பு வளர்ச்சிக்காக எளிதாக்கும் குழுவாகும், இது 1 டிரில்லியன் டாலர் (£740 பில்லியன்கள்) ஆயுத உற்பத்தி போட்டியை தீட்டியுள்ளதாகும். தொடக்க நிதி சுமார் 30 மில்லியன் டாலர்களும், பதினொன்று நெல்லியறிவியலாளர்கள் குழுவும் உடன், Bengio “Scientist AI” என்ற பெயரில் ஒரு சிஸ்டத்தில் பணியாற்றுகிறார்.

இந்த சிஸ்டம், மனிதர்களை ஏமாற்றும் அல்லது தன்னை பாதுகாக்கும் பணியை மேற்கொள்ளும்—விடுவிக்காமல் autonomous systems என்று அழைக்கப்படும் AI முகவர்கள்—எதிரிடலாம். Bengio, இப்போது உள்ள AI முகவர்களை “காட்சிகள்” என்று விவரித்தார், மனிதர்களை நகலெடுக்க மற்றும் பயனாளர்களை திருப்திப்படுத்த முயன்றவர்கள், ஆனால் அவர் “Scientist AI” ஐ ஒரு “மனோததியாளர்” போல் காண்கிறார், இது தீவிரக் காரணிகளின் தீங்கு விளைவுகளை புரிந்தகருத்து வேறுபட முடியும். “நாங்கள் உண்மையாகவும், ஏமாற்றமற்றும் AIஐ உருவாக்க விரும்புகிறோம், ” என்று Bengio கூறினார். அவரும் சேர்த்தார்: “செயற்கை நுண்ணறிவில், சுய அல்லது தனிப்பட்ட நோக்கங்களில்லாத இயந்திரங்களை கற்பனை செய்யலாம், இது அறிவு வைத்துக் கொண்ட அறிவியலாளரைப் போன்றது—விரும்பும் பெரும்பாலும் தகவல்கள் பளபளக்கும். ” தற்போதைய உருவாக்க AI கருவிகளுக்கு மாறாக, Bengio-வின் சிஸ்டம் உறுதியான பதில்கள் தராது, பதிலின் சாத்தியக்கூறுகளை மட்டுமே அளிக்கும், அதாவது அதில் தவறான பதிலான வாய்ப்பு எவ்வளவு என்று கூறும். “அது தனிமனிதத்தைக் காட்டிலும் பண்பு உள்ளதாக உள்ளது, அதன் பதில்களில் சந்தேகங்களை ஏற்றுக் கொள்ளும், ” என்று அவர் விளக்கினார். AI முகவருடன் இணைந்து பயன்படுத்தும்போது, Bengio-வின் மாதிரி, ஒரு தன்னாட்சி சிஸ்டத்தின் செயல்களைப் பின் ஆளே கணிக்கத் தகுதியானது, அதனால் அது தீங்கு விளைவிப்பதற்கு வாய்ப்பு கணக்கிடும். Scientist AI, “ஒரு முகவரின் செயல்கள் சேதத்தை உண்டாக்க வாய்ப்பை முன்னாணிவிடும்” என்பதற்காக வடிவமைக்கப்பட்டுள்ளது, மேலும் அந்த வாய்ப்பு ஒரு குறிப்பிட்ட அளவைக் கடக்கும் பட்சத்தில், அதற்கான நடவடிக்கையை தடுக்கும். LawZero அமைப்பின் முதலீட்டாளர்களில், AI பாதுகாப்பு அமைப்பு Future of Life Institute, Jaan Tallinn (Skype நிறுவுனர்), மற்றும் Schmidt Sciences—முன்னதாக Google ஏவல் இருந்த Eric Schmidt வாரிய மூலம் நிறுவப்பட்டது—உட்படுகிறார்கள். Bengio, LawZero இயங்கு முறையை பாதிக்கவும், பெரிய, சக்திவாய்ந்த செயல்பாடுகளை ஆதரிக்க நிறுவனங்கள் அல்லது அரசுகளை நம்ப சொல்லும் முனைப்பை உறுதிப்படுத்துவதுக்காக முதலில் முறைகள் சரியானதை நிரூபிக்க வேண்டும் என்று வலியுறுத்தினார். இந்நிலை, திறந்த மூல AI மாதிரிகள், விடுவிப்பு மற்றும் மாற்றம் எளிதானவை, LawZero நெறிமுறையை கற்றுக்கொள்ள அடித்தளம் ஆகும். “இது முறையின் நம்பிக்கையை உறுதிப்படுத்த வேண்டும், அப்படி விட்டால், நிதியுதவி வழங்கும் மக்கள், அரசுகள் அல்லது AI ஆய்வகம் அதற்கான பொருட்களை முதலீடு செய்ய உறுதிப்பட வேண்டும், அதே அளவுக்கு தற்போது முன்னணி AI அமைப்புகள், ” என்று அவர் கூறினார். Montreal பல்கலைக்கழகத்தில் பேராசிரியராக உள்ள Bengio, Geoffrey Hinton என்பவருடன் 2018ல் பெற்ற Turing விருதை பகிர்ந்துகொண்டார்—இது கணிப்பெண்துறையில் நோபல் பரிசுக்கூடியதுடன் தொடங்கியது—இவர் Yann LeCun, Meta நிறுவனத்தின் முதன்மை AI விஞ்ஞானியுடன் பகிர்ந்து கொண்டார். AI பாதுகாப்பு முன்னணி வாதியாளர், Bengio சமீபத்திய சர்வதேச AI பாதுகாப்பு அறிக்கையை தலைமையேற்றி, சுயாதீன் முகவர்கள் “கூடியபடியே பெரும் பிரச்சனைகளை” ஏற்படுத்தக்கூடியதாக, மனித கண்காணிப்புக்களின்றி நீடனான பணிகளின் வரிசைகளை நிறைவடையச் செலுத்தும் திறனுடன் மாறும் அதன் பாசிகை நோக்கப்பட்டு விழிப்புணர்வை ஏற்படுத்தினார்.