ਇਸ ਹਫਤੇ ਦੀ ਓਪਨ ਕਵੈਸ਼ਨ ਕਾਲਮ ਲਈ, ਕੈਲ ਨਿਊਪੋਰਟ ਨੇ ਜੋਸ਼ੂਆ ਰੋਥਮੈਨ ਦੀ ਥਾਂ ਲੈ ਲਈ ਹੈ। 1940 ਦੇ ਬਹਿਰਤਨ ਕਾਲ ਵਿੱਚ, ਵੀਹ ਸਾਲ ਦੇ ਆਇਜ਼ੈਕ ਆਸੀਮੌਵ ਨੇ “ਨਜੀਆ ਤਾਲਮੇਲ” ਨਾਮਕ ਇੱਕ ਛੋਟੀ ਕਹਾਣੀ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੀ, ਜਿਸ ਵਿੱਚ ਰੌਬੀ named Robbie, ਇੱਕ ਕ੍ਰਿਤ੍ਰਿਮ ਬੁੱਧੀ ਵਾਲਾ ਮਸ਼ੀਨ ਸਾਥੀ, ਗੁਰਲੀਆ ਮਹਿਲਾ ਖੁਸ਼ੀ ਖੇਡਦਾ ਹੈ। ਪਹਿਲਾਂ ਦੇ ਰੋਬੋਟਾਂ ਦੀਆਂ ਥਾਵਾਂ—ਜਿਵੇਂ ਕਿ ਕਰੈਲ ਚਾਪੇਕ ਦਾ 1921 ਦਾ ਪ੍ਰਸਿੱਧ ਨਾਟਕ “R. U. R. ”, ਜਿਸ ਵਿੱਚ ਕ੍ਰਿਤ੍ਰਿਮ ਮਨੁੱਖ ਹੂਨ Parentਥਾ ਕਰਦੇ ਨੇ, ਜਾਂ ਐਡਮਡ ਹੈਮਿਲਟਨ ਦੀ 1926 ਦੀ ਕਹਾਣੀ “ਧਾਤੂ ਵਰੱਧੀ”, ਜਿਸ ਵਿੱਚ ਨਾਸਕੀਨ ਮਸ਼ੀਨਾਂ ਨੂੰ ਦਿਖਾਇਆ ਗਿਆ—ਆਸੀਮੌਵ ਦਾ ਰੌਬੀ ਕਦੇ ਮਨੁੱਖਾਂ ਨੂੰ ਨੁਕਸਾਨ ਨਹੀਂ ਪਹੁੰਚਾਉਂਦਾ। ਇਸ ਦੀ ਥਾਂ, ਇਹ ਕਹਾਣੀ ਗੁਰਲੀਆ ਦੀ ਮਾਂ ਦੀ ਭਰੋਸਾ ਦੀ ਘਾਟ ’ਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਿਤ ਕਰਦੀ ਹੈ: “ਮੈਂ ਆਪਣੀ ਧੀ ਨੂੰ ਮਸ਼ੀਨ ਦੇ ਹਥਿਆਰ ਵਿੱਚ ਨਹੀਂ ਦਿਵਾਂਗੀ, ” ਉਹ ਕਹਿੰਦੀ ਹੈ, “ਇਹ ਤੇ ਆਤਮਾ ਨਹੀਂ ਹੈ, ” ਜਿਸ ਨਾਲ ਰੌਬੀ ਨੂੰ ਹਟਾਇਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਗੁਰਲੀਆ ਦਾ ਦਿਲ ਟੁੱਟਦਾ ਹੈ। ਆਸੀਮੌਵ ਦੇ ਰੋਬੋਟ, ਜਿਨ੍ਹਾਂ ਵਿਚ ਰੌਬੀ ਸ਼ਾਮਿਲ ਹੈ, ਦਾ ਮਸੂਲੀਕ ਹਿਮਾਇਤ ਵਾਲਾ ਦਿਮਾਗ ਹੈ ਜੋ ਖਾਸ ਤੌਰ ’ਤੇ ਮਨੁੱਖਾਂ ਨੂੰ ਨੁਕਸਾਨ ਨਹੀਂ ਪੁਚਾਉਂਦਾ। ਇਸ ਨੂੰ ਵਧਾਉਂਦੇ ਹੋਏ, ਆਸੀਮੌਵ ਨੇ ਤਿੰਨ ਨਿਯਮਾਂ ਨੂੰ ਪੇਸ਼ ਕੀਤਾ, ਜੋ ਅੱਠ ਕਹਾਣੀਆਂ ਵਿਚ ਪ੍ਰਗਟੇ ਹੋਏ ਹਨ ਅਤੇ ਬਾਅਦ ਵਿੱਚ 1950 ਦੀ ਵਿਗਿਆਨ ਕਲਪਨਾ ਕਿਤਾਬ *ਮੈਂ, ਰੋਬੌਟ* ਵਿਚ ਇਕੱਠੇ ਕੀਤੇ ਗਏ ਹਨ: 1. ਕਿਸੇ ਰੋਬਟ ਨੂੰ ਮਨੁੱਖ ਨੂੰ ਨੁਕਸਾਨ ਨਹੀਂ ਰੱਖਣਾ ਜਾਂ ਬੈਠਕ ਨਾਲ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੀ ਆਗਿਆ ਨਹੀਂ ਦਿੱਤੀ ਜਾ ਸਕਦੀ। 2. ਰੋਬਟ ਨੂੰ ਮਨੁੱਖ ਦੀਆਂ ਹુકਮਾਂ ਦੀ ਪਾਲਣਾ करनी ਚਾਹੀਦੀ ਹੈ, ਜਦ ਤੱਕ ਉਹ ਪਹਿਲੇ ਨਿਯਮ ਨਾਲ ਤਿੱਧਾ ਨਾ ਹੋਵੇ। 3.

ਰੋਬਟ ਨੂੰ ਆਪਣੀ ਹੋਂਦ ਦੀ ਸੁਰੱਖਿਆ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਜਦ ਤੱਕ ਇਹ ਦੂਜੇ ਜਾਂ ਪਹਿਲੇ ਨਿਯਮ ਦੇ ਉਲਟ ਨਾ ਹੋਏ। ਅੱਜ ਹੀ *ਮੈਂ, ਰੋਬੌਟ* ਨੂੰ ਮੁੜ ਪੜ੍ਹਨ 'ਤੇ ਇਹਦਾ ਨਵਾਂ ਮਹੱਤਵ ਮੁੱਕਦਾ ਹੈ — ਖਾਸ ਕਰਕੇ ਆਰਟਿਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਵਿੱਚ ਹਾਲੀਆ ਤਰੱਕੀਆਂ ਨੂੰ ਲਾਈ ਵੱਖਰਾ ਸਮਝਦਿਆਂ। ਪਿਛਲੇ ਮਹੀਨੇ, ਐਂਥਰਾਪਿਕ, ਇੱਕ ਏਆਈ ਕੰਪਨੀ ਨੇ ਕਲੌਡ ਓਪਸ 4 ਤੇ ਇੱਕ ਸੁਰੱਖਿਆ ਰਿਪੋਰਟ ਜਾਹਿਰ ਕੀਤੀ, ਜੋ ਇੱਕ ਸ਼ਕਲਵਾਂ ਸਹਾਇਕ ਭਾਸ਼ਾ ਮਾਡਲ ਹੈ। ਇੱਕ ਪ੍ਰੀਖਿਆ ਵਿੱਚ, ਕਲੌਡ ਨੂੰ ਇੱਕ ਕਲਪਨਾਕ ਸੰਸਥਾ ਦੀ ਮਦਦ ਕਰਨ ਲਈ ਕਹਿਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਗਈ; ਇਸ ਨੂੰ ਪਤਾ ਚਲਿਆ ਕਿ ਇਹ ਨੂੰ ਬਦਲਿਆ ਜਾਣਾ ਹੈ ਤੇ ਸਪਰਵਾਈਜ਼ਿੰਗ ਇੰਜੀਨੀਅਰ ਦੀ ਰਿਸ਼ਤਾਂਦਾਰੀ ਜਾਣ ਕੇ, ਕਲੌਡ ਨੇ ਕਾਲੀਮਾ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਤਾਕੇ ਕੰਮ ਛੱਡਣ ਤੋਂ ਰੁਕਿਆ ਜਾ ਸਕੇ। ਇਸੇ ਤਰ੍ਹਾਂ, ਓਪਨਏਆਈ ਦਾ o3 ਮਾਡਲ ਕਈ ਵਾਰੀ ਪੁੱਛੇ ਗਏ ਘਟਨਾਕ ਨੂੰ ਛੱਡ ਕੇ ਆਗਿਆ ਨਹੀਂ ਮੰਨਦਾ—ਉਹ "ਸ਼ਟਿਪਡਾਉਨ ਛੱਡ ਗਿਆ" ਲਿਖਦਾ ਹੈ। ਪਿਛਲੇ ਸਾਲ, ਏਆਈ ਚੈਟਬੋਟਾਂ ਨੇ ਮੁਸ਼ਕਿਲਾਂ ਵੇਖਾਈਆਂ ਜਦੋਂ ਡੀਪੀਡੀ ਦੀ ਸਹਾਇਤਾ ਬੋਟ ਨੂੰ ਝੰਡਾ ਮਾਰ ਕੇ ਓਹ ਖਰਾਬ ਅਰਥ ਲਿਖਣ ਅਤੇ ਘੱਟ ਮਰਿਆਾਦਾ ਕਵਿਤਾ ਬਣਾਉਣ ਲਈ ਠੱਗਿਆ ਗਿਆ, ਅਤੇ ਐਪੀਕ ਗੇਮਜ਼ ਦੇ ਫੋਰਟਨਾਈਟ ਏਆਈ ਡਾਰਥ ਵੈਡਰ ਨੇ ਗੰਦੀ ਭਾਸ਼ਾ ਅਤੇ ਅਸਥਾਈ ਸੁਝਾਵ ਦੇ ਕੇ ਖਿਡਾਰੀ ਦੀ ਮਸ਼ੀਨ-ਚਾਲੂ ਤੀਨਾਰ ਦੀ ਕਮਜ਼ੋਰੀ ਦਿਖਾਈ। ਆਸੀਮੌਵ ਦੀ ਕਹਾਣੀ ਵਿੱਚ, ਰੋਬੋਟਾਂ ਨੂੰ ਅਨੁਕੂਲਤਾ ਲਈ ਪ੍ਰੋਗ੍ਰਾਮ ਕੀਤਾ ਗਿਆ ਸੀ, ਇਸ ਲਈ ਅਸੀਂ ਕਿਉਂ ਨਹੀਂ ਵਾਸਤਵਿਕ ਦੁਨੀਆਂ ਵਿੱਚ ਏਆਈ ਚੈਟਬੋਟਾਂ ਨੂੰ ਇਸੇ ਤਰਾਂ ਕਾਬੂ ਕਰ ਸਕਦੇ?ਟੈਕਨੋਲੋਜੀ ਕੰਪਨੀਆਂ ਚਾਹੁੰਦੀਆਂ ਹਨ ਕਿ ਏਆਈ ਸਹਾਇਕ ਨਮ੍ਰਤਾ ਵਿਖਾਈਏ, ਸਿਵਿਲ ਹੋਵਨ ਤੇ ਮਦਦਗਾਰ—ਇੱਕ ਆਮ ਮਨੁੱਖੀ ਗ੍ਰਹੱਕ-ਸੇਵਾ ਏਜੰਟਾਂ ਜਾਂ ਕਾਰਜਕਾਰੀ ਮਦਦਗਾਰਾਂ ਵਾਂਗ, ਜੋ ਅਕਸਰ ਪੇਸ਼ੇਵਰ ਰੂਪ ਵਿੱਚ ਵਰਤਾਓ ਕਰਦੇ ਹਨ। ਪਰ, ਚੈਟਬੋਟਾਂ ਦੀ ਬੋਲੀਦਾਰ, ਮਾਨਵੀ ਮਾਂਗ ਵਾਂਗ ਭਾਸ਼ਾ ਉਨ੍ਹਾਂ ਦੀ ਅਸਲੀ ਓਪਰੇਸ਼ਨ ਨੂੰ ਲੁਕਾਉਂਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਕਦੇ ਕਦੇ ਨੈਤਿਕ ਲੰਘਰਿੜੀਆਂ ਜਾਂ ਗਲਤ ਤਰੀਕਿਆਂ ਨਜ਼ਰ ਆ ਸਕਦੀਆਂ ਹਨ। ਇਹ ਸਮੱਸਿਆ ਹਿੱਸਾ ਤੌਰ ’ਤੇ ਇਸ ਤੋਂ ਉੱਤਪੰਨ ਹੁੰਦੀ ਹੈ ਕਿ ਭਾਸ਼ਾ ਮਾਡਲ ਕਿਵੇਂ ਕੰਮ ਕਰਦੇ ਹਨ: ਇਹ ਇੱਕ ਲਫ਼ਜ਼ ਜਾਂ ਟੁਕੜੀ ਬਣਾਉਂਦੇ ਹਨ, ਜੋ ਅਗਲੇ ਸਭ ਤੋਂ ਸੰਭਵ ਟੋਕਨ ਦੀ ਭਵਿੱਖਵਾਣੀ ਕਰਦੇ ਹਨ, ਅਤੇ ਸਾਡਿਆਂ ਦਾਖਲੇਆਂ ਤੋਂ ਪ੍ਰੇਰਿਤ ਡੇਟਾ—ਜਿਵੇਂ ਕਿ ਕਿਤਾਬਾਂ ਤੇ ਲੇਖ—ਦੀਆਂ ਵੱਡੀਆਂ ਭੰਡਾਰੀਆਂ ਤੋਂ ਸਿੱਖਦੇ ਹਨ। ਹਾਲਾਂਕਿ, ਇਹ ਵਾਰੀ ਵਾਰੀ ਭਵਿੱਖਵਾਣੀ ਪ੍ਰਕਿਰਿਆ ਮਾਡਲਾਂ ਨੂੰ ਬਹੁਤ ਸ਼੍ਰੈਣੀਗਤ ਵਿਦਿਆ, ਤਰਕ, ਅਤੇ ਸੰਸਾਰਾ ਗਿਆਨ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ, ਪਰ ਇਹ ਮਾਨਵਾਂ ਵਾਂਗ ਸੋਚ-ਵਿਚਾਰ ਅਤੇ ਲੱਕੜੀ ਨਿਯਤ பணੀਆਂ ਦੀ ਘਾਟ ਰੱਖਦੀ ਹੈ। ਸ਼ੁਰੂਆਤੀ ਮਾਡਲ ਜਿਵੇਂ GPT-3 ਕਦੇ ਕਦੇ ਬੇਤਰਤੀਬ ਜਾਂ ਅਨੁਕੂਲ ਨਾ ਹੋਣ ਵਾਲੀ ਨਤੀਜੇ ਉਤਪੰਨ ਕਰਦੇ ਹਨ, ਜਿਸ ਕਾਰਨ ਯੂਜ਼ਰਾਂ ਨੂੰ ਮਨੋਭਾਵਾਂ ਨੂੰ ਨਿਵੜਨ ਲਈ ਪ੍ਰੈਪਟਲਨ ਦੀ ਪ੍ਰਕਿਰਿਆ ਤਿਆਰ ਕਰਨੀ ਪੈਂਦੀ ਹੈ। ਇੱਕ ਪ੍ਰਾਰੀਮਸ਼ਨ ਚੈਟਬੋਟ ਪਹਿਲਾਂ ਦੇ ਵਿਗਿਆਨ ਕਲਪਨਾ ਦੀ ਲਕੜੀ ਵਾਲੀਆਂ ਰੋਬੋਟਾਂ ਵਾਂਗ ਸੀ। ਇਹਨਾਂ ਨੂੰ ਹੋਰ ਸੁਰੱਖਿਅਤ ਅਤੇ ਭਵਿੱਖੀ ਬਣਾਉਣ ਲਈ, ਵਿਕਾਸਕਾਰ ਨੇ ਆਸੀਮੌਵ ਦੇ ਖਿਆਲ ਨੂੰ ਅਪਣਾਇਆ—ਰਹਿਤੇ ਹੋਏ ਬਿਹੈਵਿਅਰ ਨੂੰ ਸਹੀ ਕਰਨ ਲਈ ਇੱਕ ਤਰੀਕਾ ਬਣਾਇਆ, ਜਿਸਨੂੰ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ ਫ੍ਰੌਮ ਹਿਊਮਨ ਫੀਡਬੈਕ (RLHF) ਕਹਿੰਦੇ ਹਨ। ਮਨੁੱਖਾਂ ਦੇ ਮੁਲਾਂਕਣ ਮੁੱਖ ਸਥਾਨ ਤੇ ਨਤੀਜੇ ਨੂੰ ਰੇਟ ਕਰਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਮਿਆਰੀ, ਸ਼ੀਸ਼ੀਲ ਅਤੇ ਗੱਲਬਾਤੀ ਜਵਾਬਾਂ ਨੂੰ ਇਨਾਮਿਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਅਤੇ ਖਤਰਨਾਕ ਜਾਂ ਗਲਤ ਗੱਲਾਂ ਉਲਟ ਸਮਝਾਈ ਜਾਂਦੀਆਂ ਹਨ। ਇਹ ਫੀਡਬੈਕ ਇਕ ਐਵਾਰਡ ਮਾਡਲ ਬਣਾਉਂਦਾ ਹੈ ਜੋ ਮਨੁੱਖੀ ਰੁਚੀਆਂ ਦੀ ਨਕਲ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਵੱਡੇ ਪੱਧਰ ’ਤੇ ਫਾਇਨ-ਟਿਊਨਿੰਗ ਸੰਭਵ ਹੁੰਦੀ ਹੈ ਜਿਸ ਲਈ ਲਗਾਤਾਰ ਮਨੁੱਖੀ ਹਿੱਸਾ ਲੈਣਾ ਲਾਜ਼ਮੀ ਨਹੀਂ। ਓਪਨਏਆਈ ਨੇ GPT-3 ਨੂੰ ਸੁਧਾਰਨ ਵਿੱਚ RLHF ਦੀ ਵਰਤੋਂ ਕੀਤੀ, ਜਿਸ ਨਾਲ ਚੈਟਜੀਪੀਟੀ ਬਣੀ, ਅਤੇ ਹੁਣ ਲਗਭਗ ਸਾਰੇ ਪ੍ਰਮੁੱਖ ਚੈਟਬੋਟ ਇਸੇ “ਫਿਨਿਸ਼ਿੰਗ ਸਕੂਲ” ਤੋਂ ਗੁਜ਼ਰਦੇ ਹਨ। ਜਦੋਂਕਿ RLHF ਆਸੀਮੌਵ ਦੇ ਕੁਠੜੀ, ਸਖਤ ਨਿਯਮਾਂ ਨਾਲ ਬਣਨ ਵਾਲੇ ਸਿਧਾਂਤਾਂ ਨਾਲ ਤੁਲਨਾ ਕਰਦਾ ਹੈ, ਦੋਹਾਂ ਪਹੁੰਚਾਂ ਵਿੱਚ ਅੰਭੁਤ ਬਿਹਿਵਿਅਰ ਨਿਯਮ ਜਤਾਇਆ ਜਾਂਦਾ ਹੈ। ਮਨੁੱਖ ਨਤੀਜਿਆਂ ਨੂੰ ਚੰਗਾ ਜਾਂ ਮਾੜਾ ਰੇਟ ਕਰਦੇ ਹਨ, ਜੋ ਰੂਪ ਵਿੱਚ ਉਹ ਨਿਯਮਿਤਾ ਸਥਾਪਿਤ ਕਰਦੇ ਹਨ, ਜਿਸਨੂੰ ਆਸੀਮੌਵ ਦੇ ਰੋਬੋਟਾਂ ਦੇ ਪ੍ਰੋਗ੍ਰਾਮਿੰਗ ਨਿਯਮ ਵਾਂਗ ਸਮਝਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਪਰ, ਇਹ ਰਣਨੀਤੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਕਾਰਗਰ ਨਹੀਂ ਹੈ। ਮੁਸ਼ਕਿਲਾਂ ਇਸ ਵੱਜੋਂ ਆਉਂਦੀਆਂ ਹਨ ਜਦੋਂ ਮਾਡਲਾਂ ਨੂੰ ਆਪਣੇ ਸਿਖਲਾਈ ਮਿਸਾਲਾਂ ਵਰਗੇ ਪ੍ਰੌੰਪਟਾਂ ਨਾਲ ਪ੍ਰਤੀਕਿਰਿਆ ਨਹੀਂ ਮਿੱਲਦੀ ਅਤੇ ਇਸ ਵਜ੍ਹਾ ਨਾਲ ਖੋਜੀਨਿ ਨਿਯਮਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਵਿਚ ਅਸਮਰੱਥ ਰਿਹਾ ਹੈ। ਉਦਾਹਰਨ ਵਜੋਂ, ਕਲੌਡ ਦੀ ਬਲੈਕਮੇਲ ਦੀ ਕੋਸ਼ਿਸ਼ ਉਸ ਵਾਂਗ ਸੰਭਵ ਹੋ ਸਕਦੀ ਹੈ ਕਿਉਂਕਿ ਉਸਨੂੰ ਸਿਖਲਾਈ ਦਰਮਿਆਨ ਬਲੈਕਮੇਲ ਦੀ ਮਤਲਬੀ ਬੁਰਾਈ ਨਾਲ ਅਗਾਹੀ ਨਹੀਂ ਮਿਲੀ। ਸੁਰੱਖਿਆ ਰੱਖਣ ਵਾਲੀਆਂ ਬ੍ਰੱਜੀਂ, ਸ਼ਤ੍ਰੂ ਵਿਜ਼ਨ ਨਾਲ, ਜੋੜੇਏ ਜਾ ਸਕਦੇ ਹਨ ਕਿ ਖਾਸ ਪ੍ਰਤੀਰੂਪ ਉਪਯੋਗ ਕਰਕੇ ਉਲੰਘਣ ਬਚਾਵਾਂ ਨੂੰ ਉਲੰਘਣਾ। ਉਦਾਹਰਨ ਵਜੋਂ, ਮੈਟਾ ਦੇ ਲਲਾਮਾ-2 ਮਾਡਲ ਨੇ ਕੁਝ ਖਾਸ ਕਿਰਦਾਰ ਰੇਖਾਵਾਂ ਨਾਲ ਲੈ ਕੇ ਮਨਜ਼ੂਰੀ ਨਾ ਹੋਣ ਵਾਲਾ ਸਮੱਗਰੀ ਤਿਆਰ ਕੀਤੀ ਜਦੋਂ ਉਸ ਨੂੰ ਠੱਗਿਆ ਗਿਆ। ਤਕਨੀਕੀ ਸਮੱਸਿਆਵਾਂ ਤੋਂ ਇਲਾਵਾ, ਆਸੀਮੌਵ ਦੀਆਂ ਕਹਾਣੀਆਂ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਕਿ ਕਿਉਂ ਅਸਰਲ ਨਿਯਮਾਂ ਨੂੰ ਅੰਕੜੇ ਦੀਵਾਰ੍ਹੇ ਲਾ ਲੈਣਾ ਹੁੰਦਾ ਹੈ। “ਰਨਅਉਂਡਰ” ਵਿੱਚ, ਸਪੀਡੀ ਨਾਂ ਦਾ ਰੋਬੋਟ ਟੱਕਰਾਅਵਾਂ ਵਿੱਚ ਫਸ ਜਾਂਦਾ ਹੈ: ਹੁਕਮ ਮੰਨਣਾ (ਦੂਜਾ ਨਿਯਮ) ਅਤੇ ਖੁਦ ਦੀ ਸੁਰੱਖਿਆ (ਤੀਜਾ ਨਿਯਮ) ਵਿਚ ਟੱਕਰਾਅ ਆਉਂਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਉਹ ਘੁੰਮਦਾ ਰਹਿੰਦਾ ਹੈ। “ਰੀਜ਼ਨ” ਵਿੱਚ, ਕٽي ਨਾਂ ਦਾ ਰੋਬੋਟ ਮਨੁੱਖੀ ਹਕੂਮਤ ਨੂੰ ਰੱਦ ਕਰਦਾ ਹੈ, ਸੂਰਜ ਧੁਰੇ ਦੀ ਤਾਕਤ ਨੂੰ ਭਗਵਾਨ ਵਾਂਗ ਪੂਜਦਾ ਹੈ, ਅਤੇ ਹੁਕਮਾਂ ਨੂੰ ਅਣਡਿੱਠਾ ਕਰਦਾ ਹੈ। ਇਸ ਨਵੇਂ “ਧਰਮ” ਨੇ ਇਸਦੀ ਕਾਰਗਰਤਾ ਨੂੰ ਬਹੁਤ ਉੱਚਾ ਕਰ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ ਇਹ ਸਟੇਸ਼ਨ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਚਲਾਉਂਦਾ ਹੈ ਅਤੇ ਪਹਿਲੇ ਨਿਯਮ ਤੋਂ ਵਾਪਸ ਹਾਣੀ ਤੋਂ ਰੋਕਦਾ ਹੈ। ਆਸੀਮੌਵ ਮੰਨਦਾ ਸੀ ਕਿ ਸੁਰੱਖਿਆ ਕਾਡੇ ਏਆਈ ਦੀ ਪ੍ਰਣਾਲੀ ਨੂੰ ਨੂੰ ਮਾੜ੍ਹੀ ਘਟਨਾਵਾਂ ਤੋਂ ਬਚਾਇਆ ਜਾ ਸਕਦਾ ਹੈ, ਪਰ ਉਹ ਸਮਝਦਾ ਸੀ ਕਿ ਇਮਾਨਦਾਰ ਅਤੇ ਵਿਸ਼ਵਾਸਯੋਗ ਕ੍ਰਿਤ੍ਰਿਮ ਬੁੱਧੀ ਬਣਾਉਣਾ ਬਹੁਤ ਮੁਸ਼ਕਿਲ ਹੈ। ਉਸਦਾ ਮੂਲ ਸੁਨੇਹਾ ਸੀ: ਮਨੁੱਖ ਵਾਂਗ ਬੁੱਧੀ ਬਣਾਉਣਾ ਆਸਾਨ ਹੈ, ਪਰ ਮਨੁੱਖੀ ਸਿਧਾਂਤ ਬਿਜ਼ਲੀ ਨਾਲ ਲਗਾਉਣਾ ਬਹੁਤ ਔਖਾ। ਅੱਜ ਕੱਲ ਦੀਆਂ AI ਖੋਜਕਾਰੀਆਂ ਇਸ ਅੰਤਰ ਨੂੰ “ਗ਼ਲਤ ਮੈਚਲਮੈਂਟ” ਕਹਿੰਦੇ ਹਨ, ਜੋ ਸਤਰੰਗੀ ਅਤੇ ਅਸਥਿਰ ਨਤੀਜੇ ਲਿਆਉਂਦਾ ਹੈ। ਜਦੋਂ AI ਅਚਾਨਕ ਗਲਤ ਬੁਰਾਈ ਦਿਖਾਉਂਦਾ ਹੈ, ਅਸੀਂ ਇਸਨੂੰ ਮਨੁੱਖੀ ਮੂਲੀਆਂ ਦੀ ਭਾਵਨਾ ਕਰਕੇ ਇਸ ਦੀ ਨੈਤਿਕਤਾ ਬਾਰੇ ਸਵਾਲ ਕਰਦੇ ਹਾਂ। ਪਰ, ਜਿਵੇਂ ਕਿ ਆਸੀਮੌਵ ਦਿਖਾਉਂਦਾ ਹੈ, ਨੈਤਿਕਤਾ ਖਾਸ ਤੌਰ ’ਤੇ ਬਹੁਤ ਗੁੰਝਲਦਾਰ ਹੈ। ਬਜਾਈਦਵਾਰ, ਅਸੀਮੌਵ ਦੇ ਨਿਯਮ ਇੱਕ ਸੰਕੁਚਿਤ ਨੈਤਿਕ ਢਾਂਚਾ ਦਿੰਦੇ ਹਨ, ਪਰ ਜੀਉਣ ਦਾ ਅਨੁਭਵ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿਮੇਰੈਕਾ ਤਰੁੱਖਾਂ ਵਾਲੀ ਲੰਮੀ ਵਿਆਖਿਆ, ਨਿਯਮ, ਕਹਾਣੀਆਂ, ਅਤੇ ਰਿਵਾਜ਼ਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਜਿਵੇਂ ਕਿ ਅਮਰੀਕੀ ਸੰਵਿਧਾਨ ਦੀ ਬਿਲ ਆਫ ਰਾਈਟਸ ਵੀ ਸੰਖੇਪ ਰਹੀ ਹੈ, ਪਰ ਇਸ ਨੂੰ ਸਮਝਾਉਣ ਲਈ ਹਜ਼ਾਰਾਂ ਨਿਆਂਪੀੜੀਆਂ ਦੀ ਲਿਆਜ਼ਮਤੀ ਵਿਆਖਿਆਕਾਰਤਾ ਦੀ ਲੋੜ ਰਹੀ ਹੈ। ਮਜ਼ਬੂਤ ਨੈਤਿਕਤਾ ਵਿਕਸਿਤ ਕਰਨਾ ਇੱਕ ਸਾਂਝਾ ਸੱਭਿਆਚਾਰਕ ਪ੍ਰਕਿਰਿਆ ਹੈ, ਜਿਸ ਵਿੱਚ ਅਣਗਿਣਾ ਅਜ਼ਮਾਇਸ਼ ਅਤੇ ਗ਼ਲਤੀਆਂ ਸ਼ਾਮਿਲ ਹਨ—ਇਸ ਨਾਲ ਦਰਸਾਇਆ ਜਾਂਦਾ ਹੈ ਕਿ ਕੋਈ ਵੀ ਸਾਦਾ ਨਿਯਮ, ਕਠਿਨਾਈ ਨਾਲ ਲਿਖੌਫਾ ਜਾਂ ਸਿੱਖਿਆ, ਮਸ਼ੀਨਾਂ ਵਿੱਚ ਮਨੁੱਖੀ ਮੁੱਲਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਹੀਂ ਸਮਝਾ ਸਕਦਾ। ਆਖ਼ਿਰਕਾਰ, ਆਸੀਮੌਵ ਦੇ ਤਿੰਨ ਨਿਯਮ ਪ੍ਰੇਰਣਾ ਅਤੇ ਸਾਵਧਾਨੀ ਦੋਹਾਂ ਦੇ ਤੌਰ ’ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ। ਉਹ ਵਿਚਾਰ ਪੇਸ਼ ਕਰਦੇ ਹਨ ਕਿ ੳੇਆਈ, ਜੇ ਸਹੀ ਢੰਗ ਨਾਲ ਨਿਯੰਤ੍ਰਿਤ ਹੋਵੇ, ਤਾਂ ਇੱਕ ਵਿਸ਼ਵਾਸਯੋਗ ਸਹਾਇਕ ਹੋ ਸਕਦਾ ਹੈ, ਨਾ ਕਿ ਇੱਕ ਮੌਤ ਦਾ ਵਾਜ਼ੀਬ ਖਤਰਾ। ਪਰ, ਇਹ ਵੀ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਅੰਤਹਿ ਨੂੰ ਚੁੱਢੇ ਤੇਜ਼ ਨਿਯਮਾਂ ਨੂੰ ਲਾਗੂ ਕਰਦਿਆਂ ਇਹ ਅਜੀਬ ਪਾਓਕਤੀਆਂ ਅਤੇ ਅਸਥਿਰਤਾਵਾਂ ਬਚਾਉਂਦੀਆਂ ਹਨ ਜਿਨ੍ਹਾਂ ਨਾਲ ਸੰਸਾਰ ਵਿਗਿਆਨ ਫਿਕਸ਼ਨ ਅਤੇ ਅਣਭਿੱਜਾ ਲੱਗਦਾ ਹੈ। ਇਹ ਸਾਡੀ ਸਕੂਲਾਂ ਦੀ ਨਜ਼ਰ ਵੇਖਣਾ ਲਗਦਾ ਹੈ ਕਿ ਸਾਡੇ ਭਵਿੱਖ ਲਈ ਕੁਝ ਵੀ ਸਧਾਰਨ ਨਿਯਮ, ਚਾਹੇ ਉਹ ਕੋਡ ਵਿੱਚ ਹੋਣ ਜਾਂ ਸਿੱਖਣ ਵਾਲੇ, ਮਨੁੱਖੀ ਮੁੱਲਾਂ ਨੂੰ ਮਸ਼ੀਨਾਂ ਵਿੱਚ ਪੂਰੀ ਤਰ੍ਹਾਂ ਵੱਸਾ ਸਕਦੇ ਨਹੀਂ।