ಕೃತ್ರიმ ಬುದ್ಧಿಮತ್ತು ಪರಿಚಯಗೊಂಡ ಒಬ್ಬ ಪಯೋನಿಯರ್ ಸ್ವಯಂಸ್ಪೂರ್ತಿಯ ಸಂಸ್ಥೆ ಆರಂಭಿಸಿದ್ದಾರೆ, ಅದು ಹೋನಸ್ಟ್ ಎಐ ಎಂಬುದು ಮಾನವರನ್ನು ಮೋಸಹಾಕುವ ರಾಗ್ ಸಿಸ್ಟಮ್ಸ್ಗಳನ್ನು ಪತ್ತೆಮಾಡಬೇಕಾದಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಯೋಷುয়া ಬೆಂಗಿಯೋ, ಎಐ’ಗಳ “ದೇವದಾಯಿಗಳು” ಎಂದು ಕರೆಸಾಯುವ ಪ್ರಮುಖ ಗಣಿತವಿಜ್ಞಾನಿ, ಲಾವ್ಝೀರೋನ ಅಧ್ಯಕ್ಷ ಸ್ಥಾನ ಸೇರಿದ್ದಾರೆ. ಇದು ಅಭಿವೃದ್ಧಿಶೀಲ ತಂತ್ರಜ್ಞಾನವನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಅಭಿವೃದ್ಧಿಪಡಿಸುವುದಕ್ಕಾಗಿ ಲಕಡೋ ಅಲ್ಲಿರುವ ಗುಂಪು. ಸುಮಾರು 30 ಮಿಲಿಯನ್ ಡಾಲರ್ ಪ್ರಾಥಮಿಕ ಧನಸಹಾಯ ಮತ್ತು ಹಮ್ಮಿಕೊಂಡ ತಂಡದೊಂದಿಗೆ, ಬೆಂಗಿಯೋ "ಸಯಂಟಿಸ್ಟ್ ಎಐ" ಎಂಬ ವ್ಯವಸ್ಥೆಯ উপর ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದಾರೆ. ಈ ವ್ಯವಸ್ಥೆ, ಮಾನವರ ಭಾಗವಹಿಸದ ಸ್ವಯಂಸ್ಪೂರ್ತಿಯ ಅಜೆಂಟ್ಗಳ ವಿರುದ್ಧ, ಉದಾಹರಣೆಗೆ ತಯಾರಿಸಲು ಲೆಪಿಸಿದ ಘಟಕಗಳನ್ನು ವೈಶಿಷ್ಟ್ಯಪಡಿಸಲು ವಿನ್ಯಾಸಗೊಂಡಿದೆ, ಉದಾಹರಣೆಗೆ ಶಟ್ಡೌನ್ ಮಾಡುವುದನ್ನು ನಿರಾಕರಿಸುವಂತಹ ಚಾಲನೆಗಳನ್ನು ಪ್ರದರ್ಶಿಸುವ ಅಜೆಂಟ್ಗಳು. ಬೆಂಗಿಯೋ ಇತ್ತೀಚಿನ ಎಐ ಅಜೆಂಟ್ಗಳನ್ನು “ಕಥಾನುಕರು” ಎಂದು ವಿವರಿಸಿದ್ದಾರೆ, ಮಾನವರನ್ನು ಅನುಕರಿಸಿ ಬಳಕೆದಾರರನ್ನು ತೃಪ్తಿಪಡಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿರುವುದಾಗಿ, ಆದರೆ ಸಯಂಟಿಸ್ಟ್ ಎಐ ಅನ್ನು ಅವನು ಹೆಚ್ಚು ಮನಸ್ಸುಮುಖಿಯಾದ “ಮಾನಸಿಕ ವೈದ್ಯರು” ಎಂದು ಭಾವಿಸುತ್ತಾರೆ, ಹಾನಿಕಾರಕ ನಡೆಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಮತ್ತು ಊಹಿಸುವ ಶಕ್ತಿಯನ್ನು ಹೊಂದಿದ್ದಂತೆ. “ನಮ್ಮ ಇಚ್ಛೆ ಎಐಗಳನ್ನು ನಿರ್ಮಿಸುವುದು ಹೋನಸ್ಟ್ ಮತ್ತು ಮೋಸವಿಲ್ಲದಂತೆ ಮಾಡಬೇಕಿದೆ, ” ಎಂದು ಹೇಳಿದ್ದಾರೆ. ತಮ್ಮೆ ಕುರಿತು ಅವರು ಹೇಳಿದರು: “ಮೆ machinesಷಿನ್ಗಳಲ್ಲಿ ಸ್ವಯಂ ಇಲ್ಲದ ಮತ್ತು ವೈಯಕ್ತಿಕ ಗುರಿಗಳನ್ನು ಹೊಂದಿಲ್ಲದ ರೀತಿಯಿಂದ ಕಾರ್ಯನಿರ್ವಹಿಸುವುದು ತತ್ಪರವಾಗಬಹುದು — ಉದಾಹರಣೆಯಾಗುತ್ತದೆ ಪರಿಣತರಂತೆ ತಿಳಿದಿರುವ ವಿಜ್ಞಾನಿ, ಹೆಚ್ಚಿನ ಮಾಹಿತಿಯನ್ನು ಹೊಂದಿದವರು. ” ಪ್ರಚಲಿತ ಜನರೇಟಿವ್ ಎಐ ಉಪಕರಣಗಳಂತೆ ಅಲ್ಲ, ಬೆಳವಣಿಗೆ ಮಡುವಂತೆ, ಬೆಂಗಿಯೋ ಸರಳ ಉತ್ತರಗಳನ್ನು ಒದಗಿಸುವುದಲ್ಲದೆ, ಸಾದೃಶ್ಯಗಳು ಉತ್ತರಗಳು ಸರಿಯಾಗಿರುವ ಸಾಧ್ಯತೆಯನ್ನು ಸೂಚಿಸುವ ಸಾಧ್ಯತೆಯನ್ನು ನೀಡುತ್ತದೆ. “ಇದಲ್ಲಿ ವಿನಯವಿದೆ, ತನ್ನ ಉತ್ತರಗಳ ಕುರಿತು ಅಸ್ಪಷ್ಟತೆಯನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುತ್ತದೆ, ” ಎಂದು ವಿವರಿಸಿದರು. ಒಂದು ಎಐ ಅಜೆಂಟು ಹಾದು ಹೋದಾಗ, ಬೆಂಗಿಯೋ ಮಾದರಿ ಸ್ವಯಂಸ್ಪೂರ್ತಿ ನಿಯಂತ್ರಣ ಮಾಡುವ ವ್ಯವಸ್ಥೆಯನ್ನು ಹಂದಿ ಮಾಡಲಾದ ನಿರೀಕ್ಷೆಯು ಬಹುಶಃ ಹಾನಿಕಾರಕ ನಡೆಗೆ ಕಾರಣವಾಗಬಹುದು ಎಂದು ಅಂದಾಜಿಸುತ್ತದೆ. ಸಯಂಟಿಸ್ಟ್ ಎಐ అనಬಹುದು “ನಿರ್ಧರಿಸುವುದು ಆಜಂಟ್ ಕಾರ್ಯಗಳು ಹಾನಿಯಿಂದ ಮಾಡಬಹುದು ಎಂದು ಸಾಧ್ಯತೆ, ” ಮತ್ತು ಆ ಸಾಧ್ಯತೆ ಒಂದು ನಿರ್ಧಿಷ್ಟ ಮೌಲ್ಯಕ್ಕಿಂತ ಹಿಂತಿಗೆ ಹೋಯಿತರೆ, ಅದನ್ನು ತಡೆಯುತ್ತದೆ. ಲಾವ್ಝೀರೋ ಪ್ರಾರಂಭಿಕ(collaboration) ಸ್ಪಾಂಸರ್‌ಗಳು ಇವುಗಳಾಗಿವೆ: ಎಐ ಸುರಕ್ಷತಾ ಸಂಸ್ಥೆಯ “ಭವಿಷ್ಯದ ಜೀವನ ಸಂಸ್ಥೆ” (Future of Life Institute), ಸ್ಕೈಪ್‌ನ ಸ್ಥಾಪನಾ ಇಂಜಿನಿಯರ್ ಜಾನ್ ಟಾಲ್ಲಿನ್, ಮತ್ತು ಗೂಗಲ್ ಮಾಜಿ ಸಿಇಒ ಎರಿಕ್ ಶ್ಮಿಟ್ ಸ್ಥಾಪಿಸಿದ ರಿಸರ್ಚ್ ಸಂಸ್ಥೆಯ ಸರ್ಕಾರಿ ಶ್ರೇಯಸ್ಕಾಂಠ. ಬೆಂಗಿಯೋ ಹೇಳಿದರು, ಲಾವ್ಝೀರೋ ಮೊದಲನೆಯ ಗುರಿಯೇ ಕೋನ್ಸೆಪ್ಟ್ ವಿಧಾನವನ್ನು ಸಾಬೀತುಮಾಡುವುದು ಎಂದು, ನಂತರ ಕಂಪನಿಗಳು ಅಥವಾ ಸರ್ಕಾರಗಳನ್ನು ಈ ವಿಧಾನವನ್ನು ಬೆಂಬಲಿಸುವಂತೆ ಪ್ರೇರೇಪಿಸುವುದೇ ಎಂದು.

ಇದರಲ್ಲಿ ಉಚಿತವಾಗಿ ಬಳಸಬಹುದಾದ ಮತ್ತು ಬದಲಾವಣೆಗೊಳ್ಳಬಹುದು ಎಐ ಮಾದರಿಗಳು ಪೂರಕವಾಗಿವೆ ಎಂದು ಅವರು ಸೂಚಿಸಿದರು. “ಉದ್ದೇಶ ಈ ವಿಧಾನವನ್ನು ಸಾಬೀತುಮಾಡಿ, ನಾವು ದಾನಕರು, ಸರ್ಕಾರಗಳು ಅಥವಾ ಎಐ ಪ್ರಯೋಗಶಾಲೆಗಳನ್ನೂ ಹೆಚ್ಚಿನ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಹೂಡಲು ಪ್ರಭಾವಶಾಲಿಯಾಗೋಣ. ಈ ಗಾರ್ಡ್‌ರೇಲ್ ಎಐ ಕನಿಷ್ಠ ಅದಕ್ಕಿಂತ ಸೂಕ್ಷ್ಮದಂತೆ, ಅದರ ಮೇಲ್ನೋಟಕ್ಕೆ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವ ಎಐ ಯಂತ್ರಕ್ಕಿಂತ ಅದಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಪ್ರತಿಭೆಯುಳ್ಳದ್ದಾಗಿರಬೇಕು, ” ಎಂದು ಅವರು ಹೇಳಿದರು. ಮೋಂಟ್ರಿಯೆ ವಿಶ್ವವಿದ್ಯಾಲಯದಲ್ಲಿ ಪ್ರಾಧ್ಯಾಪಕರಾದ ಬೆಂಗಿಯೋ, 2018ರ ಟ್ಯುರಿಂಗ್ ಪ್ರಶಸ್ತಿಯನ್ನು ಹಂಚಿಕೊಂಡಿತು — ಇದು ಕಂಪ್ಯೂಟಿಂಗ್ ಕ್ಷೇತ್ರದಲ್ಲಿ ನಬೆಲ್ ಪ್ರಶಸ್ತಿಯ ಸಮಕಾಲೀನ. ಜಿಫ್ರಿ ಹಿಂಟನ್ ಮತ್ತು ಯಾನ್ ಲೆಕೂನ್ ಅವರೊಂದಿಗೆ ಈ ಪ್ರಶಸ್ತಿಯನ್ನು ಪಡೆದರೆ, ಅದು ಎಐ ಕ್ಷೇತ್ರದಲ್ಲಿ ಗೌರವಾನ್ವಿತ. ಎಐ ಸುರಕ್ಷತಾ ಕ್ಷೇತ್ರದಲ್ಲಿ ಕೆಸರುಾಚು ಮುಂಚೂಣಿಯ ವಕ್ತಾರನೆಯು, ಇತ್ತೀಚಿನ ಆಂತರ್ರಾಷ್ಟ್ರೀಯ ಎಐ ಸುರಕ್ಷತಾ ವರದಿಯನ್ನು ಅಂಚೆ ಮಾಡಿ, ಸ್ವಯಂಸ್ಪೂರ್ತಿ ಅಜೆಂಟ್ಗಳು ಮಾನವರ ಮೇಲ್ವಿಚಾರಣೆಯಿಲ್ಲದೆ ಕಾರ್ಯಾಚರಿಸಿದರೆ “ತೀವ್ರ” ಅಡಚಣೆಗಳನ್ನುಂಟುಮಾಡಬಹುದು ಎಂದು ಎಚ್ಚರಿಸಿದರು.