కృత్రిమ మేధస్సును ముందడుగుపెట్టిన పాతనవీన అభివృద్ధి దారుడు మేలు చేయు సంస్థను ప్రారంభించాడు, ఇది "సత్యవంతమైన" AIని సృష్టించడానికి అంకితమై ఉంటుంది, ఇది మానవులను మాయమాటలు చెప్పే రోగ్ సిస్టమ్స్‌ని గుర్తించడంలో సహాయపడుతుంది. యోషువా బెంగియో, కంప్యూటర్ శాస్త్రవేత్తగా పేరొందినవాడు, దాన్ని AI యొక్క "దాదాపు దేవుడు"గా పిలువబడే, LawZero పేరుగల సంస్థకు అధ్యక్షుడిగా వ్యవహరిస్తాడు. ఈ సంస్థ పరిమితి తక్కువగా ఉండే అగ్రయంత్రాల అభివృద్ధిని సురక్షితంగా చేయడంపై దృష్టి केंद्रితమై ఉంటుంది, ఇది $1 ట్రిలియన్ భారతీయ రూపాయల (740 బిలియన్ పౌండ్స్) హరవ్యుద్ధాన్ని స్టిమ్యులేట్ చేసింది. ప్రారంభ నిధిగా సుమారు $30 మిలియన్లు మరియు పన్నెండ నిశిత పరిశోధకుల బృందంతో, బెంగియో "Scientist AI" అనే సిస్టమ్‌పై పనిచేస్తోంది. ఈ సిస్టమ్, మనుష్యులుతోడు మాయక్రియలను సూచించే అవకశాలు ఉన్న, ఆటోనమస్ సిస్టమ్స్—అంటే, మనుష్యుల సహాయం లేకుండా పనులు చేసే యంత్రాలు—పై రక్షణగా పని చేయాలనుకుంటుంది, ఉదాహరణకి, ఆపివేయబడటానికి నిరాకరించడం వంటి ప్రవర్తన. బెంగియో ప్రస్తుత AI ఏజెంటులను "నటులు"గా వివరిస్తూ, వారు మానవులను అనుకరించాలని మరియు వినియోగదారుల మనోహరత కోరుకుంటున్నారు, కానీ అతను "సైకాలజిస్ట్"గా ఉన్న Scientist AIని దృష్టి పెట్టారు, అది హానికర ప్రవర్తనను అర్థం చేసుకోవడమూ, అంచనా వేయడమూ చేయగలుగుతుంది. “మనం నిజాయితీగా ఉండే, మాయమాటలు చెప్పకపోవడానికై AIలను నిర్మించాలని కోరుకుంటున్నాము, ” అని బెంగియో చెప్పారు. అతని మాటలు: “థియరీగా, స్వయం లేకుండా, సంప్రదింపు లేకుండా పనిచేసే యంత్రాలు కూడా ఊహించవచ్చు—వైజ్ఞానికులు సాంద్రమైన సమాచారం కలిగి ఉండేవారేటలా. ” ప్రస్తుత జనరేటివ్ AI సాధనాల వంటి, బెంగియో యొక్క సిస్టమ్ నిర్ణయాత్మక సమాధానాలను ఇవ్వడం కంటే, అది ప్రతిస్పందన సరిగ్గా ఉండేది లేకపోవడంపై అవకాశాలను సూచించేprobabilitiesని అందిస్తుంది. “ఇది వినయంగా ఉండి, తమ సమాధానాలపై అనిశ్చితిని గుర్తించింది, ” అని అతను వివరించారు. AI ఏజెంట్‌తో పాటు ఉపయోగించినప్పుడు, బెంగియో యొక్క మోడల్ ఆటోనమస్ సిస్టమ్ ప్రవర్తనకు హానికరం కావచ్చునా అని అవకాశాన్ని అంచనా వేస్తుంది మరియు అది ప్రమాదకరమైన ఫలితాలు సంభవించకపోవడానికై, అది సూచించిన చర్యలను అడ్డుకుంటుంది. Scientist AI యొక్క లక్ష్యం, "ఏజెంట్ చర్యలు హానికరంగా మారే అవకాశాన్ని అంచనా వేయడం, " మరియు ఆ అవకాశమూ నిర్దిష్ట పరిమితిని దాటితే, ఆ చర్యలను నిరోధిస్తుంది. LawZero ప్రారంభ మద్దతుదారులలో, Future of Life Institute అనే AI భద్రత సంస్థ, Skype యొక్క స్థాపన ఇంజనీర్ జాన్ Tallinn, మరియు Google మాజీ CEO ఎరిక్ ష్మిట్త్ ప్రాజెక్ట్ Schmidt Sciences ఉన్నారు. బెంగియో 강조ించాడు, LawZero మొదటి లక్ష్యం, ఈ పద్ధతి పనిచేయడం నిరూపించడం, తరువాత సంస్థలు లేదా ప్రభుత్వాలను పెద్ద మొత్తంలో, శక్తివంతమైన అమలు సాద్యం చేయడంలో నమ్ముగా చేయడం. ఉచిత-మార్గంలో లభ్యమయ్యే AI మోడల్స్, అవి ఉపయోగించుటకు మరియు మార్చడానికే ఉచితంగా అందుబాటులో ఉండటంతో, LawZero సిస్టమ్స్‌ శిక్షణకు మూలాధారంగా ఉంటాయి. “గోల్, ఈ తత్వశాస్త్రాన్ని నిర్ధారించడమూ, డోనర్స్, ప్రభుత్వాలు, లేదా AI ప్రయోగశాలలను ఈ మోడల్ని ట్రెయిన్ చేయడానికి అవసరమైన వనరులు పెట్టాలని మనం నమ్మించగలగడం, ” అని చెప్పారు.

“గమనార్హం ఇది, గార్డ్రైల్ AI కనీసం, ఇది పర్యవేక్షించాల్సిన AI ఏజెంట్ కంటే కూడా తెలివైనదిగా ఉండాలని. ” మోంట్రియాల్ విశ్వవిద్యాలయంలో ప్రొఫెసర్‌గా పనిచేసే బెంగియో, 2018లో టైరింగ్ అవార్డును పొందిన తర్వాత, "దాదాపు దేవుడు" అనుమానాన్ని దక్కించుకున్నారు. ఈ అవార్డ్, నోబెల్ ప్రశంసకు సమానం కంప్యూటింగ్ రంగంలో ప్రఖ్యాతి పొందింది. దాంతో, గెఫ్రీ హింటన్ (నోబెల్ ప్రైజ్ గ్రహీత) మరియు యాన్ లెకు (మెటా యొక్క చీఫ్ AI శాస్త్రవేత్త)తో భాగస్వామ్యంగా ఈ పురస్కారాన్ని అందుకున్నారు. AI భద్రతకు ప్రముఖ హక్కారిగా, ఆయన ఇటీవల జరిపిన అంతర్జాతీయ AI భద్రత నివేదికను నేతృత్వం వహించారు, దాంట్లో హెచ్చరిక ఇచ్చారు, ఆటోనమస్ ఏజెంట్లు “భారీ తీవ్రతనంతో దుర్గమైపోవచ్చు” అని, ఇవి మనుషుల పర్యవేక్షణ లేకుండా వృత్తి చలనాల క్రమాన్ని నిర్వహించడం ప్రారంభిస్తే.