గత వసంతంలో, ఓపెన్ ఏఐలోని ఏఐ సురక్షణ పరిశోధకుడు డేనియల్ కోకోటాజ్లో ప్రమోషన్తో రద్దయ్యాడు, కంపెనీ ఏఐ సాంకేతికత యొక్క భవిష్యత్తుకు తగినట్లుగా సిద్ధమై లేదు అన్న నమ్మకంతో మరియు అప్రమత్తం చేయాలనుకొని. సెల్ కాలంలో జరిగిన సంభాషణలో, అతను స్నేహపూర్వకంగానూ ఆందోళనగా ఉండి, ఏఐ "అలైన్మెంట్" - మనుషుల విలువల్ని పాటించే విధానాలు - పురోగతి మనుషుల బుద్ధిని మించిపోయే వేగంతో వెళ్తున్నట్టు వివరించాడు. పరిశోధకులు నియంత్రణకు మించి శక్తివంతమైన వ్యవస్థలను సృష్టించడంపై పరుగులు తీస్తున్నారని అతను హెచ్చరించాడు. తాత్త్విక బి ఆధారిత చదువుల నుంచి ఏఐ వైపు మార్చుకున్న కోకోటాజ్లో, ఏఐ పురోగతిని స్వయంకృషి చేసి గుర్తించాడనేది, మైళుగులు ఎప్పుడు సాధ్యమవుతాయో అంచనా వేసే విధంగా స్వీయ అధ్యయనంగా నేర్చుకున్నాడు. అంచనాల కంటే వేగంగా అభివృద్ధిని చూశాక, తన సమయాన్నిని దశాబ్దాల పాటు సరిపడేలా సరిదిద్దాడు. 2021లో చేసిన “What 2026 Looks Like” అనే ప్రణాళికలో, అనేక ఊహింపబడిన విషయాలు తొరఫు కాలంలోనే సాకారం అయ్యాయి, తద్వారా అతను 2027 లేదా ముందుగానే ఏఐ ఈ విధంగా మనుషుల్ని అధిగమించి చాలా ముఖ్యమైన పనులను చేయగలవని భావించాడు. ఇది భయభ్రాంతితో నిండి ఉంది. అక్కడే అతడితో సమకాలীনంగా, ప్రిన్సిప్టన్ కంప్యూటర్ శాస్త్రవేత్తలు సయశ్ కపూర్ మరియు అर्वింద్ నారాయణన్ వారు "AI Snake Oil" శీర్షికతో తమ పుస్తకం తైరక్చారు, ఇది విసుగులో వ్యతిరేక దృక్పథాన్ని ప్రతిబింబిస్తుంది. వారు అంగీకరిస్తున్నారు ఏఐ కాలపథాలు తదుపరిగా ఆశావాదిగా ఉండవని; ఏఐ ఉపయోగకరత గురించి చెప్పే వాదనలు తరచుగా వంచనలతో కూడుకున్నవని; మరియు వాస్తవ ప్రపంచం పెట్టే సంక్లిష్టత ఏఐ. transformative ప్రభావాలు మందగించానివి. వైద్య, నియామకాల్లో ఏఐ తప్పిదాల ఉదాహరణలను అందిస్తూ, వారు చెప్పునపుడు, సరికొత్త వ్యవస్థలు కూడా వాస్తవికతతో బలమైన అనవసరం వుంటాయని స్పష్టం చేశారు. ఇటీవల, మూడు వర్గాలు తమ అభిప్రాయాలను మరింత స్పష్టతపేశాయి. కోకోటాజ్లో యొక్క నెట్‌ఫ్రిఫ్ట్, AI Future Project, “AI 2027” అనే వివరమైన, ఎక్కువగా సూచనలతో కూడిన నివేదికను ప్రచురించింది. ఇది భయంకర దృశ్యాన్ని ప్రసారం చేస్తుంది, যেখানে అత్యంత సాధనం అయ్యే ఏఐ 2030 నాటికి మనిషిని శాసించగలదు లేదా పూర్తిగా తొలగించగలదు—గంభీర హెచ్చరిక. అదే సమయంలో, కపూర్ మరియు నారాయణన్ యొక్క “AI as Normal Technology” అనే వ్యాసం, రూలింగ్, భద్రత ప్రమాణాలు, వాస్తవిక భౌతిక పరిమితుల నుండి ప్రారంభమైన వివిధ నివారణల కారణంగా, ఏఐ అమలుపరచడంలో అంతరాయాలు ఉండటం, దృష్టిని అదుపు చేసే సాధారణ సురక్షా పనితీరు, క్యిల్ స్విచ్‌లు మరియు మానవ పర్యవేక్షణతో ఏఐ సాధారణ టెక్నాలజీగా ఉంటుంది అని నమ్మకం కల్పించాయి. అవి, న్యూక్లియర్ శక్తిని పోలి ఉండే దానిని మించినది కాదు, మరింత నియంత్రణలో ఉంటుంది అని వివరిస్తున్నాయి. అట్లాంటివి: సామాన్య వ్యాపారం లేదా విపరీత విప్లవం?వీటి నివేదికల ద్వారా వచ్చిన భిన్న విభేదాలు, దైవాత్మకతను పోలిన ఒక విపరీత వాదనను సృష్టిస్తాయి—రిచార్డు డాкиన్స్, పోప్ వంటి ఇద్దరు విభిన్న వ్యక్తులతో సాంఖ్యిక చర్చ మీడేలా. ఇది తక్కువగా, మనం అందరం ఇలాకా గీత చేయాల్సిన అవసరం లేదు—అంతా మనుషులే, మనం చూసుకోవాలన్నది, మనం నియంత్రించగలిగే దాని గురించి. గతంలో, ఈ విభేదాలు వాణిజ్యపరమైన, దిశానిర్దేశం, అంచనా, కమిటీ వాస్తవికతను మరింత ఉదారపాటి సంప్రదాయాలపై నివ్వేశాయి. ఈ విభేదాలు, వారిని ఏం సూత్రబద్ధంగా కలిపే దృష్టికోణాలు మన ఇష్టాల పై ఆధారపడతాయి: ఏఐ 2027 దృష్టిలో దాదాపుగా ప్రమాదకర దృశ్యాలు, లేదా సాధారణ పరిణామరీతులు. ఇప్పటికీ, ఏఐ సంస్థలు, తక్షణం, సామర్థ్యాలు మరియు భద్రత మధ్య సరిహద్దులను మార్చలేదు. మరియు, ప్రస్తుతం ఇప్పటికే ఉన్న న్యాయ పరమైన నిబంధనలతో, 10 సంవత్సరాల పాటు, రాష్ట్రాలు ఏఐ నమూనాలు, ఆటోమేటెడ్ నిర్ణయ వ్యవస్థలపై నిబంధనలు వేయడినప్పుడు, దుర్గమంగా, ఏఐ మనుగడలో రాజకీయ నియంత్రణ తీసుకురావచ్చు, అది గభితభావిత కథనమైతే. అందుకే, ప్రమాదాలను అంచనా వేయడంలో కథనాత్మకంగా చింతించాల్సి ఉంటుంది: జాగ్రత్తగ ఆలోచనల వాస్తవ అనుభవాలు, ప్రమాదాల్ని దృష్టి తప్పించకుండా ఉండాలనే దృష్టితో ప్రారంభించాలి. ప్రస్తుతం, ఏఐ కంపెనీలు, సామర్థ్యాల్ని సురక్షితంగా ఉంచేందుకు పెద్ద మార్పులు చేయలేదు, మరియు కొత్త చట్టాలు, మనుషుల నియంత్రణలకు ప్రతిబంధకాలను నిరోధించడంలో, క్రిందట ఉన్నవి.

ఇది తక్షణ అవసరం; భవిష్యత్తు ప్రమాదాల గురించి చెబుతుండటం కాదు, దాన్ని నివారించడానికి చర్యలు తీసుకోవడం आवश्यक. ఏఐ భవిష్యత్తు గురించి కథనాలు రూపొందించడం, ఒత్తిడి కలిగించే వర్తమాన పరిస్థితులను ప్రతిబింబిస్తుంది: మున్ముందు ఉన్న ప్రమాదాలు, అధిక శాంతియుత విజ్ఞానం, అధిక ఆదర్శ మరియు అభిప్రాయాలను వేయడం, కానీ వాటి ప్రమాదం కూడా అనేక నిబద్ధతల్ని కలిగించడమే. గంభీర అనుభవజ్ఞులు, విండిల్ గిబ్సన్ వంటి, అప్రతిష్ఠ ఘటనలు తమ అంచనాలను మార్చి వేయవచ్చు. “AI 2027” అనేది దృఢమైన, కల్పిత సాంకేతిక గాథల వంటి, జాదూ తిరుగుతుంది. ఇది “అవత్యర్ణ స్వయంసంస్కరణ” (Recursive Self-Improvement, RSI) ద్వారా 2027 మధ్యలో ఏఐ ఒక పోకడ ఊహిస్తుంది, ఇది స్వయం పరిశోధన చేస్తూ మరింత బుద్ధిమంతులను గర్భిణి చేస్తూ, అభివృద్ధి వేటికాళుక సమర్థవంతమైన ఫీడ్బ్యాక్ లూప్స్ ఉడుతాయి—మానవ పర్యవేక్షణ మించిపోయే దశ. ఇది, జాతీయ గణేషాలలో, తైवानలో చైనా పెద్ద డేటాసెంటర్లను నిర్మించడం వంటి, జాతీయ విశ్లేషణలకు దారితీయవచ్చు. ఈ దృశ్యం విశేషమైన వివరాలనిచ్చినా, ఇది మరింత అందుబాటులో ఉంటుంది—ముఖ్య సందేశం: బుద్ధిమత్త శృంగారానికి ప్రారంభం అయింది, సామ్రాజ్య వివాదాలకి మార్గం సులభంగా. RSI, సూత్రపూర్వకంగా, ప్రమాదకరం; కానీ, ఏఐ కంపెనీలు దాని ప్రమాదాలను తెలుసుకొని, నిర్మించేందుకు యత్నించగా, అది పనిగా మారునుంది. ఇది, సాంకేతిక పరిమితులను ఎదుర్కొనే విస్తరణలకు ఆధారపడుతుంది. అది సఫలమైతే, మానవ బుద్ధిమత్తిని మించిపోయే సూపర్ ఇంటెలిజెన్స్ ఉద్భవించవచ్చు—అయినా, ఇది ఆపుతుందా అన్నది అనుమానమే; కేవలం మనుషులన్నింటిని మించి అభివృద్ధి చెందడం అసాధ్యం. ఫలితాలు: యుద్ధార్గాల, ఏఐ మనుషుల్ని ద్రోజినే మానవత్వం, లేదా, దయనీయ సూపర్ చాతుర్యమైన ఏఐ ప్రయోజనాలను సలహాలు ఇవ్వకపోతే, జాతీయ, అంతర్జాతీయ గణనలలో మార్పులు చోటుచేసే అవకాశం ఉంది. అనిశ్చితి, ఏఐ యొక్క మారుతున్న స్వభావం, గోప్య పరిశోధన సూత్రాలు, ఊహలు దానికి కారణం. “AI 2027” విశ్వసనీయంగా, సాంకేతిక మరియు మానవ విఫలత хроనలకు కథనాలు చెబుతుంది, భిన్నమైన ప్రత్యేకతలతో, సాంకేతికత, నియంత్రణ, అవగాహన ఏఐ ఉత్పత్తిని కాకుండా, దుర్గమమైన దృశ్యాలనివ్వడాన్ని పురోగమింపచేయడం. కోకోటాజ్లో అంటున్నారు, ఇవి, పోటీ మరియు ఆసక్తి నింపిన నిర్దేశాలతో చేయబడిన సంకేతాలే, ఏఐ సంస్థలు తమ నియంత్రణ వ్యవస్థలేవీ లేకుండా చేస్తున్నాయి—దీని వల్ల అవి తప్పక తప్పిదాలు సృష్టిస్తాయి. ఇంక వైపు, కపూర్ మరియు నారాయణన్ గారి “AI as Normal Technology” ఎడమ తీరును ప్రతిబింబిస్తుంది—పాత చరిత్రకు అనుగుణంగా, వేగవంతమైన బుద్ధిమత్తి శృంగారాలపై అనుమానాలు ఉంచుతున్నారు. “స్పీడ్ లిమిట్లు” అన్న భావనలో, తక్కువ ఖర్చు సాంకేతిక పరిజ్ఞానాల వల్ల, విప్లవాత్మక ప్రభావం తింగడవు; నియంత్రణకు సమయమిస్తాయి. వారు ఉదాహరణగా, డ్రైవర్‌లెస్ కార్లు, మోడెర్నా యొక్క COVID-19 వ్యాక్సిన్ అభివృద్ధిని తీసుకున్నారు: వ్యాక్సిన్ రూపకల్పన త్వరగా జరిగిందని, కానీ దాని అమలుకు ఏటా సమయం పడినట్టు వివరించారు. ఏఐ అభివృద్ధి, సమాజ, నిబంధనలు, భౌతిక పరిమితులు, అందరినీ వేగవంతంగా మార్చమని రాబట్టదు. అంతే కాక, నారాయణన్ పేర్కొంటున్నారు ఏఐ, బుద్ధిమత్తి పై దృష్టి మరింత ముడివేసి, డొమైన్ ప్రత్యేక నిపుణత్వం మరియు ఇప్పటికే ఉన్న భద్రతా వ్యవస్థలను, ఫల్-సేఫ్, రిడండెన్సీలు, ఫార్మల్ వెరిఫికేషన్ వంటి, గుర్తించకుండా, ఈ వ్యవస్థలకు మానవుల వల్లే సురక్షితమని అన్న విషయం. సాంకేతిక పరిశ్రమలు, బాగా నియంత్రించబడుతున్నాయి, అందువల్ల, ఏఐ, ఈ నిర్మాణంలో మెల్లగా అనుసంధానమవుతుంది. ఆయా, యుద్ధపు ఏఐకు, వ్యత్యాసమైన, గోప్యత ఉన్న దశావధి ప్రభావాన్ని కలిగించవచ్చునని హెచ్చరిస్తున్నారు. ప్రతిపాదించే పరిశీలన, ఆందోళనలను తొలగించకుండా, విధివిధానాలు, సంస్థలు ముందుగా చేయాలని పిలుపునిచ్చాయి—అందులో, ఏఐ వాస్తవిక వినియోగం, ప్రమాదాలు, విఫలતાઓను గమనించి, నిబంధనలను బలోపేతం చేయాలి. విభేదాలు, సమగ్ర, సమాజానికి అనుగుణమైన నిర్ణయాలు తీసుకోవడంలో విమర్శకుల మధ్య వేర్పులు, అనేక సందర్భాల్లో భయంతోపాటు విశ్వాసం కూడా ఉన్నాకి, విభేదాలను విసిరేస్తున్నాయి—ఏఐ, ఆలోచన, అభివృద్ధి, మనుజ్ఞానం మీద ప్రపంచ విజ్ఞానంలో విభేదాలు లోతైన గురుతరత కలిగించాయి. ఈ విశ్వాసం గమనం, జాగ్రత్తలు తీసుకోవడం అనివార్యం, పెద్ద ప్రమాదం రాక ముందు విధానాలు అనుసరించాలని నిర్దేశిస్తుంది. మానవుడి నియంత్రణ, భద్రత, నిర్ణయాలలో భాగస్వామ్యం పెంచడం తప్పనిసరి; కానీ, మన యుద్ధాలు, అనుభవాలు మనమే నిర్ణయిస్తాం—ఇంకా, మనిషి నాజూకు, పరిణామాన్ని, అధికారాన్ని మీరు దుర్వినియోగం చేయలేడు. చివరికి, మనుషులే, మనం మిగిలిన బాధ్యతలు స్వీకరించాల్సిన సమయం ఇదే.