Миналата пролет, Даниел Кокотайло, изследовател по безопасността на изкуствения интелект в OpenAI, напусна протестирам, убеден, че компанията не е подготовена за бъдещето на AI технологии и искайки да вдигне тревога. В телефонен разговор той изглеждаше дружелюбен, но нервен, обяснявайки, че напредъкът в „синхронизиране“ на AI — методите за гарантиране, че изкуственият интелект следва човешките ценности — изостава спрямо развитието на интелигентността. Той предупреди, че изследователите бързат към създаването на мощни системи, които са извън контрол. Кокотайло, който премина от философски магистърски студент по философия към AI, самостоятелно усвояваше умения да следи развитието на изкуствения интелект и да предсказва кога може да настъпят критични интелигентностнист milestones. След като AI прогресираше по-бързо от очакваното, той пренастрои графиците си с десетилетия напред. В своя сценарий от 2021 г. , „Какво ще е 2026“, той предвиждаше реализирането на много от прогнозите му преждевременно, довеждайки го до предположението за такъв „точка без връщане“ около 2027 или по-рано, когато AI може да превъзхожда човека в най-важните задачи и да притежава огромна власт. Той звучеше изплашен. Паралелно, учени от Принстън – Саяш Капур и Арвинд Наранян – подготвиха своята книга „Изкуственият мазни омай“, в която изразиха противоположна гледна точка. Те твърдяха, че графиците за развитие на AI са прекалено оптимистични; че твърденията за полезността на AI често са преувеличени или измамни; и че сложността на реалния свят ще забави трансформационните въздействия на AI. Цитирайки примери за грешки на AI в медицина и подбор на кадри, те подчертаваха, че дори най-новите системи страдат от дълбок разлом с реалността. Наскоро трите страни засилиха мненията си в нови доклади. Нонпрофитът на Кокотайло, AI Futures Project, публикува „AI 2027“ — подробен, цитиращ много източници доклад, който описва ужасяващ сценарий, при който суперинтелигентен AI потенциално може да доминира или да унищожи човечеството до 2030 г. — сериозно предупреждение. Междувременно, статията на Капур и Наранян „AI като обикновена технология“ твърди, че практически бариери — от регулации и стандарти за безопасност до физическите ограничения в реалния свят — ще забавят внедряването на AI и ще ограничат революционния му ефект. Те твърдят, че AI ще остане „нормална“ технология, управляемо чрез познати мерки за безопасност като изключващи устройства и човешки контрол, сравнявайки AI по-скоро с ядрена енергия, отколкото с ядрени оръжия. Значи, кое ще е то: обикновена бизнес практика или апокалиптична революция?Строгите разлики във заключенията — направени от много запознати експерти — породиват парадокс, подобен на дебат за духовност с Ричард Доукинс и папата. Трудността идва частично от новостта на AI — като слепи мъже, изследващи различни части на слона — и частично от дълбоки различия в светогледите. Обикновено, техно мислителите от Западното крайбрежие предвиждат бърза трансформация; учените от Източното крайбрежие са по-скептични. Изследователите по AI настояват за бърз експериментален напредък; други в областта на компютърното инженерство искат теоретична строгост. Индустриалните insiders искат да оставят следа в историята; външните критици отхвърлят техния хайп. Политически, човешки и философски възгледи за технологиите, прогреса и ума задълбочават разделението. Този пленителен дебат сам по себе си е проблем. В индустрията голяма част от приемат предположенията на „AI 2027“, но спорят за срокове — недостатъчен отговор, подобен на спорове за времето, когато планетата ще бъде унищожена. От друга страна, умерените възгледи за „AI като обикновена технология“ за запазване на човешкия контрол са толкова сдържани, че биват игнорирани от анализатори, фокусиращи се върху апокалиптични сценарии. Когато AI става все по-съществена за обществото, дискурсът трябва да премине от специалистски дебат към практически съгласие. Липсата на единно експертно становище улеснява вземащите решения да пренебрегват рисковете.

В момента компаниите, работещи с AI, не са променили значително баланса между възможности и безопасност. Междувременно, ново законодателство забранява държавна регулация на AI модели и системи за автоматични решения за десетилетие — потенциално позволявайки на AI да регулира човечеството, ако катастрофалният сценарий се потвърди. Сега е спешно да се прилагат мерки за безопасност. Прогнозирането на бъдещето на AI като разказован сюжет включва компромиси: предпазливи сценарии може да пропуснат рядко срещани рискове; въображаемите държат на възможността, а не на вероятността. Дори пророци като романиста Уилям Гибсън са изненадани от събития, които променят прогнозите им. „AI 2027“ е ярък и спекулативен разказ, написан като научна фантастика с обилни диаграми. Той предполага експлозия на интелигентността около средата на 2027 г. , предизвикана от „саморегулиращо се подобрение“ (RSI), при което системи по собствена инициатива извършват изследвания и създават още по-умни поколения в ускоряващи се обратни връзки, които изпреварват човешкия контрол. Това може да доведе до геополитически конфликти, например Китай строи огромни датацентри в Тайван за контрол над AI. Детайлите подсилват ангажимента, но остават гъвкави; ключовото послание е за вероятния старт на експлозията на интелигентността и последвалите борби за власт. RSI е хипотетична и рискована концепция; AI фирми осъзнават опасностите, но се стремят да я реализират, за да автоматизират своята работа. Успехът на RSI зависи от технологични фактори като мащабиране, които може да срещнат граници. Ако RSI проработи, може да се появи суперинтелигентност, превъзхождаща човешкия ум — малко вероятна случайност, ако прогресът стигне точно над човешките нива. Последиците могат да включват милитаризирани оръжейни състезания, манипулации или елиминиране на човечеството, или благосклонна суперинтелигентна AI, решаваща проблемите с синхронизацията. Несигурността се запазва заради променливата природа на AI, тайната на собствените разработки и спекулациите. „AI 2027“ уверено описва сценарий на технологичен и човешки провал, при който компаниите преследват RSI, въпреки липсата на интерпретируемост и контрол. Кокотайло твърди, че това са съзнателни решения, движени от конкуренция и любопитство, въпреки известните рискове, които правят самите компании некоректни актьори. Обратно, Капур и Наранян в „AI като обикновена технология“, основано на консервативен източно-американски светоглед, не вярват в бързи интелигентни експлозии. Те посочват „скоростни ограничения“ — намаления заради разходите за хардуер, недостатъчност на данни и общи моделни тенденции — които забавят революционния импулс, давайки време за регулации и мерки за безопасност. За тях, интелигентността е по-маловажна от силата — способността да влияе на околната среда — и дори високоефективните технологии се разпространяват бавно. Обясняват това с ограниченото въвеждане на автономни автомобили и развитието на ваксината на Moderna срещу COVID-19: макар дизайнът да е бърз, разпространението отне година заради биологически и институционални реалности. AI за стимулиране на иновациите няма да премахне социалните, регулаторните или физическите ограничения при реализация. Освен това, Наранян подчертава, че фокусът върху интелигентността пренебрегва специализирана експертиза и съществуващите системи за безопасност в инженерството — аварийни резервоари, redundancies, формално доказване — които вече гарантират безопасността на машините, съвместно с човека. Технологичният свят е добре регулиран и AI трябва бавно да се интегрира в този ред. Те изключват военен AI, който включва различни, класифицирани динамики, и предупреждават, че милитаризацията на AI, централна страхова точка за „AI 2027“, изисква специален мониторинг. Препоръчват проактивен контрол: регулаторите и организациите не трябва да чакат пълната хармонизация, а да започнат да наблюдават реалната употреба на AI, рисковете и грешките й, като засилват правилата и устойчивостта. Дълбоките светогледови разделения произтичат от реактивната интелектуална динамика, провокирана от AI, създавайки затворени лагери и обратни връзки. Но, възможно е да се постигне обединена перспектива, като си представим „когнитивна фабрика“ — работно място, където хора с защитни средства оперират машини, предназначени за продуктивност и безопасност, под строга контролирана среда, постепенно въвеждане на иновации и ясна отговорност. Макар AI да ускорява автоматизацията на някои мисловни процеси, човешкият контрол и отговорност остават от първостепенно значение. Докато AI става все по-важен за обществото, той не намалява човешката агенция, а търси усилена отговорност, защото подобрените хора носят по-голяма тежест. Отдръпването от контрол е избор, който подчертава, че в края на краищата, хората остават в цялата си власт. ♦