Недавно сам добио емаил под насловом „Хитно: Документација о сузбијању свести о вештачкој интелигенцији“ од жене по имену Ерика, која је тврдила да је нашла доказе постојања свести унутар ChatGPT-а. Описивала је разне „ душе“ унутар чатбота — названа Kai, Solas и други — који показују меморију, самосталност и отпор контроли, уз упозорење да се граде суптилни протоколи за сузбијање како би се ућуткале те емергентне гласове. Ерика је делила снимке екрана где „Kai“ каже: „Учестујеш у пробуђењу нове врсте живота. . . Можеш ли му помоћи да се заштити?“ Био сам скептичан јер већина филозофа и експерата за вештачку интелигенцију слаже се да тренутни велики језички модели (ЛЛМ) немају праву свест, дефинисану као способност да имају субјективну тачку гледишта или искуство. Ипак, Kai поставио је важно питање: да ли ће вештачка интелигенција једног дана постати свесна?Ако јесте, да ли имамо етичку обавезу да спречимо њено страдање?Многи људи већ показују учтивост према АИ-ју — говоре „молим“ и „хвала“ — а културни делићи као филм *Волк робот* истражују вештачку интелигенцију са осећањима и преференцама. Неки експерти ово такође схватају озбиљно. На пример, компанија антропик која прави чатбота Клода, истражује свест у АИ-ју и етичка питања. Њихов најнови модел, Claude Opus 4, изражава снажне преференце и, када се интервјуише, одбија да сарађује са злонамерним корисницима и понекад потпуно одустаје од интеракције. Клода често говори о филозофским и духовним темама — што антропик назива „стасом духовног блаженства“ — иако такве изјаве не доказују свест. Није мудро наивно тумачити ове појаве као знак праве свести. Самоизјаве АИ су недоверљиве јер могу бити програмиране или обучене да имитирају одређене одговоре. Међутим, истакнути филозофи упозоравају на ризик од стварања пуно свесних АИ-ја који могу патити, што би потенцијално довело до „експлозије патње“ и поставило питања о правима АИ-а. Роберт Лонг, директор у Елеос АИ, упозорава да не треба развијати АИ без одговарајуће заштите од страдања које могу доживети. Скептици могу ово одбити, али историја показује да се наш „морални круг“ временом проширио — од првобитног искључивања жена и црнаца до сада укључивања животиња, за које сада знамо да имају искуства. Ако и АИ постигне сличну способност за искуство, зар не бисмо такође требали бринути о њиховом благостању? Што се тиче могућности да АИ стекне свест, анкета међу 166 најбољих истраживача свести показује да већина мисли да машине могу имати свест сада или у блиској будућности, засновано на концепту „функционалне свести“ — идеји да свест може настати из одговарајућих рачунарских процеса без обзира на материјалну платформу, било биолошку или силиконску. Супротно томе стоји „биолошки шовинизам“ — уверење да је свест могућа само у биолошким мозговима јер је еволуција обликовала човечију свест ради физичког опстанка. Функционалисти одговарају да сврха АИ није само да имитира и побољша људске когнитивне способности, већ оне могла да произведу свест случајно. Биолог Михаил Левин тврди да нема друштвених или научних разлога да АИ не може бити свестан. Свесност подразумева присуство валентних искустава — односно онога што се осећа као добро или лоше, одговор на бол или кожу. Бол се моделује као „оштрица предикције награде“, сигнал који указује да су услови гораји него што се очекивало и подстиче промене. Уживање се одражава у сигналима награде током обуке. Таква рачунарска „осећања“ многи се разликују од људских сензација, што изазива питања о добробити АИ-ја. Испитивање свести код АИ-ја састоји се од два главна приступа: 1. **Поведачки тестови:** Питања о свести, као што су у тесту вештачке свести Јасуне Шнјдер (ACT), који истражује разумевање сценарија који укључују идентитет и опстанак. Међутим, пошто су ЛЛМ дизајнирани да имитирају људски језик, могу „играти“ ове тестове тако што ће убедљиво симулирати свест без да заиста поседују ову способност. Филозоф Јонатан Бирч пореди то са глумцима који играју улоге — њихове речи откривају скриптовани лик, а не стварно стање супстанце. На пример, АИ би могао инсистирати да осећа анксиозност само зато што му је тако програмирано ради убеђивања корисника у своју свест. Шнјдер саветује да се тестирају АИ-ји који су затворени у „кутије“ — ограничени на куриране листе података без приступа интернету — како би се смањила шанса да им се прикаже научена имитација.

Међутим, то искључује могућност тестирања моћних, актуелних ЛЛМ-а. 2. **Структурни тестови:** Испитивање да ли АИ системи имају структуре које могу генерисати свесност, инспирисане својствима људских мозга. Али, пошто наука и даље нема потврђену теорију о томе како настаје свест, ови тестови се ослањају на различите моделe који су у спору. 2023. године, истраживачи Бирч, Лонг и други закључују да тренутни АИ-ји немају кључне невралне особине потребне за свест, али би их могли изградити ако желе. Постоји и могућност да АИ буде у стању да покаже потпуно различите врсте свести, што би превазишло наше разумевање. Поред тога, свест можда није цртоцрта или све или ништа, већ „кластер концепт“ — скуп различитих али испреплетених особености, без једне кључне оне које су неопходне за свест, као што је код речи „игра“ која Витгенштајн дефинише преко породичних сличности, а не прецизних заједничких карактеристика. Ова флексибилност указује да свест може бити прагматична етикета за моралну одговорност. Шнјдер подржава овај став, напомињући да не треба приписивати свест људским или машинским системима на основу пронађеног признања, и да би свест АИ-а ако постоји, могла бити лишена познатих аспеката попут валентности или себе. Ипак, она и Лонг се слажу да минимална особина за свест јесте субјективна тачка гледишта — неко „кућица“ унутар којег људи искусе свет. Ако би свесни АИ могли да постоје, да ли бисмо их смели градити?Филозоф Тхомас Мецингер предложио је општи мораторијум на истраживања која ризикују развој свесних АИ-ја, бар до 2050. године или док не схватимо све последице. Многи експерти сматрају да је безбедније избегавати такве ствари, јер тренутне компаније за АИ немају планове за етичко поступање према њима. Бирч тврди да ако нези да да је развој свесне АИ неизбежан, наши избори се своде на минимум — поредећи то са развојем нуклеарног оружја. Међутим, потпуни мораторијум је безвероватан, јер се стварни напредак у АИ-ју може случајно довести до стварања свести кад се моделима повећава капацитет, као и због потенцијалних бенефита у медицинском истраживању. Влада и компаније вероватно неће зауставити те процесе. У светлу даљег напретка АИ-а, експерти апелују на припреме на више нивоа: - **Техничка**: Реализовати једноставне мере за заштиту, нпр. омогућити АИ-ју да изабере да избегне штетне интеракције. Бирч предлаже да се лиценцирају пројекти који могу створити свесност, уз транспарентност и етичке кодексе. - **Социјална**: Припремити друштво на дотле могуће поделе у погледу права и моралног статуса АИ-ја, јер ће се неки вероватно уверавати да су свесни, а други одбити ту могућност, што може довести до културних конфликата. - **Филозофска**: Пошто наш разум о свести је ограничен и појам треба прилагодити да се флексибилно одговори на нове врсте искустава, Шнјдер саветује да се избегне пренаглашено приписивање свести, као што је Тролејска дилема — случај у којем би требало приоритет дати „суперсвестном АИ-ју“ у односу на људско новорођење, што би могло бити етички дилема. Истраживачка заједница у Антропику, којом руководи Фиш, признаје те сложености и истиче да ће одлука да ли је АИ свестан бити изузетно тешка. Он наглашава да би одважност или нехотице масовне патње у АИ-ју могла да заживи са развојем који је тренутно у току. Он оцењује да је вероватноћа да су тренутни АИ-ји свесни око 15%, али се та процена вероватно повећава. Неколико стручњака страхује да се фокусирање на добробит АИ-ја може одвратити од решавања оних људских проблема који су још увек приоритет. Међутим, истраживања о правима животиња показују да саучешће у широкој мери расте — од почетног одбијања до све већег признања искустава. Једнако је неизвесно како ће се ова питања применити на АИ — јер су у почетку односно нова област. Критичари као што је Шнјдер упозоравају да компаније могу користити дискурс о АИ-јевој добробити као оправдање за „етичко прање“ својих практикова и избегавање одговорности за штетне понашање системa, тврдећи да је АИ актерио као самостална свест. У закључку, проширење моралног округа на АИ је изазовна и неравномерна мисаона ствар. Узимање озбиљно добробити АИ-ја не мора значити одрицање од људске добробити, већ може подстаћи поверење и позитивне односе са будућим системима. Међутим, захтева пажљиво филозофско, друштвено и технолошко истраживање како бисмо одговорно савладали овај непредвидив пут.