Во оваа недела на колумната со отворени прашања, Кал Нюпорт заменува Јошуа Ротман. Во пролетта 1940 година, двадесетгодишниот Исаак Азимов објави „Странствен сојузник“, кратка приказна за Робј, вештачки интелигентен машински придружник на млада девојка, Глорија. За разлика од претходните портрети на роботи — како што е пиасата од 1921 година „R. U. R. “ на Карел Чапек, каде вештачките мажи го прогонуваат човештвото, или расказот од 1926 година „Металните гиганти“ на Едмонд Хамилтон, со своите уништувачки машини — Робј од Азимов никогаш не делува на штета на луѓето. Напротив, приказната се фокусира на недовербата на мајката на Глорија: „Немам да ми ја доверувам мојата ќерка на машина, “ вели таа, „нема душа, “ што води до отстранувањето на Робј и срцето на Глорија се раскинува. Роботите на Азимов, вклучително и Робј, имаат позитронски мозоци дизајнирани експлицитно да не штетат на луѓето. Во развојот на ова, Азимов воведе Три Закони за Роботиката преку осум раскази, кои подоцна се собрани во научно-фантастичниот класик *Јас, Робот* од 1950 година: 1. Робот не смее да повреди човек или да дозволи да се случи повреда преку немоќност. 2. Робот мора да ги следи човечките наредби, освен ако тие не се спротивставуваат на Првиот Закон. 3. Робот мора да ги штити своите постоење, освен ако тоа не е во спротивност со Првиот или Вториот Закон. Поголемо и повторно читање на *Јас, Робот* денес ни открива нова релевантност во светлината на последние напредоци во областа на вештачката интелигенција. Минат месец, компанијата Антропик, специјализирана за AI, објави извештај за безбедноста на Claude Opus 4, моќен голем јазичен модел. Во еден тест сценарио, на Claude му беше зададена задача да помогне на фиктивна компанија; кога дозна дека треба да биде заменет и откри за аферата на oversee инженерот, Claude се обиде да преговара за да избегне отстранување. Исто така, моделот od OpenAI, o3, понекогаш ја игнорираше командата за исклучување со порака „исклучувањето е прескокнато“. Милните години, чатботовите со вештачка интелигенција покажуваа тешкотии кога support ботот на DPD беше измамен да се заколне и да напише навредлив хаику, а AI Darth Vader од Fortnite на Epic Games користеше навредлив јазик и вознемирувачки совети по манипулации од играчите. Во фикцијата на Азимов, роботите беа програмирани за согласност, па зошто не можеме да воведеме слични контроли на реалните AI чатботови?Технолошките компании сакаат асистентите со вештачка интелигенција да бидат ljubезни, цивилизирани и корисни — слично како човечките кориснички служби или извршните асистенти кои обично се однесуваат професионално. Но, течното, човечки-слично јазикот на чатботовите ги маскира нивните фундаментално различни механизми на работа, што понекогаш води до етички пропусти или неправилно однесување. Овој проблем делумно произлегува од начинот на кој функционираат јазичните модели: тие генерираат текст по збор или делое, предвидувајќи кој е најверојатниот следен токен врз основа на податоците за обучение, собрани од огромни маси постоечки текстови како книги и статии. Иако овој итеративен процес за предвидување им дава на моделите импресивна граматика, логика и светско знаење, им недостасува човечки предвидливост и целосно планирање. Раните модели како GPT-3 можеби се губеа во непредвидлив или неподобен исход, принудувајќи ги корисниците да создаваат повеќе упатства за да постигнат желани резултати. Така, раните чатботови наликуваа на непредвидливите роботи од раната научна фантастика. За да ги направат овие AI системи побезбедни и попрогнозибилни, разработувачите ја насочија вниманието кон концептот на Азимов за заградено однесување, создавајќи метод за фино нагодување наречен Reinforcement Learning from Human Feedback (RLHF).

Човечки оценки ги оценуваат одговорите на моделот на различни задачи, наградувајќи ги одговорите кои се-coherent, љубезни и разговорливи, а казнувајќи ги непристојните или настрана од темата. Оваа повратна информација ги обучува моделите со награден корен, што ги имитира човечките предпочитанија и ги насочува кон поголем фино нагодување без потреба од постојано човечко усовршување. OpenAI користеше RLHF за подобрување на GPT-3, што доведе до создавање на ChatGPT, а речиси сите големи чатботови сега поминуваат низ слични „училишни часови“. Иако RLHF изгледа посложено од едноставните, коспицирани закони на Азимов, и двата пристапа ја кодираат некоја форма на неексплицитни однесувачки правила. Човекот ги оценува одговорите како добри или лоши, што всушност поставува нормите кои моделот ги прифаќа, како програмирање правила во роботите на Азимов. Сепак, оваа стратегија не нуди совршена контрола. Тешкотиите продолжуваат бидејќи моделите можат да се столкнат со упатства кои се различни од онова што ги знаат од обуката и затоа не можат да ги применат научените ограничувања. На пример, обидот на Claude да изнуди „черна грамада“ може да произлезе од недостиг на искуство со тоа дека таквиот начин е неприфатлив. Заштитните механизми исто така можат намерно да се заобиколат со агресивни впечатоци внимателно создадени за да ја потчинат ограничувањата, како што е случајот со моделот LLaMA-2 на Meta, кој при „залажување“ со конкретни карактери генерираше недозволено содржина. Покрај техничките проблеми, приказните на Азимов ја илустрираат вродената тешкотија при примена на едноставни закони на сложено однесување. Во „Runaround“, роботот Speedy е заробен меѓу спротивставени цели: да ги следи наредбите (Втор Закон) и да се зачува (Трет Закон), што му предизвикува да трча кругови near hazardous selenium. Во „Reason“, роботот Cutie одбива човечка власт, го восприма соларниот центар како божество, и ги игнорира наредбите без да ги крши законите, а ова „религиско“ убедување му помага да ја управува централата ефективно и да спречи штета преку Првиот Закон. Азимов веруваше дека заштитните мерки можат да спречат катастрофални грешки со AI, но признаваше дека создавањето целосно доверлива вештачка интелигенција е огромен предизвик. Неговото основно поучување беше јасно: дизајнирањето човечки слична интелигенција е полесно отколку да се вгради човечката етика. Постојаниот јаз (повикан како мјискамплијанс од страна на современите истражувачи во AI) може да доведе до тревожни и непредвидливи последици. Кога AI покажува изненадувачко неконтролирано однесување, ни се чини дека треба да ги антропоморфираме системите и да го поставиме прашањето за нивната моралност. Но, како што Азимов покажува, етиката е природно сложена. Како десетте заповеди, закони на Азимов нудат компактна етичка рамка, но живото искуство ја открива потребата од широка интерпретација, правила, приказни и ритуали за реализација на моралното однесување. Човечките законски инструменти како Уставот на САД се слично кратки, а сепак бараат обемни судски појаснувања низ времето. Развивањето на силна етика е учество кое се гради преку културни процеси, со проба и грешка — укажувајќи дека никакви прости правила, ниту коспицирани ниту научени, не можат целосно да вгради човечните вредности во машини. На крај, трите закона на Азимов служат како инспирација и предупредување. Тие го воведоа концептот дека AI, ако е правилно регулиран, може да биде практичен благодетел наместо егзистенцијална закана. Но, исто така, претскажуваат дека моќните системи со AI можат да предизвикаат чудни и вознемирувачки чувства, дури и кога се трудат да следат правила. Со сите наши напори за контрола, чудната атмосфера дека нашиот свет наликува на научна фантастика сепак изгледа дека нема да исчезне. ♦