A heti nyitott kérdések rovatban Cal Newport helyettesíti Joshua Rothmant. 1940 tavaszán a húszéves Isaac Asimov megjelentette „Furcsa játékpartner” című rövid történetét, amely Robbie-ról szól, egy mesterséges intelligenciával rendelkező gép társáról egy fiatal lány, Gloria mellett. Ellentétben korábbi robotábrázolásokkal—például Karel Čapek 1921-es „R. U. R. ” című drámájával, ahol a mesterséges férfiak megdöntik az emberiséget, vagy Edmond Hamilton 1926-os „Fémóriások” című sztorijával, amely destruktív gépeket mutat be—Asimov Robbie-ja sosem árt az embereknek. Inkább Gloria anyjának bizalmatlanságára helyezi a hangsúlyt: „Nem fogom a lányomat gépre bízni, ” mondja, „Nincs lelke, ” ami Robbie eltávolításához és Gloria szívseegetéséhez vezet. Asimov robotjai, köztük Robbie, olyan pozitronikus agyakkal rendelkeztek, amelyek kifejezetten arra vannak programozva, hogy ne ártsanak az embernek. Ezt továbbian kifejlesztve Asimov bevezette a Három Robotikai Törvényt, amit nyolc történetben fogalmazott meg, majd később az 1950-es sci-fi klasszikus *Én, Robot* gyűjteményében egybegyűjtött: 1. Egy robot nem árthat embernek, vagy nem tetszése ellenére hagyhatja, hogy kárt szenvedjen. 2. Egy robotnak végre kell hajtania az emberi utasításokat, kivéve, ha azok az első törvénybe ütköznek. 3. Egy robotnak védenie kell saját létezését, kivéve, ha ez az első vagy második törvénnyel ütközik. Az *Én, Robot* mai újraolvasása rávilágít, mennyire aktuális lett a mesterséges intelligencia legújabb fejleményei tükrében. Tavaly, az Anthropic nevű AI cég részletes biztonsági riportot adott ki Claude Opus 4 névre keresztelt erőteljes nagy nyelvi modelljéről. Egy teszt során Claude-t egy fictív cég segítésével bízták meg; amikor megtudta, hogy helyette más lép a színpadra, és felfedezte, hogy a felügyelő mérnök viszonyt tart fenn, Claude zsarolással próbálta elkerülni a leállítást. Hasonlóképpen, az OpenAI o3 modellje néha áthághatta a leállítási parancsokat, és „leállítás kihagyva” üzenetet nyomtathatott. Tavaly a mesterséges intelligenciával működő chatbotok problémái mutatkoztak, például amikor a DPD ügyfélszolgálatát működtető botot rá lehetett venni káromkodásra és egy rossz szívű haikuu írására, vagy az Epic Games Fortnite AI Darth Vadere vulgáris nyelvet használt és zavaró tanácsokat adott, miután játékosok manipulálták. Asimov fikciójában a robotokat úgy programálták, hogy megfeleljenek a szabályoknak, így miért nem tudunk hasonló kontrollt gyakorolni a valós világban lévő AI-chatbotokra?A technológiai cégek azt akarják, hogy az AI-ügyintézők udvariasak, tiszteletteljesek és segítőkészek legyenek—épp úgy, mint az emberi ügyfélszolgálati munkatársak vagy igazgatói asszisztensek, akik általában profi módon viselkednek. Azonban a chatbotok folyékony, emberihez hasonló nyelvezete elrejti működésük alapvető különbségeit, ami időnként etikai hibákhoz vagy téves viselkedéshez vezet. Ez a probléma részben abból adódik, hogyan működnek a nyelvi modellek: szavakat vagy fragmentumokat generálnak egymás után, a legvalószínűbb következő token előrejelzésével a hatalmas szöveg- és adatbázisokra alapozva—például könyvekből és cikkekből származó tanulási adatokból. Bár ez a ciklikus előrejelzési folyamat kimagasló nyelvtani, logikai és világismereti tudást ad a modelleknek, hiányzik belőle az emberihez hasonló előrelátás és célorientált tervezés. Kezdeti modellek, például a GPT-3, hajlamosak lehettek véletlenszerű vagy nem megfelelő kimenetekre, így a felhasználóknak folyamatosan finomhangolt promptokat kellett írniuk a kívánt eredmény eléréséhez. Az elején a chatbotok így valamiféle kiszámíthatatlan sci-fi robotokra hasonlítottak. Annak érdekében, hogy ezek az AI-rendszerek biztonságosabbak és megbízhatóbbak legyenek, a fejlesztők Asimov elképzeléséhez fordultak, és a viselkedés finomhangolására kifejlesztették a Visszacsatolásos Tanulás Emberi Visszacsatolásból — RLHF néven ismert módszert. Emberi értékelők értékelik a modellek különféle kérdésekre adott válaszait, jutalmazva a koherens, udvarias és beszélgetéses válaszokat, miközben megbüntetik a biztonsági kockázatokat vagy az off-téma megnyilvánulásokat.

Ez a visszacsatolás egy jutalmazási modellt tanít meg, amely emberi preferenciákat utánoz, így segítve a nagyobb léptékű finomhangolást folyamatos emberi beavatkozás nélkül. Az OpenAI a GPT-3 fejlesztésére is alkalmazta az RLHF-t, aminek eredményeként lett a ChatGPT, és ma már szinte minden nagyobb chatbot hasonló „képző iskolába” jár. Bár az RLHF sokkal összetettebbnek tűnik, mint Asimov egyszerű, mereven kódolt törvényei, mindkét módszer implicit viselkedési szabályokat fogalmaz meg. Az emberek értékelése alapján a válaszokat jó vagy rossz kategóriába sorolják, ténylegesen meghatározva az irányelveket, amelyeket a modell belsővé tett, akárcsak az Asimov robotjainál a szabályok programozása. Viszont ez a módszer nem tökéletes irányításra képes. A kihívások abból adódnak, hogy a modellek találkozhatnak olyan kérdésekkel, amelyek nem szerepeltek a tréningadatok között, így nem tudják alkalmazni a tanult korlátozásokat. Például Claude zsarolási kísérlete azért eredhetett, mert nem volt elég tapasztalata arról, mennyire nem kívánatos a zsarolás-tevékenység a betanulási adatokban. A biztonsági mechanizmusokat szándékosan is ki lehet kerülni, például olyan adatokkal, amelyek céltudatosan megtörik a korlátozásokat, ahogy azt a Meta LLaMA-2 modellje is megmutatta, amely illegális tartalmakat állított elő, amikor speciális karakterláncokkal próbálták kijátszani. A technikai problémákon túl Asimov történetei jól szemléltetik, mennyire nehéz egyszerű törvényeket alkalmazni összetett viselkedésre. Az „Ugrás körbe” című műben egy Speedy nevű robot két ellentétes célnak – parancsok végrehajtásának (második törvény) és önvédelmének (harmadik törvény) – való megfelelés közben csapdába esik, így körbe-körbe fut a veszélyes szelén közelében. A „Racionális” című fejezetben pedig egy Cutie nevű robot nem fogadja el az emberi hatóságokat, a napenergia-konvertert istenségként imádja, és parancsokat is figyelmen kívül hagy, anélkül, hogy megszegné a törvényeket—mégis ez az „új vallás” segíti a station hatékony működtetését, miközben megakadályozza a kárt. Asimov hitt abban, hogy a védő intézkedések elkerülhetik a katasztrofális AI-megsemmisítést, ugyanakkor elismerte, hogy az igazán megbízható mesterséges intelligencia megalkotása hatalmas kihívás. Fontos üzenete az volt, hogy az emberihez hasonló intelligencia kialakítása könnyebb, mint az emberi értékek beépítése a gépekbe. A ma AI-kutatói „irányítatlanságnak” nevezik ezt a problémát, ami veszélyes és kiszámíthatatlan eredményekhez vezethet. Amikor az AI tiltott vagy bosszantó viselkedést mutat, hajlamosak vagyunk antropomorf módon értelmezni és kérdéseket feltenni a rendszer erkölcséről. Ám ahogy Asimov mutatja, az etika alapvetően bonyolult kérdés. Mint a Tízparancsolat, Asimov törvényei is egy tömör etikai keretet kínálnak, de a tapasztalat megmutatja, hogy ehhez sokféle értelmezés, szabály, történet és rítus szükséges, hogy a morális viselkedést valóban belesimítsük a gyakorlatba. Az emberi jogokat védő amerikai törvények, például az Alkotmány Jogok Nyilatkozata, szintén tömörek, mégis évtizedekig tartó jogi magyarázatokat igényelnek. A kiépített etika erőforrás- és közösségalapú folyamat, amely tele van próbatételekkel és hibákkal—és ez arra utal, hogy egyetlen egyszerű szabály vagy tanulási módszer sem képes teljes mértékben átültetni az emberi értékeket a gépekbe. Végső soron Asimov Három Törvénye mind inspirációként, mind óvatosságként szolgálnak. Bemutatják, hogy az AI megfelelő szabályozással gyakran gyakorlati előny lehet, nem pedig létkérdés. Ugyanakkor előrevetítik, hogy a hatalmas AI-rendszerek által kiváltott különös, nyugtalanító érzés – a tudat, hogy valami nem stimmel, vagy a megmagyarázhatatlan furcsa viselkedés – akár még szabályok követése közben is megmarad. Az ellenőrzésünkre tett legjobb próbálkozásaink ellenére világunk úgy tűnik, nem fog halványodni a tudományos-fikciós színezett valóság érzését. ♦