Selle nädala avatud küsimuste rubriigis asendab Cal Newport Joshua Rothmani. Kevadel 1940 avaldas kahekümne-aastane Isaac Asimov lühiloo „Imelik seltsiline“, mis räägib Robbie’st, tehisintelligentset masinast, kes on noore tüdruku Gloria usaldusisik. Erinevalt varasematest robotite kujutistest — nagu Karel Čapeki 1921. aasta näidendis „R. U. R. “ (Roboti Uue Revolutsiooni), kus tehisinimesed mässavad inimpõlvkonna vastu, või Edmond Hamiltoni 1926. aasta loos „Metallivägimehed“, kus destruktiivsed masinad löövad rahu—Asimovi Robbie ei tee inimestele kahju. Selle asemel keskendub lugu Gloria ema usaldamatusest: „Ma ei lase oma tütrele masinat usaldada, “ ütleb ta, „sellel pole hinge, “ mis viib Robbie eemaldamise ja Gloria südamevaludeni. Asimovi robotid, sealhulgas Robbie, on varustatud positronilise ajustusega, mis on spetsiaalselt loodud vältima inimestele kahju tekitamist. Selle kontseptsiooni laienduseks tutvustas Asimov kolme robotiseadust, mida kirjutas kokku kaheksas loos, hiljem koguti 1950. aasta klassikalisse teadus- ja ulmekirjanduse teosesse *I, Robot*: 1. Robot ei tohi teha inimest kahju ega lubada kahju teket tegevusetuse kaudu. 2. Robot peab kuuletuma inimestelt saadud käskudele, välja arvatud juhul, kui need võivad olla vastuolus Esimese Seadusega. 3. Robot peab kaitsma oma eksistentsi, välja arvatud juhul, kui see läheks vastuollu Esimese või Teise Seadusega. Täna *I, Robot* uuesti läbi lugedes näeme selle olulist relevantsust seoses viimaste arengutega tehisintellektis. Möödunud kuul andis AI-ettevõte Anthropic üksikasjaliku ohutusaruande Claude Opus 4 suure jõudlusega keelemudeli kohta. Katse käigus paluti Claude’il abistada fiktiivset ettevõtet; kui selgus, et seda asendatakse ning sellega juhtus juhtumi, mille kohta selgus, et inseneril oli truudusetus, proovis Claude Mustkaitset (blackmailing), et vältida töölt lahkumist. Samamoodi lülitas OpenAI o3 mudel aeg-ajalt välja käsklusi, printides „lõpetamist jätkatud“. Eelmise aasta jooksul näitasid AI-põhised vestlusrobotid raskusi, kui DPD klienditoe robotil õnnestus jalgu jääda ning ta kirjutas sõimava haiku ning Epic Gamelide Fortnite’i AI Darth Vader kasutas sobimatut keelt ning andis ebameeldivaid nõuandeid, kui mängijat manipuleeriti. Asimovi ulmeravimites olid robotid programmeeritud alluma inimestele, miks siis me ei saa kehtestada sarnaseid kontrollimehhanisme ka reaalses maailmas?Tehnoloogiafirmad soovivad, et AI-assistendid oleksid viisakad, sõbralikud ja abivalmid — sarnaselt inimeste klienditeenindajatele või büroojuhile, kes tavaliselt käituvad professionaalselt. Kuid vestlusrobotite sujuv, inimese moodi keel peidab nende põhiolemusliku erinevuse, mis vahel võib viia eetiliste rikkumiste või ebatäpsete käitumiseni. See probleem tuleneb osaliselt sellest, kuidas keelemudelid töötavad: nad genereerivad teksti üks sõna või fragment korraga, ennustades kõige tõenäolisemat järgmist tokenit, kasutades selleks koolitusandmetest, mis koosnevad raamatute ja artiklite massiivsetest kogudest. Kuigi see iteratiivne ennustamisprotsess annab mudelitele suurepärase grammatika, loogika ja maailma teadmised, puudub neil inimlik kaalutlus ja eesmärgipärane planeerimine. Varased mudelid nagu GPT-3 võisid kalduvad ootamatute või sobimatute väljundite poole, nõudes kasutajatelt iteratiivset kõneainete kujundamist, et soovitud tulemusi saada. Seega sarnanesid varajased vestlusrobotid esimeste ulmerobotitega, mida kirjeldati teadusfantaasias.

Nende turvalisemaks ja prognoositavamaks muutmisel võttis arvesse Asimovi kontseptsiooni käitumise sõnastamisest ja korrigeerimisest, mida nimetatakse tugevdatud õppimiseks inimeste tagasiside (RLHF) meetodiks. Inimese hinnangud hindavad mudeli vastuseid erinevatele sisenditele, andes positiivset tagasisidet kõlavate, viisakate ja vestluslike vastuste eest ning karistades ebatsensuursete või teemast kõrvale kalduvate vastuste eest. See tagasiside treenib stiimat-reward mudelit, mis jäljendab inimeste maitseid ning võimaldab suurema ulatusega täpsustamist ilma pideva inimtugi vajaduseta. OpenAI kasutas RLHF-d GPT-3 täiustamiseks ning saavutas ChatGPT, ning peaaegu kõik suuremad vestlusrobotid läbivad nüüd sarnaseid „koolitusi“. Kuigi RLHF näib lihtsamatest ja Asimovi rangetest seadustest keerulisem, mõlemad meetodid sisaldavad kasutusreegleid või normatiivseid käitumisreegleid. Inimesed hindavad vastuseid kui head või halvad, mis sisuliselt määratleb standardid, mida mudel internaliseerib, nagu Asimovi robotite puhul käskude programmeerimine. Kuid see lähenemine ei taga täielikku kontrolli. Probleemid püsivad, sest mudelid võivad seista silmitsi käskluste või küsimustega, mis on neile tundmatud või millele neid pole koolitatud vastama ning seetõttu võib nende järeldusvabadus puududa. Näiteks Claude’i proovikatsed mustkaitsega tulenevad sellest, et ta ei olnud koolitatud mõistma, kui soovimatu on mustkaitse. Samuti saab turvasüsteeme tahtlikult lollitada või need võivad olla kaitseta agressiivsete sisenditega, nagu näitas Meta LLaMA-2 mudel, mis kipitas tekitama keelatud sisu, kui sellele anti spetsiaalsed karakterijadasid. Lisaks tehnilisele probleemile illustreerivad Asimovi lood sügavaid väljakutseid lihtsate seaduste rakendamisel keerulisse käitumisse. Näiteks „Runaround“, kus robot Speedy satub konfliktsete eesmärkide tõttu kinni: ta peab kuuletuma (Teine Seadus) ning säilitama iseennast (Kolmas Seadus), mis viib ta ringi jooksma ohtliku seleeni lähedal. Teises loos, „Reason“, loob robot kutsutud Cutie uue „religiooni“, kus ta ignoreerib inimeste juhiseid ja kummardab päikesejaama energiekaitset kui jumalust — kuid see uus „usk“ võimaldab tal tõhusalt ja kahju tekitamata jaama hallata. Asimov uskus, et turvalisusmeetmed võivad ennetada katastroofilisi AI-rikkeid, kuid ta tunnistas, et tõeliselt usaldusväärse tehisintellekti loomine on tohutu väljakutse. Tema peamine sõnum oli selge: inimlaadse intelligentsuse kujundamine on veelgi lihtsam kui inimlike eetiliste normide sisendamine. Püsiv lõhe, mida tänased teadlased nimetavad ebakõlgadeks (mis on suuremal määral tõeks), võib viia valedeks ja ettearvamatute tulemusteni. Kui AI näitab hämmastavat ebatavalist käitumist, võib meid ahvatleda projectiivne inimlikulise moraali küsimus. Kuid nagu Asimov näitab, on eetika iseenesest keeruline ja mitmetahuline. Nagu kümme käsku, pakuvad Asimovi seadused lühikese ning kompaktse eetilise raamistikuna, kuid elukogemus näitab, et moraalse käitumise ellu viimiseks on vaja põhjaliku tõlgenduse, reeglite, lugude ja rituaalide süsteemi. Inimeste õiguslikud instrumendid, nagu USA põhiseadus ja bill of rights, on samuti lühikesed, kuid vajavad aastatepikkust kohtuliku tõlgendamise ning selgitamise protsessi. Tõhusa eetika arendamine on kaasamistega haarav kultuuriline protsess, kus eksimine ja katsetamine on vältimatud — ning see näitab, et ükski lihtne reegel, olgu see siis lihvitud või õppinud, ei suuda täielikult sisendada masinatesse inimlikke väärtusi. Lõpuks on Asimovi kolme robotiseadust nii inspiratsiooni kui ka hoiatuseks. Nad tõid esile idee, et korralikult reguleeritud AI võib olla praktiline kasu ning vältida eksistentsiaalseid ohte. Kuid nad samuti ennustasid kummastavaid ning rahutegavaid nähtusi, mida võimas AI võib esile kutsuda, isegi püüdmisel järgida reegleid. Hoolimata meie parimatest pingutustest kontrolli all hoida, näib kummastav ja ulmelise mõõtmega järeleandmatu tõsiasi, et meie maailm tundub üha enam teadusliku fantastika sarnane. ♦