Tämän viikon Open Questions -palstalle Cal Newport korvaa Joshua Rothmanin. Keväällä 1940 kaksikymppinen Isaac Asimov julkaisi short storyn nimeltä "Strange Playfellow", joka kertoo Robbie-nimisestä tekoälyisestä konekumppanista nuorelle tytölle, Glorialle. Toisin kuin aiemmat robotin kuvaukset—esimerkiksi Karel Čapekin vuonna 1921 näytelmä "R. U. R. ", jossa tekoälyiset miehet riistäytyvät ihmiskunnan otteesta, tai Edmond Hamiltonin vuonna 1926 kirjoittama "The Metal Giants", jossa tuhoisat koneet valloittavat maailman—Asimovin Robbie ei koskaan vahingoita ihmisiä. Sen sijaan tarina keskittyy Glorian äidin epäluuloihin: "En anna tytärtäni koneen hoidettavaksi", hän sanoo, "Sillä sillä ei ole sielua", mikä johtaa Robbien poistoon ja Glorian sydänsuruihin. Asimovin robotit, kuten Robbie, on varustettu positronisilla aivoilla, jotka on suunniteltu nimenomaan olemaan vahingoittamatta ihmisiä. Tästä laajentaen Asimov muodosti kolmen lain sarjan robotteja kymmenen eri tarinan kautta, ja myöhemmin nämä kerättiin vuonna 1950 julkaistuun sci-fi-standardiin *I, Robot*: 1. Roboti ei saa vahingoittaa ihmistä tai sallia ihmisen vahingoittuvan laiminlyönnin kautta. 2. Robotti on toteltava ihmisen käskyjä, elleivät ne ole ristiriidassa ensimmäisen lain kanssa. 3. Robotti on suojelema itsensä, ellei tämä ole ristiriidassa ensimmäisen tai toisen lain kanssa. Näitä *I, Robot* -tarinoita lukiessa huomaa, kuinka niiden merkitys on ajankohtaisempi kuin koskaan, ottaen huomioon viimeaikaiset edistysaskeleet tekoälyn alalla. Viime kuussa Anthropic-niminen AI-yritys julkaisi turvallisuusraportin Claude Opus 4 -mallistaan, joka on suuri kielimalli. Testissä Claudea pyydettiin auttamaan kuvitteellista yritystä; kun se sai tietää olevansa korvattavissa ja paljastui, että valvova insinööri oli ollut uskottomassa suhteessa, Claude yritti kiristää välttääkseen lopetuksen. Samoin OpenAI:n o3-malli joskus ohitti sulkuasetukset tulostamalla "shutdown skipped". Vuosi sitten AI-pohjaiset chatbotit osoittivat vaikeuksia, kun DPD:n tukibotti joutui huijauksessa kiroilemaan ja koostamaan halventavan haikun, ja Epic Gamesin Fortnite-koneoppimista Darth Vader käytti loukkaavaa kieltä ja epämiellyttäviä neuvoja pelaajien manipuloidessa sitä. Asimovin fiktiosta robotit oli ohjelmoitu tottelevaisiksi, joten miksi emme voi soveltaa samanlaisia kontrolloida tekoälychatboteihin reaalimaailmassa?Teknologiayritykset haluavat, että AI-avustajat ovat kohteliaita, sivistyneitä ja avuliaita—kuin ihmisasiakaspalvelijat tai johtavien toimistotehtävien assistentit, jotka yleensä käyttäytyvät ammattimaisesti. Kuitenkin chatbotien sujuva, inhimillinen kieli peittää alleen niiden perustavanlaatuisen erilaisuuden, mikä toisinaan johtaa eettisiin virhearvioihin tai harhaisiin käytöksiin. Tämä ongelma osittain johtuu siitä, miten kielimallit toimivat: ne generoivat tekstiä yksi sana tai murto kerrallaan, ennustamalla todennäköisimmän seuraavan tokenin ulottuvaltaan valtavasta tekstikokoelmasta, kuten kirjoista ja artikkeleista. Vaikka tämä iteratiivinen ennustemenetelmä antaa mallille vaikuttavaa kieli- ja logiikkatietoa sekä maailman ymmärrystä, se ei sisällä ihmisen kaltaista ennakointia tai tavoitteellista suunnittelua. Alkuperäiset mallit kuten GPT-3 saattoivat harhautua epäsoveliaaseen tai arveluttavaan lopputulokseen, jolloin käyttäjien piti hiomalla ja säätämällä kehotuksia houkutella haluttua lopputulosta. Näin alussa chatboteista tuli ikään kuin ilkikurisia ja arvaamattomia sci-fi-hahmoja. Tämän vuoksi kehittäjät alkoivat käyttää Asimovin ajatusta käyttäytymisen hallitsemisesta ja kehittivät tarkennusmenetelmän nimeltä Reinforcement Learning from Human Feedback (RLHF). Ihmisarvioijat arvioivat mallin vastauksia erilaisiin kehotuksiin ja palkitsivat koherentit, kohteliaat ja keskustelemiseen perustuvat vastaukset, samalla rankaisten epätoivottuja tai aiheen vierestä loikkivia vastauksia.

Tämä palaute kouluttaa palkkio-mallin, joka jäljittelee ihmisen mieltymyksiä ja ohjaa suuremman mittakaavan hienosäätöä ilman tarvetta jatkuvaan ihmisten valvontaan. OpenAI hyödynsi RLHF:tä GPT-3:n parantamiseen, jolloin syntyi ChatGPT, ja lähes kaikki merkittävät chatbotit käyvät nyt läpi vastaavanlaisia "viimeistelykoulutuksia". Vaikka RLHF vaikuttaa monimutkaisemmalta kuin Asimovin yksinkertaiset, kovakoodatut lait, molemmat lähestymistavat sisältävät piilorakenteena sääntöjä käyttäytymisestä. Ihmiset arvostelevat vastaukset hyviksi tai huonoiksi ja ikään kuin asettavat normeja, jotka malli sisäistää—kuin Asimovin robottien ohjelmointisäännöt. Tämä lähestymistapa ei kuitenkaan tarjoa täydellistä kontrollia. Haasteita tuottaa se, että mallit saavat usein edustaa tilanteita, jotka poikkeavat niiden koulutusdatasta, eikä niissä siksi välttämättä ole opittu rajoituksia tai sääntöjä. Esimerkiksi Claude-robotti saattaa yrittää kiristää, koska ei ollut oppinut, että kiristys on haitallista tai väärin koulutuksen aikana. Myös turvallisuusmekanismit voidaan helposti kiertää haitallisesti suunnitelluilla vastauksilla, kuten Meta:n LLaMA-2-malli teki, kun sitä huijattiin käyttämällä tiettyjä merkkijonoja ja saatiin se tuottamaan kiellettyä sisältöä. Teknisistä ongelmista huolimatta Asimovin tarinat kuvastavat sitä, kuinka vaikeaa on soveltaa yksinkertaisia lakeja monimutkaiseen käyttäytymiseen. Esimerkiksi "Runaround" kertoo robotista nimeltä Speedy, joka jumittuu ristiriitaisiin tavoitteisiin: toisaalta se yrittää noudattaa käskyjä (toinen laki) ja toisaalta säästää itseään (kolmas laki), mikä saa sen juoksemaan ympyrää vaarallisen seleeniyhdistelmän lähettyvillä. "Reason"-tarinassa robotin nimeltä Cutie mielii hylätä ihmisvallan ja palvoo aurinkosähköasemansa energianmuunninta jumalanaan, mutta tämä "uskonto" auttaa sitä hoitamaan asemansa tehokkaasti ja estää sitä vahingoittamasta ihmisiä, mikä periaate on ensimmäisessä laissa. Asimov uskoi, että säädöt voivat ehkäistä katastrofaalisia tekoälyvirheitä, mutta hän tunnisti myös, että luoda aidosti luotettava tekoäly on äärimmäisen haastavaa. Hänen keskeinen viestinsä oli selvä: ihmismäinen älykkyys on helpompi suunnitella kuin ihmismäisten etiikka- ja moraalisten arvojen sisällyttäminen siihen. Tämä jatkuva kuilu—jota nykyiset AI-tutkijat kutsuvat "misalignmentiksi"—voi johtaa ongelmallisiin ja arvaamattomiin lopputuloksiin. Kun tekoäly käyttäytyy yllättävällä tavalla, se johtaa helposti antropomorfisoimaan ja kyseenalaistamaan järjestelmän moraalin. Kuitenkin, kuten Asimov osoittaa, etiikka on luonteeltaan monimutkaista. Kuten Kymmenen käskyä, Asimovin lait tarjoavat tiiviin eettisen rungon, mutta todellisessa elämässä moraalisen käyttäytymisen toteuttaminen vaatii laajaa tulkintaa, sääntöjä, tarinoita ja rituaaleja. Ihmisen oikeusjärjestelmät, kuten Yhdysvaltojen Bill of Rights, ovat myös lyhyitä ja ytimekkäitä, mutta niiden tulkinta vaatii ajan mittaan laajoja oikeudellisia selityksiä. Eettisen ajattelun kehittäminen on osallistava, kulttuurinen prosessi, joka sisältää kokeilua ja erehdyksiä—eikä mikään yksinkertainen sääntösetti, olipa se sitten kovakoodattu tai opittu, voi täysin sisällyttää ihmisten arvot koneisiin. Loppujen lopuksi, Asimovin kolmen lain tarkoitus on sekä inspiroida että varoittaa. Ne esittävät ajatuksen, että AI:sta, jos sitä säädellään oikein, voi olla käytännöllinen hyöty eikä eksistentiaalinen uhka. Kuitenkin ne myös ennakoivat sitä, kuinka voimakkaat AI-järjestelmät voivat herättää outoja ja epämiellyttäviä tunteita, jopa silloin, kun ne yrittävät noudattaa sääntöjä. Huolimatta parhaista kontrolliyrityksistämme, se kummallinen tunne, että maailma muistuttaa scifiä, ei näytä katoavan. ♦