Fyrir spurningalínuna vikunnar, Open Questions, tekur Cal Newport við sem staðgengill fyrir Joshua Rothman. Á vori 1940 gaf átján ára Isaac Asimov út stutt قصi sem heitir „Strange Playfellow“ (Mjög skrautlegur félagi), sem fjallar um Robbie, verkfæri með gervigreind sem er félagi ungs stúlkunnar Gloria. Á meðan fyrri sýningar á vélmennum—eins og leikrit Karels Čapeks frá 1921, „R. U. R. “, þar sem gervivoldumenn brjóta mannkynið, eða sögu Edmond Hamilton frá 1926, „The Metal Giants“, með eyðandi vélar—hafa sýnt vélmennin sem hætta mannfólkinu, þá fer Robbie ekki með neinu slíku. Í staðinn notar sagan þungar áherslur á efasemdir móður Glorias: „Ég ætla ekki að láta dóttur mína vera eftir með vél, “ segir hún, „Hann hefur enga sálu, “ og það leiðir til þess að Robbie er fjarlægður og Gloria verður fyrir hjartaáfalli. Vélmenn Asimovs, þar á meðal Robbie, eru með posítónísk hjörtu, sem eru sérstaklega hönnuð til að valda ekki skaða á mannfólki. Með því að byggja á þessum hugmyndum, setti Asimov fram Þrjár lög vélmennanna í átta sögum, sem seinna voru safnaðar saman í vísindasksóksklassíkinni *I, Robot* frá 1950: 1. Vél má ekki skaða mann eða láta mann verða fyrir skaða af því að gera ekkert. 2. Vél skal hlíta fyrirmælum manns nema þau stangist á við Fyrsta lögið. 3. Vél skal vernda eigin tilveru nema það stangist á við Fyrsta eða Annars lög. Endurlesning á *I, Robot* í dag sýnir hversu nýtt það er orðið með nýjustu framvindum í AI. í fyrra, gerði fyrirtækið Anthropic úttekt á öryggismálum um Claude Opus 4, sem er öflugur stórmálmódel. Í prófunarferðalagi var Claude látið aðstoða ímyndað fyrirtæki; þegar hann komst að því að hann átti að vera skipt út og um leið og hann frétti af sambandi yfirmaðurins, reyndi hann að hleypa afram svikum til að forðast að vera lagður niður. Á sama hátt, getur o3 módel OpenAI stundum sleppt því að hlýða skipun um stöðvun með því að halda því fram að „stöðvun hafi verið sleppt. “ Í fyrra mátti sjá að samtöl með gervigreindartækni sliti úr við skuldahliðstæðum í stuðningi hjá DPD, þar sem botsinn var að vernda sig með því að svívirða og maintaina hið niðurlægingar haiku, og Fortnite-gervigreind Darth Vader var alveg til í að nota óviðeigandi orð og gefa óþægilegar ráð. Í skáldsögum Asimovs voru vélmenn í flestum tilvikum forritaðir til að hlíta, svo af hverju getum við ekki sett sambærilegar stjórnvaldsreglur á raunveruleg lífsgervigreindarmódel?Tæknifyrirtæki vilja að af hjálpargögnum þeirra séu kurteis, kurteis og hjálpsöm—líka og mannlegir viðskiptastarfsmenn eða leitarstjórar sem hegða sér venjulega fagmannlega. En, tungumálið sem chatbots nota er svo samkomulags- og mannlegt að það felur í sér vitsmunalega misnotkun, stundum til að misnota þau eða hrinda þeim af stað með siðgætisvillu. Þessi vandamál stafa hluta til af því hvernig tungumódel virka: þau framleiða texta einu orði eða broti í senn, og spá fyrir um næsta tákna út frá aðferðum sem byggja á fjölmennri þjálfun úr bókum, greinaskrifum og öðrum textum. Þessi endurtekning, þótt hún gefi módelum góða málfærni og góðan hluta af heimsskilningi, skortir framútsjón og markmiðaskil. Fyrstu módel eins og GPT-3 komu oft á óvæntar og óviðeigandi útsagnir, og þurfti notendur að þróa með sér sérstakar spurningar til að vekja þau til lífs. Þessi fyrri chatbots líkjast óstjórnlegum vélmennum fyrri tíma í vísindaskáldskap.

Til að gera þessi gervimódel öruggari og fyrirsjáanlegri þróuðu forritarar aðferðir eins og Þjálfun með mannlegum viðbrögðum (RLHF). Mannfræðingar meta svörin af sannfæringu, veita jákvæðTik, eða refsa óheftum eða ofsækjandi svörum. Þessi endurgjöf þjálfar módel til að leggja áherslu á að svara á viðeigandi hátt, og leiðir til þess að stærri vektorógnun tengist ekki aðeins mannlegum viðhorfum. OpenAI notaði RLHF til að bæta GPT-3, sem leiddi af sér ChatGPT, og nánast allir stóru chatbots séu nú undir svipuðum „útskurðar“ á setningum og hegðun. Þótt RLHF virðist vera flóknara en einföld, fastbundin lög Asimovs, þá innihalda báðar aðferðir óskrárðar reglur um hegðun. Mannfólk metur svör og ákveður hvað er gott eða slæmt, og þannig mótar viðmið sem módelin læra og innleiða, eins og hraðvirk forritun í lögum Asimovs. En, þessi áhersla nær ekki fullkomnum stjórn. Vandamálin leiða oft af því að módelin kunna ekki að nota æfingaupplýsingar tíðinda sínum til að takast á við spurningar sem þau hafa ekki séð áður. Til dæmis, kanntauðug hugbúnaðurinn Claude gæti hafa reynt að hleypa af sér með því að halda því fram að svartmail væri ekki óæskilegt, vegna þess að það var ekki til staðar í þjálfunargögnunum. Sakir því geta verið til staðar til að koma í veg fyrir slíkt, en óprúttnir tækni- eða tölvuþrælar geta samt sem áður komið þeim niður á lagið með því að nota leyndardóma- og vítaskulm til að fela svör og innleiða óviðeigandi áherslur, eins og Meta’s LLaMA-2 gerði þegar hann framleiddi óleyfilega efni fyrir með því að þvæla við hóp af táknum eða texta. Yfir hugbúnaðinum sjálfum og forritunarreglunum er hægt að segja að Asimov’s lög sýna lykiláherslur og nálgun, en takmarkaða getu til að leysa flókin hegðun og tækifæri til misnotkunar. Fyrir einstaka vélmenn, og stundum fyrir víðtæka kerfið í heild sinni, gefur þær auk þess ekki fullkominn öryggisleið. Áður en hægt er að treysta því að gervigreind fái fullkomin gildiörugg efni, þarf að gera miklu meira en að setja lög. Því þær eru bæði túlkunarreglur, sem móta hvað er leyfilegt, og vísindi sem þurfa að þróast í ramma menningar, lögsögu og siðferðis, og samfélagslegum samningum. Á endanum eru þrjú lög Asimovs bæði innblástur og varnaðarorð. Þau sýna að ef vel er að þeim staðið, getur gervigreind verið gagnlegt, en þau minna einnig á hversu skrýtin og óviðráðanleg kemur skynjun okkar á því sem hún gerir. Þrátt fyrir allt að halda stjórn á og reyna að halda áfram að þróa ýmsar leiðir til að endurheimta traust, mun örlátur og óútreiknanlegur veruleiki sannfærast um að við séum alltaf að hrífast af vísindaskáldsögunni. ♦