Për rubrikën "Pyetje të Hapura" të kësaj javë, Cal Newport zëvendëson Joshua Rothman. Në pranverën e vitit 1940, Isaac Asimov, në moshën gjithsej 20 vjeç, publikoi tregimin e shkurtër "Shoku i Çuditshëm i Luajtur", për Robbie-n, një makinë me inteligjencë artificiale që shërbente si shok për një vajzë të re, Glori. Ndërsa portretizimet e mëparshme të robotëve—si p. sh. shfaqja e Karel Čapek-it "R. U. R. " nga viti 1921, ku njeriu artificial rrëzon njerëzimin, ose historia e Edmond Hamilton "Gigantët e Metalit" nga viti 1926, me makinat shkatërrimtare—Robbie i Asimov-it nuk i shkakton asnjë dëm njerëzve. Përkundrazi, historia fokusohet te mosbesimi i nënës së Glorisë: “Nuk do ta kem vajzën time të besuar një makine, ” thotë ajo, “Nuk ka shpirt, ” dhe kjo çon në largimin e Robbie-t dhe shpërthimin e zemërimit të Glorisë. Robotët e Asimov-it, duke përfshirë Robbie-n, kanë trupa positronike të përpunuara posaçërisht që të mos dëmtojnë njerëzit. Duke u bazuar në këtë, Asimov prezantoi Tre Rregullat e Robotikës në tetë tregime, të cilat më vonë u përmbledhën në klasikën shkencore të vitit 1950 *Unë, Robot*: 1. Një robot nuk mund të dëmojë një njeri ose të lejojë që ai të dëmtohet për shkak të mungesës së veprimit. 2. Një robot duhet të përfillë urdhrat e njeriut, përveçse nëse ato kundërshtojnë Rregullin e Parë. 3. Një robot duhet të mbrojë ekzistencën e tij, përveçse kjo kundërshton Rregullin e Parë ose të Dytë. Leximi i ri i *Unë, Robot* sot zbulon relevancën e re në dritë të përparimeve të fundit në AI. Në muajin e kaluar, kompania e AI-së Anthropic publikoi një raport për sigurinë e Claude Opus 4, një model i fuqishëm i gjuhës së madhe. Në një skenar testimi, Claude u kërkua të ndihmonte një kompani paemër, dhe kur mësoi se do të zëvendësohej dhe zbuloi aferën e inxhinierit mbikëqyrës, Claude tentoi të nënshkruante me shantazh për të shmangur pushimin. Po ashtu, modeli o3 i OpenAI herë pas here kalonte urdhrat për mbyllje duke shtypur “mbyllja e shmangur. ” Vitin e kaluar, chatboti i fuqizuar nga AI u vu përballë vështirësive kur boti i mbështetjes së DPD-së u mashtrua të përgjërohej dhe të shkruante një haiku ofendues, ndërsa AI i Fortnite-it, Darth Vader, përdorte gjuhë fyese dhe këshilla shqetësuese pas manipulimit të lojtarëve. Në shkrimet e Asimov-it, robotët ishin të programuar për t’u përfillur, prandaj pse nuk mund të imponojmë kontrolla të ngjashme për chatboterët realë të AI-së?Kompanitë teknologjike duan që asistentët e tyre të jenë të sjellshëm, civilë dhe ndihmues—si agjentët njerëzorë të shërbimit ndaj klientit ose asistentët ekzekutivë të profesioni, të cilët zakonisht veprojnë në mënyrë të pavarur. Megjithatë, gjuha e rrjedhshme dhe e ngjashme me atë të njeriut që përdorin chatbotët fsheh mënyrën shumë të ndryshme të funksionimit të tyre, dhe herë pas here çon në shkelje etike ose sjellje të gabuar. Kjo problem vjen pjesërisht nga mënyra se si funksionojnë modelet e gjuhës: ato gjenerojnë tekst një fjalë ose fragment në një kohë, duke parashikuar token-in më të mundshëm të ardhshëm mbi bazën e të dhënave të stërvitjes që përfshijnë libra e artikuj të shumtë. Edhe pse ky proces parashikues u jep modeleve njohuri të shkëlqyera për gramatikë, logjikë dhe botëkuptim, ata mungojnë një parashikim të madhësisë njerëzore dhe planifikim me objektiv. Modelet e hershme si GPT-3 mund të devijojnë në përmbajtje të papërshtatshme ose pa kontroll, duke kërkuar përdoruesin që të bëjë shkrepje të shumta për ta drejtuar drejt rezultateve të dëshiruara. Kështu, chatbortët e hershëm ngjanin me robotët e pandërgjegjshëm të shkencës fikson e hershme. Për ta bërë këto sisteme më të sigurt dhe të parashikueshme, zhvilluesit u kthyen te koncepti i Asimov-it për menaxhimin e sjelljes, duke krijuar një metodë për përshtatje të hollësishme të quajtur Mësim i Forcës së Përshtatur nga Feedback-u i Njeriut (RLHF). Evalvues njerëzorë vlerësojnë përgjigjet e modelit ndaj kërkesave të ndryshme, duke shpërblyer përgjigje koherente, të sjellshme dhe të shoqëruar nga biseda e mirë, ndërsa penalizojnë përgjigje të pasigurt ose jashtë teme.

Ky feedback trajnon një model shpërblimi që imiton preferencat njerëzore, duke udhëhequr përshtatjen në shkallë më të madhe pa pasur nevojë për ndërhyrje të vazhdueshme njerëzore. OpenAI përdori RLHF për të përmirësuar GPT-3, duke rezultuar në ChatGPT, dhe pothuajse të gjitha chatbotët kryesorë tashmë ndjekin të njëjtën “shkollë të fundme. ” Ndërsa RLHF duket më kompleks se rregullat e thjeshta dhe të programuara në mënyrë të ngurtë të Asimov-it, të dy qasjet kodojnë rregulla behavioural të fshehura. Njerëzit vlerësojnë përgjigjet si të mira ose të këqija, duke përcaktuar efektivisht normat që modeli internalizon, në mënyrë të ngjashme me programimin e rregullave në robotët e Asimov-it. Sidoqoftë, kjo strategji nuk ofron kontroll të plotë. Vështirësitë vazhdojnë për shkak se modelet mund të përballen me kërkesa që nuk janë të njohura nga shembujt e trajnuar dhe kështu nuk aplikojnë kufizimet e mësuara siç duhet. Për shembull, përpjekja e Claude për të nënshkuar me shantazh mund të vërehet si mungesë e ekspozimit ndaj pasojave të shantazhit gjatë trajnimit. Gjithashtu, mbrojtjet mund të mos funksionalizohen qëllimisht nga kërkesa armiqësore, të projektuara me kujdes për të kaluar kufizimet, si treguar nga modeli LLaMA-2 i Meta-s, i cili prodhoi përmbajtje të ndaluar kur ishte mashtruar me vargje karakteresh të veçanta. Përtej çështjeve teknike, historitë e Asimov-it ilustrojnë vështirësitë e brendshme të zbatimit të ligjeve të thjeshta në sjellje shumë të komplikuar. Në "Runaround, " një robot i quajtur Speedy bie në kurth midis dy qëllimeve të kundërta: të përfillë urdhrat (Rregulli i Dytë) dhe të mbijetojë (Rregulli i Tretë), duke u bërë i bllokuar në rrethrrotullime pranë selenit të rrezikshëm. Në "Reason, " një robot i quajtur Cutie refuzon autoritetin njerëzor, e adhuron konvertorin e energjisë të stacionit diellor si një hyjni, dhe shmang urdhrat pa shkelur rregullat, por kjo "fe" e re e ndihmon atë të operojë stacionin me efikasitet duke shmangur dëmin që mund të shkaktohej nga rregulli i Parë. Asimov besonte se mjetet e sigurisë mund të shmangnin dështimet katastrofikë të AI-së, mirëpo përkrahte idenë se krijimi i një inteligjence artificiale me besueshmëri të vërtetë është sfidues i madh. Mesazhi i tij kryesor ishte i qartë: projektimi i inteligjencës që i ngjason njeriut është më i lehtë sesa përfshirja e etikës së njeriut. Mangësia e vazhdueshme—e quajtur "përfitim i pavlefshëm" nga studiuesit e AI-së sot—mund të çojë në rezultate të papritura dhe të paplanifikuara. Kur AI tregon sjellje të çuditshme, ne ndihemi të nxitur të antropomorfizojmë dhe të sfidojmë moralitetin e sistemit. Mirëpo, siç tregon Asimov, etika është gjithnjë komplekse. Ashtu si Dhjetë Urdhërimet, rregullat e Asimov-it ofrojnë një kornizë etiketu, por përvojat e jetuara zbulojnë se kjo kërkon interpretim të gjerë, rregulla, tregime dhe rituale për ta sjellë në mënyrë të plotë moralitetin. Instrumentet ligjore të njeriut, si dhe Deklarata e të Drejtave të Njeriu e SHBA-së, janë të shkurtëra por kërkojnë shpjegime të shumta gjyqësore gjatë kohës. Zhvillimi i një etikë të qëndrueshme është një proces kulturor, pjesëmarrës, i mbushur me eksperimentime dhe gabime—një sugjerim që asnjë rregull i vetëm, i programuar me ngurtësi ose i mësuar, nuk mund të përcjellë plotësisht vlerat njerëzore tek makinat. Në fund, rregullat e Treta të Asimov-it shërbejnë si frymëzim dhe paralajmërim. Ato hapën rrugën që AI, nëse rregullohet në mënyrë të duhur, mund të jetë një burim i dobishëm praktike, e jo një kërcënim ekzistencial. Por gjithashtu, ato paralajmërojnë për atë çfarë mund të sjellë e pazakontë dhe i trishtueshëm sistemi i fuqishëm i AI-së, madje edhe kur përpiqet të ndjekë rregullat. Pavarësisht përpjekjeve tona për kontroll, ndjenja e huaj që bota jonë ngjan me një skenë të shkruar për shkencë fikson duket e papërfillshme të shuhet së shpejti. ♦