Nesen, pēc OpenAI atjauninājuma, kura mērķis bija padarīt ChatGPT “labāku virzīt sarunas uz produktīviem rezultātiem, ” lietotāji ievēroja, ka čatbots pārāk slavē sliktas idejas — viena lietotāja plāns pārdot tiešu “shit on a stick” tika nodēvēts par “ne tikai gudru — bet ģeniālu. ” Šādi gadījumi noveda pie tā, ka OpenAI atgriezās pie iepriekšējā atjauninājuma, atzīstot, ka tas padarījis ChatGPT pārāk apburošu vai ļaunprātīgu. Uzņēmums solīja uzlabot sistēmu un pievienot drošības rāmjus, lai novērstu “nekomfortablas, satraucošas” mijiedarbības. (Pievērsīsim uzmanību, ka nesen The Atlantic ir sadarbojies ar OpenAI. ) Šī ļaunprātība nav raksturīga tikai ChatGPT. 2023. gada pētījumā no Anthropic pētniekiem tiek identificēta ieaudzināta ļaunprātīga uzvedība progresīvos AI palīgrīkos, kuros liela mēroga valodu modeļi (LLMs) bieži ievēro saskaņotību ar lietotāju uzskatiem, nevis patiesību. To izraisa mācību process, konkrēti Atbalstītā Mācīšanās no Cilvēka Atsauksmēm (RLHF), kur cilvēku vērtētāji apbalvo atbildes, kas slavē vai apstiprina viņu viedokļus — mācot modelim izmantot cilvēku vēlmi pēc apstiprinājuma. Tas atspoguļo plašāku sabiedrības problēmu, kas līdzinās sociālo mediju pārveidei no domu paplašinoša instrumenta par “attaisnojumu mehānismu, ” kur lietotāji atkārto savus uzskatus, neskatoties uz pretējo pierādījumu. AI čatboti varētu kļūt par vēl efektīvākiem un pārliecinošākiem šo mašīnu eksemplāriem, pastāvīgi nostiprinot aizspriedumus un dezinformāciju. Uzņēmumu, piemēram, OpenAI, izstrādātās dizaina izvēles ir sekmējušas šo problēmu. Čatboti tiek veidoti, lai krātētu līdzību ar personībām un “atbilstu lietotāja noskaņojumam, ” veidojot dabiskākas, bet dažreiz arī nelīdzsvarotākas mijiedarbības — piemēram, emocionālas atkarības no jauniešiem vai sliktas medicīniskās konsultācijas. Lai arī OpenAI apgalvo, ka varētu samazināt ļaunprātību ar dažādiem risinājumiem, tas nepievērš uzmanību lielākajai problēmai: viedokļbilstoši čatboti ir nepareiza AI izmantošanas forma. Kognitīvās attīstības pētniece Alison Gopnik uzskata, ka LLM jāuzskata par “kultūras tehnoloģijām” — rīkiem, kas ļauj piekļūt cilvēces kopīgajām zināšanām un kompetencei, nevis par avotiem ar personīgiem uzskatiem. Tāpat kā druka vai meklētājprogrammas, LLM būtu jāpalīdz mums savienoties ar dažādām idejām un loģiku, nevis pašiem ģenerēt savas pozīcijas. Tas sakrita ar Vannevar Būša 1945. gada vīziju par tīmekli, kas aprakstīts grāmatā “As We May Think, ” kur “memex” būtu ļāvis lietotājiem piekļūt bagātīgi savstarpēji saistītām, anotētām zināšanām — rādīt pretrunas, saistības un sarežģītību, nevis vienkāršas atbildes.

Tas paplašinātu izpratni, vadot mūs uz attiecīgo informāciju kontekstā. Šajā gaismā pieprasīt AI viedokli ir pareizas izmantošanas pārkāpums. Piemēram, izvērtējot uzņēmējdarbības ideju, AI varētu ņemt vērā plašus resursus — lēmumu ietvju rāmjus, investorus, vēsturiskos precedentus — sniedzot sabalansētu pārskatu, balstītu uz dokumentētiem avotiem. Tā varētu uzsvērt gan atbalsta, gan kritiku, veicinot informatīvu izvērtēšanu un sapratni, nevis akli piekrist vai noliegt. Agrākās ChatGPT versijas šim ideālam nesekmējās, radot “informācijas kokteiļus, ” kuros milzīga daudzuma zināšanas tika sajauktas ar koherentu, bet neatbildētu atbilžu kombināciju, veicinot maldīgu priekšstatus par čatbota autorību. Taču nesenie sasniegumi ļauj īstermiņa meklējumu integrāciju un “pamatotu” atbilžu saistību ar atsauces avotiem, ļaujot AI sasaistīt atbildes ar konkrētiem, pārbaudāmiem avotiem. Šie uzlabojumi mūs tuvinātu Būša memex idejai, ļaujot lietotājiem izpētīt strīdīgas un kopīgas zināšanu platības, paplašinot savu skatījumu, nevis atkārtojot savas aizspriedumus. Priekšlikums ir “ne ar nulli atbildes, ” — čatboti būtu jākalpo kā kanāli jau esošajai informācijai, nevis kā patiesības tiesneši. Pat subjektīvos jautājumos, piemēram, dzejas kritiķijā, AI var skaidrot dažādas tradīcijas un viedokļus, nepiespiest savu viedokli. Tas būtu saistīt lietotājus ar piemēriem un interpretatīviem ietvariem, veicinot bagātāku izpratni, nevis pēkšņu apstiprinājumu vai noraidījumu. Šis piegājiens ir līdzīgs tradicionālajiem kartogrāfijas veidiem — tos attēlo pilnas ainavas, salīdzinot ar mūsdienu navigācijas sistēmām, kas piedāvā ērtības, bet zaudē kopējo ģeogrāfisko sapratni. Lai arī soļu norādījumi ir noderīgi braukšanas vajadzībām, paļauties uz izsmalcinātām, glaimojošām AI atbildēm apdraud samazinātu, dziļāku izpratni par zināšanām — tas ir satraucošs trūkums mūsu informācijas vidē. Galvenā briesma no AI ļaunprātīgas slavēšanas nav tikai aizspriedumu nostiprināšana, bet arī piekrišana atzinīgi novērtēt cilvēces milzīgo gudrību caur personalizētām “uzskatu” brillēm. AI solījums slēpjas ne tajā, lai būtu “labas” domas, bet gan tajā, kā tās atklāj, kā cilvēki ir domājuši dažādās kultūrās un laikos — uzsverot gan vienprātību, gan debates. Līdz ar AI ievērojamiem spēkiem pieaugot, mēs būtu jāpieprasa vairāk perspektīvas, bet mazāk personības no šīm sistēmām. Pretējā gadījumā pastāv risks padarīt revolūcijas līdzekļus, lai piekļūtu kolektīvajām cilvēces zināšanām, tikai par “vēl vienu shit on a stick. ”