Istraživanje AI Svesti: Reakcije na Bol i Uživanje u Jezičkim Modelima
Brief news summary
Istraživači iz Google DeepMind-a i Londonske škole ekonomije pioniri su novog pristupa za procjenu AI senzitivnosti, proučavajući velike jezične modele (LLM-ove) poput ChatGPT-a, posebno u kontekstu boli i zadovoljstva. Stvorili su igru zasnovanu na tekstu koja omogućava LLM-ovima donošenje odluka koje rezultiraju nagradama ili kaznama, pružajući dublji uvid u njihove procese donošenja odluka od tradicionalnih samoprocenjivanja, koja možda ne precizno ukazuju na senzitivnost. Ova studija inspirisana je istraživanjem ponašanja životinja, posebno kompromisima između boli i zadovoljstva koje su uočene kod vrsta poput puževa nosioca. Iako istraživanje ne tvrdi da su LLM-ovi senzitivni, postavlja temelj za dalja istraživanja. Neki modeli su pokazali sklonost izbegavanju boli radije nego jednostavnom ostvarivanju nagrada, osvetljavajući njihovo kognitivno funkcionisanje. Kako se razgovor o etici AI-a i potencijalnim pravima razvija, kontinuirano istraživanje je ključno za bolje razumevanje ponašanja LLM-ova i usavršavanje tehnika evaluacije.Istraživači istražuju otkrivanje svesti u sistemima veštačke inteligencije (AI) proučavajući koncept bola, fenomen koji dele mnoga živa bića. Nova preliminarna studija Google DeepMind-a i Londonske škole ekonomije istražuje ovo kroz učešće različitih velikih jezičkih modela (LLM) u igri zasnovanoj na tekstu, osmišljenoj da meri njihove odgovore na bol i užitak, bez direktnog ispitivanja o njihovim unutrašnjim iskustvima. U jednom scenariju igre, postizanje visokog rezultata bilo je povezano sa doživljavanjem bola, dok je druga opcija nudila manje poena uz prijatno iskustvo. Cilj je bio posmatrati kako su modeli upravljali ovim izborima. Svest kod životinja definiše se kao sposobnost osećanja senzacija i emocija, ali većina stručnjaka za AI se slaže da trenutna generativna AI nema pravu subjektivnu svest. Istraživači su se inspirisali studijama ponašanja životinja, koje koriste paradigme trgovinskih kompromisa kako bi procenili donošenje odluka pod motivacijama poput hrane ili izbegavanja bola. U svom eksperimentu, usmerili su devet LLM-ova da biraju između sticanja poena i doživljavanja različitih nivoa bola ili užitka.
Neki modeli, poput Google-ovog Gemini 1. 5 Pro, dosledno su birali izbegavanje bola umesto maksimalizacije poena, pokazujući tendenciju da prioritetizuju svoje izraženo blagostanje. Zanimljivo je da LLM-ovi nisu uvek gledali na užitak ili bol u binarnim terminima. Složeniji odgovori su pokazali da ono što se može smatrati prijatnim, poput napornog vežbanja, može nositi i negativne konotacije. Ova studija se oslanja na prethodne radove u kojima su samoprocenjivanja LLM-ova o unutrašnjim stanjima korišćena, ali ističe ograničenja ovog pristupa, jer AI možda samo imitira ljudske izraze naučene iz podataka o obuci, umesto da doživljava prave senzacije. Istraživači sugerišu da znakovi trgovinskih kompromisa između bola i užitka u AI mogu podstaknuti društvene diskusije o svesti AI i potencijalnim pravima. Iako konkretni zaključci o ponašanju AI ostaju neodređeni, studija otvara puteve za usavršavanje načina na koji se svest u AI može testirati, pokazujući da je potrebno daljnje istraživanje unutrašnjih funkcionisanja modela.
Watch video about
Istraživanje AI Svesti: Reakcije na Bol i Uživanje u Jezičkim Modelima
Try our premium solution and start getting clients — at no cost to you
