Jan. 17, 2025, 5:04 p.m.
3409

Istraživanje AI Svesti: Reakcije na Bol i Uživanje u Jezičkim Modelima

Brief news summary

Istraživači iz Google DeepMind-a i Londonske škole ekonomije pioniri su novog pristupa za procjenu AI senzitivnosti, proučavajući velike jezične modele (LLM-ove) poput ChatGPT-a, posebno u kontekstu boli i zadovoljstva. Stvorili su igru zasnovanu na tekstu koja omogućava LLM-ovima donošenje odluka koje rezultiraju nagradama ili kaznama, pružajući dublji uvid u njihove procese donošenja odluka od tradicionalnih samoprocenjivanja, koja možda ne precizno ukazuju na senzitivnost. Ova studija inspirisana je istraživanjem ponašanja životinja, posebno kompromisima između boli i zadovoljstva koje su uočene kod vrsta poput puževa nosioca. Iako istraživanje ne tvrdi da su LLM-ovi senzitivni, postavlja temelj za dalja istraživanja. Neki modeli su pokazali sklonost izbegavanju boli radije nego jednostavnom ostvarivanju nagrada, osvetljavajući njihovo kognitivno funkcionisanje. Kako se razgovor o etici AI-a i potencijalnim pravima razvija, kontinuirano istraživanje je ključno za bolje razumevanje ponašanja LLM-ova i usavršavanje tehnika evaluacije.

Istraživači istražuju otkrivanje svesti u sistemima veštačke inteligencije (AI) proučavajući koncept bola, fenomen koji dele mnoga živa bića. Nova preliminarna studija Google DeepMind-a i Londonske škole ekonomije istražuje ovo kroz učešće različitih velikih jezičkih modela (LLM) u igri zasnovanoj na tekstu, osmišljenoj da meri njihove odgovore na bol i užitak, bez direktnog ispitivanja o njihovim unutrašnjim iskustvima. U jednom scenariju igre, postizanje visokog rezultata bilo je povezano sa doživljavanjem bola, dok je druga opcija nudila manje poena uz prijatno iskustvo. Cilj je bio posmatrati kako su modeli upravljali ovim izborima. Svest kod životinja definiše se kao sposobnost osećanja senzacija i emocija, ali većina stručnjaka za AI se slaže da trenutna generativna AI nema pravu subjektivnu svest. Istraživači su se inspirisali studijama ponašanja životinja, koje koriste paradigme trgovinskih kompromisa kako bi procenili donošenje odluka pod motivacijama poput hrane ili izbegavanja bola. U svom eksperimentu, usmerili su devet LLM-ova da biraju između sticanja poena i doživljavanja različitih nivoa bola ili užitka.

Neki modeli, poput Google-ovog Gemini 1. 5 Pro, dosledno su birali izbegavanje bola umesto maksimalizacije poena, pokazujući tendenciju da prioritetizuju svoje izraženo blagostanje. Zanimljivo je da LLM-ovi nisu uvek gledali na užitak ili bol u binarnim terminima. Složeniji odgovori su pokazali da ono što se može smatrati prijatnim, poput napornog vežbanja, može nositi i negativne konotacije. Ova studija se oslanja na prethodne radove u kojima su samoprocenjivanja LLM-ova o unutrašnjim stanjima korišćena, ali ističe ograničenja ovog pristupa, jer AI možda samo imitira ljudske izraze naučene iz podataka o obuci, umesto da doživljava prave senzacije. Istraživači sugerišu da znakovi trgovinskih kompromisa između bola i užitka u AI mogu podstaknuti društvene diskusije o svesti AI i potencijalnim pravima. Iako konkretni zaključci o ponašanju AI ostaju neodređeni, studija otvara puteve za usavršavanje načina na koji se svest u AI može testirati, pokazujući da je potrebno daljnje istraživanje unutrašnjih funkcionisanja modela.


Watch video about

Istraživanje AI Svesti: Reakcije na Bol i Uživanje u Jezičkim Modelima

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Dec. 16, 2025, 5:43 a.m.

Zeta Global (NYSE: ZETA) predstavlja Athena AI ma…

Zeta Global najavljuje ekskluzivni program za CES 2026, predstavljajući AI-pokretani marketing i evoluciju Athenæ 15

Dec. 16, 2025, 5:22 a.m.

Tehnike kompresije videa pomoću AI poboljšavaju k…

U brzo mijenjajućem svijetu digitalne zabave, usluge striminga sve više primjenjuju tehnike kompresije videa zasnovane na umjetnoj inteligenciji (AI) kako bi poboljšale korisničko iskustvo.

Dec. 16, 2025, 5:22 a.m.

Očekuje se da će AI znatno povećati prodaju tokom…

Kako se obilježava sezona praznika, AI postaje popularan lični asistent za kupovinu.

Dec. 16, 2025, 5:20 a.m.

Chicago Tribune tuži Perplexity AI zbog kršenja a…

Chicago Tribune podnio je tužbu protiv Perplexity AI, AI-platforme za odgovore, optužujući tu kompaniju za nezakonito distribuiranje Tribuneovog novinarskog sadržaja i odvraćanje internet prometa s platformi Tribunea.

Dec. 16, 2025, 5:17 a.m.

Meta potvrđuje da grupne poruke na WhatsAppu nisu…

Meta je nedavno pojasnila svoj stav u vezi s korištenjem podataka s WhatsApp grupa za obuku umjetne inteligencije (AI), rješavajući široko rasprostranjene dezinformacije i zabrinutost korisnika.

Dec. 16, 2025, 5:17 a.m.

Direktor AI SEO Newswire-a istaknut u Daily Silic…

Marcus Morningstar, izvršni direktor AI SEO Newswirea, nedavno je predstavljen na blogu Daily Silicon Valley, gdje govori o svom pionirskom radu u novom području koje naziva Generative Engine Optimization (GEO).

Dec. 15, 2025, 1:26 p.m.

AI pokreće rekordnu prodaju od 336,6 milijardi do…

Analiza Salesforcea o periodu kupovine tokom Cyber Weeka 2025.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today