Što svi inteligentni bića dijele?Prema Yann LeCunu, glavnom znanstveniku za umjetnu inteligenciju u Meti, postoje četiri ključne osobine. Na AI Action Summitu u Parizu ranije ove godine, politički čelnici i stručnjaci za AI okupili su se kako bi razgovarali o razvoju umjetne inteligencije. Tijekom događaja, LeCun je svoju temeljnu definiciju inteligencije prenio voditelju AI-a u IBM-u, Anthonyju Annunziati. „Postoje četiri osnovne osobine inteligentnog ponašanja koje posjeduju svaka životinja — ili relativno pametna životinja — a zasigurno i ljudi“, objasnio je. „To su razumijevanje fizičkog svijeta, posjedovanje trajne memorije, sposobnost rasuđivanja i mogućnost planiranja, posebno složenih radnji putem hijerarhijskog planiranja. “ LeCun je istaknuo da AI, posebno veliki jezični modeli, još nisu dostigli tu razinu te bi integracija tih sposobnosti zahtijevala promjenu u njihovim metodama obučavanja. To objašnjava zašto mnoge vodeće tehnološke tvrtke trenutno dodaju nove sposobnosti postojećim modelima dok se natječu za vodstvo u području AI-ja. „Za razumijevanje fizičkog svijeta, trenirate poseban sustav za vid, a zatim ga pridružujete velikom jezičnom modelu. Za memoriju, koristite tehnike podizanja generiranja obogaćenog pretraživanjem (RAG), dodate neku asocijativnu memoriju ili jednostavno povećate veličinu modela“, rekao je.

(RAG je tehnika razvijena u Meti za poboljšanje velikih jezičnih modela integriranjem izvora vanjskog znanja. ) Ipak, LeCun smatra da su svi ti napori samo „hakovi“. Višekratno je govorio o alternativnom pristupu nazvanom modeli temeljenim na svijetu, koji su obučeni na stvarnim scenarijima i pokazuju višu kognitivnu sposobnost od pukog prepoznavanja uzoraka. U svom razgovoru s Annunziatom, razjasnio je taj koncept. „Počinješ s nekom idejom o stanju svijeta u određeno vrijeme T, zamisliš radnju, a zatim model svijeta predviđa kako će se stanje svijeta promijeniti kao odgovor na tu radnju“, objasnio je. Međutim, budući da se svijet mijenja kroz bezbroj nepredvidivih mogućnosti, jedini održivi način obučavanja takvih modela jest putem apstrakcije. Meta već istražuje ovaj koncept s V-JEPA modelom, koji je javno objavljen u veljači. Opisuje se kao model koji ne generira samostalno, već uči predviđanjem nedostajućih ili maskiranih segmenata u videu. „Glavna ideja je da ne predviđa izravno na razini piksela. Umjesto toga, trenira se sustav za rad na apstraktnoj reprezentaciji videa, dopuštajući mu da donosi predviđanja unutar te apstrakcije. Idealno, ta reprezentacija filtrira nepredvidive detalje“, kazao je LeCun. Ovaj pristup odražava način na koji su kemičari uspostavili temeljnu hijerarhiju za sastavne dijelove materije. „Stvorili smo apstrakcije: čestice, zatim atome, potom molekule, i na kraju materijale“, rekao je. „Svaki sloj iznad filtrira mnogo nerelevantnih informacija iz nižih slojeva, ovisno o zadatku. “ U suštini, to što to znači jest da fizički svijet razumijemo gradeći hijerarhije, što je temeljno za inteligenciju.