Co łączą wszystkie istoty inteligentne?Według Yanna LeCuna, głównego naukowca ds. sztucznej inteligencji w Meta, istnieją cztery kluczowe cechy. Podczas AI Action Summit w Paryżu na początku tego roku, liderzy polityczni i eksperci od AI zgromadzili się, aby omówić rozwój sztucznej inteligencji. Podczas tego wydarzenia LeCun przedstawił swoje podstawowe definicje inteligencji dyrektorowi AI z IBM, Anthony’emu Annunziacie. „Istnieją cztery niezbędne cechy zachowania inteligentnego, które posiada każde zwierzę — a na pewno ludzie, albo zwierzęta stosunkowo mądre, ” wyjaśnił. „Są to rozumienie świata fizycznego, posiadanie trwałej pamięci, zdolność do rozumowania oraz umiejętność planowania, szczególnie złożonych działań poprzez hierarchiczne planowanie. ” LeCun zauważył, że AI, szczególnie duże modele językowe, jeszcze nie osiągnęły tego poziomu, a integracja tych umiejętności wymagałaby zmiany metod treningu. To wyjaśnia, dlaczego wiele czołowych firm technologicznych obecnie dodaje nowe zdolności do istniejących modeli, rywalizując o pozycję lidera w dziedzinie AI. „Aby rozumieć świat fizyczny, trenuje się oddzielny system wizji i potem łączy się go z modelem językowym. Co do pamięci, używa się generowania wspomaganej rekonstrukcji (RAG), dodaje się pamięć asocjacyjną lub po prostu zwiększa skalę modelu, ” mówił.

(RAG to technika opracowana w Meta, mająca na celu poprawę dużych modeli językowych poprzez wprowadzenie zewnętrznych źródeł wiedzy. ) Niemniej jednak, LeCun uważa te wysiłki za jedynie „hakowania” (hacki). Często omawia alternatywne podejście zwane modelami opartymi na świecie, które są trenowane na scenariuszach z rzeczywistego świata i wykazują wyższe zdolności poznawcze wykraczające poza same rozpoznawanie wzorców. W swojej rozmowie z Annunziatą rozwinął ten koncept. „Zaczynasz od jakiejś koncepcji stanu świata w określonym czasie T, wyobrażasz sobie działanie, a następnie model świata prognozuje, jak zmieni się stan świata w odpowiedzi na to działanie, ” wyjaśnił. Jednak ponieważ świat rozwija się poprzez niezliczone nieprzewidywalne możliwości, jedynym realnym sposobem trenowania takich modeli jest abstrakcja. Meta już eksploruje ten koncept za pomocą V-JEPA, modelu udostępnionego publicznie w lutym. Opisuje się go jako model nienaznaczający (nie generatywny), który uczy się przewidywać brakujące lub zasłonięte fragmenty w filmach. „Podstawowa idea polega na tym, że nie przewidujesz bezpośrednio na poziomie pikseli. Zamiast tego trenujesz system, aby działał na abstrakcyjnej reprezentacji wideo, pozwalając mu dokonywać przewidywań w ramach tej abstrakcji. Idealnie, ta reprezentacja wyeliminuje nieprzewidywalne szczegóły, ” powiedział LeCun. To podejście przypomina to, jak chemicy ustanowili fundamentalną hierarchię dla składników materii. „Stworzyliśmy abstrakcje: cząstki, na których opierają się atomy, potem cząsteczki, a w końcu materiały, ” mówił. „Każda wyższa warstwa filtruje wiele nieistotnych informacji z niższych warstw, w zależności od zadania. ” W istocie, oznacza to, że rozumiemy świat fizyczny poprzez tworzenie hierarchii, co jest podstawą inteligencji.