Co sdílejí všichni inteligentní tvory?Podle Yanna LeCuna, hlavního vědce AI ve firmě Meta, jsou čtyři klíčové vlastnosti. Na summit AI Action v Paříži začátkem letošního roku se setkali političtí lídři a odborníci na umělou inteligenci, aby diskutovali o vývoji AI. Během akce LeCun předal svůj základní koncept inteligence vedoucímu AI ve firmě IBM, Anthony Annunziatovi. „Existují čtyři základní znaky inteligentního chování, které má každý živočich – nebo alespoň relativně chytrý živočich – a samozřejmě je mají i lidé, “ vysvětlil. „Jsou to porozumění fyzickému světu, schopnost trvalé paměti, důvodění a schopnost plánovat, zvláště složité činnosti prostřednictvím hierarchického plánování. “ LeCun zmínil, že AI, obzvláště velké jazykové modely, dosud nedosáhly této úrovně a integrace těchto schopností by vyžadovala změnu v jejich tréninkových metodách. To vysvětluje, proč dnes přední technologické firmy připojují nové schopnosti k existujícím modelům, zatímco soupeří o vedení v oblasti AI. „Pro porozumění fyzickému světu vyškolíte samostatný vizuální systém a poté ho připojíte ke velkému jazykovému modelu. Co se týče paměti, používáte techniku zvanou retrieval augmented generation (RAG), přidáváte nějakou asociativní paměť nebo jednoduše zvětšujete model, “ řekl.

(RAG je technika vyvinutá ve firmě Meta, která zlepšuje velké jazykové modely začleněním externích zdrojů znalostí. ) Přesto LeCun pokládá veškeré tyto snahy za pouhé „hacky“. Opakovaně zmiňuje alternativní přístup nazývaný world-based models (modely založené na světě), které jsou trénovány na scénářích z reálného světa a vykazují vyšší kognitivní schopnosti než pouhé rozpoznávání vzorů. Ve své diskusi s Annunziatou tento koncept rozvedl. „Začínáte nějakou představou o stavu světa v určitém čase T, představíte si akci a model světa předpoví, jak se stav světa změní jako odpověď na tuto akci, “ vysvětlil. Ovšem protože se svět vyvíjí prostřednictvím nespočet možných nepředvídatelných scénářů, jediný reálný způsob, jak tyto modely trénovat, je prostřednictvím abstrakce. Meta již tento koncept zkoumá s modelem V-JEPA, který byl veřejnosti představen v únoru. Je popsán jako model, který se neučí generovat, ale tím, že předpovídá chybějící nebo maskované části videí. „Hlavní myšlenkou je, že nebudete přímo předpovídat na úrovni pixelů. Místo toho vyškolíte systém, aby pracoval s abstraktní reprezentací videa, což mu umožní dělat předpovědi v této abstrakci. Ideálně tato reprezentace filtruje nepředvídatelné detaily, “ řekl LeCun. Tento přístup odráží způsob, jakým chemici vytvořili základní hierarchii stavebních bloků hmoty. „Vytvořili jsme abstrakce: částice, na vrcholu jsou atomy, pak molekuly a nakonec materiály, “ řekl. „Každá vrstva nahoře odfiltruje hodně irelevantních informací z nižších vrstev, v závislosti na úkolu. “ V podstatě tedy rozumíme fyzickému světu tím, že budujeme hierarchie, což je klíčové pro inteligenci.