Čo všetky inteligentné bytosti zdieľajú?Podľa Yanna LeCuna, hlavného výskumníka AI v Meta, existujú štyri kľúčové znaky. Na summite AI Action v Paríži začiatkom tohto roka sa zišli politickí lídri a experti na AI, aby diskutovali o vývoji umelej inteligencie. Počas podujatia LeCun odovzdal svoj základný spôsob definovania inteligencie vedúcemu AI v IBM, Anthonyovi Annunziatovi. „Existujú štyri základné črty inteligentného správania, ktoré má každý tvor – alebo relatívne múdry tvor – a určite ich majú aj ľudia, “ vysvetlil. „Toto sú porozumenie fyzického sveta, mať trvalú pamäť, schopnosť uvažovať a plánovať, najmä komplexné činnosti prostredníctvom hierarchického plánovania. “ LeCun poukázal na to, že AI, najmä veľké jazykové modely, ešte nedosiahli túto úroveň a ich integrácia týchto schopností by si vyžadovala zmenu v ich tréningových metódach. To vysvetľuje, prečo mnohé popredné technologické firmy aktuálne pripojujú nové schopnosti k existujúcim modelom, zatiaľ čo súperia o vedúce postavenie v oblasti AI. „Pre porozumenie fyzického sveta trénujete samostatný systém videnia a ten pripojíte k veľkému jazykovému modelu. Pre pamäť používate techniku rozšíreného vyhľadávania (RAG), pridáte nejakú asociatívnu pamäť alebo jednoducho zväčšíte model, “ povedal.

(RAG je technika vyvinutá v Meta na zlepšenie veľkých jazykových modelov začleňovaním externých zdrojov poznania. ) Napriek tomu LeCun považuje všetky tieto úsilia za len „vylepšovky“. Opakovane spomínal alternatívny prístup nazývaný modely založené na svete, ktoré sú trénované na reálnych scénaroch a vykazujú vyššie kognitívne schopnosti než len rozpoznávanie vzorov. V rozhovore s Annunziatom podrobnejšie vysvetlil tento koncept. „Začnete s nejakou predstavou o stave sveta v konkrétnom čase T, predstavíte si akciu a následne model sveta predpovedá, ako sa stav sveta zmení v reakcii na túto akciu, “ vysvetlil. Avšak, pretože svet sa vyvíja prostredníctvom nespočetných nepredictívnych možností, jediný možný spôsob trénovania takýchto modelov je pomocou abstrakcie. Meta už tento koncept skúma s modelom V-JEPA, ktorý bol verejne sprístupnený vo februári. Je opisovaný ako model, ktorý sa neučí generovaním, ale predpovedaním chýbajúcich alebo maskovaných segmentov vo videách. „Jadro je, že nepredpovedáte priamo na úrovni pixelov. Namiesto toho trénujete systém na práci s abstraktným reprezentovaním videa, čo mu umožňuje robiť predpovede v rámci tejto abstrakcie. Ideálne je, že toto reprezentovanie odfiltruje nepredictívne detaily, “ povedal LeCun. Tento prístup odráža spôsob, akým chemici vytvorili základnú hierarchiu stavebných prvkov hmoty. „Vytvorili sme abstrakcie: častice, na ktorých sú atómy, ďalej molekuly a nakoniec materiály, “ vysvetlil. „Každá vyššia vrstva odfiltruje veľa irelevantných informácií z nižších vrstiev, v závislosti od úlohy. “ V podstate to znamená, že fyzický svet chápeme stavaním hierarchií, čo je základom inteligencie.