Mitä kaikki älylliset olennot jakavat?Yann LeCunin, Metan päätekoälytutkijan, mukaan tässä on neljä keskeistä ominaisuutta. Tänä vuonna ennen vuotta Ranskassa AI Action Summit -tapahtumassa poliittiset johtajat ja tekoälytutkijat kokoontuivat keskustelemaan tekoälyn kehityksestä. Tapahtuman aikana LeCun esitteli perustavanlaatuisen määritelmänsä älykkyydestä IBM:n tekoälyjohtaja Anthony Annunziatalle. "Älykäs käyttäytyminen sisältää neljä oleellista ominaisuutta, joita kaikilla eläimillä—tai suhteellisen älykkäillä eläimillä—ja varmasti myös ihmisillä, on, " hän selitti. "Nämä ovat fyysisen maailman ymmärtäminen, pysyvä muisti, päättelyn kyky sekä suunnittelun taito, erityisesti monimutkaisten toimintojen hierarkinen suunnittelu. " LeCun huomautti, että tekoäly, erityisesti suuret kielimallit, eivät vielä ole saavuttaneet tätä tasoa ja että näiden kykyjen yhdistäminen vaatisi koulutusmenetelmien muutosta. Tämä selittää, miksi monet johtavat teknologiayritykset lisäävät parhaillaan uusia ominaisuuksia olemassa oleviin malleihin kilpailuttaakseen tekoälykentällä. "Fyysisen maailman ymmärtämisen osalta koulutat erillisen näköjärjestelmän ja liität sen suurin kielimalliin. Muistin osalta käytetään retrieval augmented generation -tekniikkaa (RAG), lisätään assosiatiivista muistia tai yksinkertaisesti skaalataan malli suuremmaksi, " hän sanoi. (RAG on Meta:n kehittämä tekniikka, jonka tavoitteena on parantaa suuria kielimalleja sisällyttämällä ulkopuolisia tietolähteitä. ) Silti LeCun pitää kaikkia näitä ponnisteluja pelkkinä "vilppisinä ratkaisujen".

Hän on toistuvasti keskustellut vaihtoehtoisesta lähestymistavasta nimeltä maailmaperusteiset mallit, jotka koulutetaan oikean maailman skenaarioilla ja osoittavat korkeampaa kognitiivista kyvykkyyttä kuin pelkkä kaavojen tunnistus. Hän avasi tästä käsityksestä Annunziatan kanssa käytetyssä keskustelussa. "Alkuasetelmana on jonkinlainen ajatus maailman tilasta tietyssä hetkessä T, kuvittele toimia, ja sitten maailmanmalli ennustaa, kuinka maailman tila muuttuu tämän toiminnan seurauksena, " hän selitti. Koska maailma kuitenkin kehittyy lukemattomien ennakoimattomien mahdollisuuksien kautta, ainoa realistinen tapa kouluttaa tällaisia malleja on abstraktio. Meta tutkii jo tätä käsitystä V-JEPA-mallin avulla, jonka julkaistiin julkisesti helmikuussa. Sitä kuvataan ei-generaatiomalliseksi, joka oppii ennustamalla puuttuvia tai maskattuja videopätkiä. "Ydinkäsite on, ettei ennusteita tehdä suoraan pikseleittäin. Sen sijaan koulutat järjestelmän toimimaan videon abstraktin representaation parissa, mikä sallii sen tehdä ennusteita tämän abstraktion sisällä. Ihanteellisesti tämä esitys suodattaa pois ennakoimattomia yksityiskohtia, " LeCun sanoi. Tämä lähestymistapa muistuttaa sitä, kuinka kemistit rakensivat fysiikan rakennuspalikoiden fundamentaalisen hierarkian. "Me loimme abstraktioita: hiukkasia, joiden päälle tulevat atomit, sitten molekyylit ja lopulta materiaalit, " hän kertoi. "Jokainen kerros suodattaa pois paljon epäolennaista tietoa alemmilta kerroksilta, riippuen tehtävästä. " Yksinkertaisesti sanottuna tämä tarkoittaa, että ymmärrämme fyysisen maailman rakentamalla hierarkioita, mikä on älykkyyden perusta.