Jedno izdanje ove priče predstavljeno je u CNN Business' Nightcap newsletter-u. Prijavite se ovdje da biste ga besplatno primali u vašem inboxu. Prije dvije godine, OpenAI je predstavio ChatGPT, pokrenuvši neku vrstu zlatne groznice u oblasti umjetne inteligencije. U AI-usmjerene i povezane kompanije ulažu se milijarde, potaknute očekivanjem da će ova tehnologija transformisati (ili potencijalno poremetiti) svaki aspekt savremenog života. Poruka iz Silicijske doline je jasna: AI revolucija je u toku, a pametni investitori bi trebali ući u igru prije nego ove inovacije postanu "superinteligentne" i počnu riješavati sve svjetske probleme. Za čvrste vjernike, ovo nije pretjerivanje, a takva očekivanja izazvala su ogromni rast kompanija poput proizvođača čipova Nvidia, čija se dobit objavljuje u srijedu, do nivoa nekih od najcjenjenijih globalnih dobara. U središtu ove priče je ideja da se veliki jezički modeli (LLM-ovi), poput ChatGPT-a, nastavljaju brzo razvijati. Međutim, kritičari umjetne inteligencije već godinama upozoravaju na "zakone skaliranja"—predlažući da se performanse modela mogu konstantno poboljšavati jednostavnim povećanjem podataka i računarskih resursa. To su više obrazovane pretpostavke nego stvarni zakoni. U stvarnosti, čak ni LLM developeri ne razumiju u potpunosti kako oni funkcionišu. Nedavno, čini se da neki vodeći jezički modeli dostižu ograničenja, prema tri izvještaja od prošle sedmice.

Pogledajte ovdje: Izvršni direktor OpenAI-a, Sam Altman, opovrgao je te tvrdnje, objavljujući na X prošle sedmice da "nema zida. " Bilo da se radi o zidu, planini ili visoravni, čak i zagovornici umjetne inteligencije priznaju moguću prekretnicu, sudeći prema nedavnim lansiranjima proizvoda. "Nismo vidjeli prelomni model već neko vrijeme, " izjavio je Gil Luria, generalni direktor u D. A. Davidson. "Iscprili smo sve dostupne ljudske podatke, a više računske snage možda neće poboljšati rezultate. " Ovo je tehničko pitanje, ali ključno za razumijevanje ograničenja modela: Da bi AI djelovala ljudski, treba biti obučena na ljudskim podacima, pokrivajući suštinski sav tekst ili audio online. Kad se to sve apsorbuje, nema "pravih" novih podataka za obuku. Da pojasnimo, visoravan nije nužno fatalan udarac za AI industriju. Međutim, predstavlja izazove, posebno dok Wall Street pita kada će ovi skupi proizvodi ostvariti opipljive prihode. Kompanije poput Nvidie, procjenjene na gotovo 3, 5 triliona dolara, i druge velike AI firme verovatno se neće suočiti s problemima skaliranja odmah. "Potražnja za Nvidiom je prošlog i ovog kvartala premašila njihovu ponudu, " objasnio je Luria. Ipak, ako je dosegnuto ograničenje skaliranja, "to bi moglo ukazivati na to da su mega-kap tehnološke firmi previše uložile" i mogle bi uskoro smanjiti ulaganja. To je stav optimista/pragmatičara AI-a. Za manje optimistično gledište, konsultovao sam Garyja Marcusa, emeritusa profesora sa NYU-a i izrazitog skeptika AI-a.