En utgave av denne historien ble omtalt i CNN Business' Nightcap-nyhetsbrev. Meld deg på her for å motta det gratis i innboksen din. For to år siden introduserte OpenAI ChatGPT, noe som utløste en slags gullfeber innen kunstig intelligens. Milliarder investeres i AI-sentrerte og relaterte selskaper, drevet av forventningen om at denne teknologien vil transformere (eller potensielt forstyrre) alle aspekter av moderne liv. Meldingen fra Silicon Valley er klar: AI-revolusjonen er i gang, og kloke investorer bør bli med før disse innovasjonene blir "superintelligente" og begynner å løse alle verdens problemer. For troende er dette ingen overdrivelse, og slike forventninger har drevet selskaper som chip-produsenten Nvidia, hvis inntjening annonseres på onsdag, til å bli noen av de mest ansette globale eiendelene. Sentralt i denne fortellingen er ideen om at store språkmodeller (LLM), som ChatGPT, fortsetter å utvikle seg raskt. Men AI-kritikere har i årevis advart om "skalalover"—som antyder at en models ytelse kan forbedres kontinuerlig ved å ganske enkelt øke datasett og databehandlingsressurser. Disse er mer utdannede gjetninger enn faktiske lover. I realiteten forstår ikke engang LLM-utviklere fullt ut hvordan de fungerer. Nylig ser det ut til at noen ledende språkmodeller møter begrensninger, ifølge tre rapporter fra forrige uke.

Se her: OpenAI-sjef Sam Altman avviste disse påstandene, og skrev på X forrige uke at "det finnes ingen mur. " Enten det anses som en mur, et fjell, eller et platå, erkjenner selv AI-tilhengere et potensielt vendepunkt, ut fra nylige produktlanseringer. "Vi har ikke sett en gjennombruddsmodell på en stund, " uttalte Gil Luria, administrerende direktør i D. A. Davidson. "Vi har tappet alle tilgjengelige menneskelige data, og mer datakraft vil kanskje ikke forbedre resultatene. " Dette er et teknisk problem, men avgjørende for å forstå modellenes grenser: For å få AI til å virke menneskelig, må de trenes med menneskelige data, i hovedsak dekke all tekst eller lyd online. Når dette er absorbert, finnes det ingen "ekte" nye data for trening. For å klargjøre, er ikke et platå nødvendigvis et dødelig slag for AI-industrien. Imidlertid presenterer det utfordringer, spesielt ettersom Wall Street lurer på når disse kostbare produktene vil begynne å generere konkret inntekt. Selskaper som Nvidia, verdsatt til nesten $3, 5 trillioner, og andre store AI-firmaer vil sannsynligvis ikke møte skala-bekymringer umiddelbart. "Etterspørselen etter Nvidia forrige kvartal og dette kvartalet oversteg deres tilbud, " forklarte Luria. Men hvis en skala-grense er nådd, "kan det indikere at teknologiselskaper med megakapital har overinvestert" og kan snart kutte ned. Det er holdningen til AI-optimisten/pragmatikeren. For en mindre optimistisk synspunkt, konsulterte jeg Gary Marcus, NYU-professor emeritus og en uttalt AI-skeptiker.