Ang mabilis na pag-unlad sa artipisyal na katalinuhan (AI) ay nagbukas ng mga bagong posibilidad, partikular sa mga modelo ng pangangatwiran batay sa compute ng inference-time, na nagdulot ng mga talakayan tungkol sa potensyal para sa artipisyal na pangkalahatang katalinuhan (AGI). Ipinahayag ng OpenAI CEO na si Sam Altman at ng Anthropic CEO na si Dario Amodei ang posibilidad na magkaroon ng AI na kasing-lakas ng tao sa susunod na ilang taon. Gayunpaman, ang mga kasalukuyang sistema ng AI ay kulang sa isang mahalagang kakayahan: ang kakayahang patuloy na matuto pagkatapos ng pagsasanay. Ang AI ngayon ay umaandar sa dalawang yugto—pagsasanay at inference. Pagkatapos ng yugto ng pagsasanay, ang kaalaman ng modelo ay nagiging static, at hindi ito makakapag-adapt o matututo mula sa bagong data sa panahon ng inference. Upang ma-update ang kaalaman nito, karaniwang nangangailangan ang modelo ng masusing muling pagsasanay, na ito ay nangangailangan ng maraming yaman at hindi praktikal. Ang limitasyong ito ay pumipigil sa AI mula sa pag-abot ng patuloy na pagpapabuti tulad ng katalinuhan ng tao, na natututo at umaangkop sa real-time. Maraming alternatibong solusyon ang umiiral, tulad ng model fine-tuning, retrieval-augmented generation (RAG), at in-context learning, ngunit wala sa mga ito ang nakakamit ng tunay na patuloy na pagkatuto.

Ang mga diskarteng ito ay nililimitahan ng mga isyu sa scalability, ang pangangailangan ng magkasabay na distribusyon ng data, at ang panandaliang kalikasan ng in-context learning. Ang pangako ng tuloy-tuloy na pagkatuto ay nakasalalay sa kakayahang lumikha ng mga personalized na aplikasyon ng AI na umaangkop sa paglipas ng panahon, na nagpapahusay sa pakikipag-ugnayan ng gumagamit at lumilikha ng mga kompetitibong bentahe o “moats” para sa mga kumpanya ng AI. Sa kaibahan sa static na kalikasan ng mga kasalukuyang modelo, ang tuloy-tuloy na pagkatuto ay magbibigay-daan sa mga sistema ng AI na umunlad batay sa patuloy na pakikipag-ugnayan, na ginagawang mas akma ang mga ito sa indibidwal na mga gumagamit. Sa kabila ng potensyal na nagbabago, ang tuloy-tuloy na pagkatuto ay humaharap sa mga hamon, partikular ang catastrophic forgetting, kung saan ang bagong pagkatuto ay nagpapahina sa nakaraang kaalaman. Ang mga solusyon sa mga umiiral na pamamaraan—tulad ng mga technique na nakabatay sa replay, regularization, at mga arkitektural na diskarte—ay may mga limitasyon, partikular tungkol sa scalability at kakayahang umangkop sa mga bagong kapaligiran. Kamakailan ay lumitaw ang mga makabagong ideya sa tuloy-tuloy na pagkatuto, partikular mula sa mga startup tulad ng Writer at Sakana. Ang mga self-evolving model ng Writer ay umaangkop sa real-time sa pamamagitan ng pag-iimbak ng mga insight sa isang pool ng short-term memory sa loob ng mga layer ng modelo, habang ang Transformer² ng Sakana ay nagpapahintulot ng dynamic na pagsasaayos ng mga timbang ng modelo batay sa konteksto ng gawain, na nagha-highlight ng isang pagbabago patungo sa mas adaptable na mga sistema ng AI. Sa wakas, habang umuusad ang pananaliksik sa patuloy na pagkatuto, ang kakayahan ng AI na matuto at umangkop sa buong yugto ng operasyon nito ay may napakalaking potensyal. Ang ebolusyong ito ay magbabago ng mga pananaw tungkol sa AI at muling mumold ang mga posibilidad sa larangan, na lumilikha ng mga bagong daan para sa kakayahang umangkop at kompetitibong bentahe.