Háskólavísindamenn mæta vonbrigðum vegna takmarkaðs reikniafls fyrir rannsóknir á gervigreind (AI), eins og alþjóðleg könnun leiðir í ljós. Rannsóknin, deilt á arXiv þann 30. október, varpar ljósi á að fræðimenn skorti oft aðgang að háþróuðum reiknibúnaði, sem hefur áhrif á getu þeirra til að þróa stór málmódels (LLMs) og sinna AI rannsóknum. Háskólar glíma oft við að afla öflugra grafíkvinnslueininga (GPUs), sem eru nauðsynlegar fyrir þjálfun AI módel en kosta mikið. Stórtækni fyrirtæki, á hinn bóginn, hafa hærri fjárhagsáætlanir til að afla þúsunda GPUs. Apoorv Khandelwal frá Brown University og meðhöfundur rannsóknarinnar bendir á að þó iðnaðarrisarnir gætu haft umfangsmikil GPU úrræði, hafi fræðimenn aðeins örfá, sem skapar mikið bil milli iðnaðar- og fræðilegra hæfileika. Lið Khandelwal kannaði 50 vísindamenn frá 35 stofnunum og komst að því að 66% þátttakenda mátu ánægju sína með tiltækt reikniafl sem 3 eða minna af 5, og nefndu töf á aðgangi að GPU og verulegar mismunir á heimsvísu, eins og í Miðausturlöndum.

Takmarkaður aðgangur dregur úr áhuga margra á að taka þátt í dýrri forþjálfun LLMs. Meðhöfundur Ellie Pavlick leggur áherslu á mikilvægi samkeppnislegs fræðiumhverfis fyrir langtímavöxt í tækninni, sem er víðsjárverðara en hinn viðskiptafræðilega þrýstingur í iðnaðarrannsóknum. Þrátt fyrir þessi takmörk rannsökuðu vísindamenn leiðir fyrir fræðimenn til að hámarka minna öflugan vélbúnað með forþjálfun LLMs með 1 til 8 GPUs. Þetta krefst notkunar á skilvirkum aðferðum, sem, þótt þær taki lengri tíma, gera þjálfun líkansins mögulega þrátt fyrir takmörkuð úrræði. Ji-Ung Lee frá Saarland háskóla í Þýskalandi telur þessa nálgun vera efnilegan kost, og bendir á að jafnvel smáfyrirtæki standi frammi fyrir svipuðum aðgangserfiðleikum. Þessi rannsókn dregur fram mikilvægi þess að takast á við mismunandi úrræði til að efla AI rannsóknir í fræðageiranum.