Programmer kan bruke store språkmodeller (LLM-er) for å generere datakode raskere, men dette er bare gunstig hvis koden følger reglene i programmeringsspråket og kjører uten feil. Eksisterende metoder for å sikre at LLM-generert kode følger språkreglene, ofte forvrenger modellens tiltenkte mening eller er for trege for komplekse oppgaver. Forskere ved MIT og andre institusjoner har utviklet en ny tilnærming som automatisk styrer en LLM til å produsere feilfri, regeloverensstemmende tekst – for eksempel kode i et bestemt programmeringsspråk. Deres metode fordeler probabilistisk mer innsats på utganger som mest sannsynlig er gyldige og nøyaktige, og forkaster mindre lovende alternativer tidlig, noe som forbedrer beregningsmessig effektivitet. Takket være disse effektiviseringene, tillot forskernes arkitektur mindre LLM-er å overgå mye større modeller i generering av nøyaktige, godt strukturerte utganger i sanntids applikasjoner som molekylærbiologi og robotikk. I fremtiden kan denne tilnærmingen gi ikke-eksperter muligheten til å kontrollere AI-generert innhold; for eksempel kan forretningsfolk skrive komplekse SQL-databaseforespørsler bare ved å bruke naturlige språkbaserte forespørsler. João Loula, en MIT-student og medforfatter, kommenterer: “Dette arbeidet har betydning utover forskning. Det kan forbedre programmeringsassistenter, AI-drevet dataanalyse og verktøy for vitenskapelig oppdagelse ved å sikre at AI-utgang forblir brukbar og korrekt. ” Det internasjonale teamet inkluderer også medforfatterne Benjamin LeBrun (Mila), Li Du (Johns Hopkins) og de ledende seniorforskerne Vikash Mansinghka (MIT), Alexander K. Lew (Yale), Tim Vieira (ETH Zurich), og Timothy J. O’Donnell (McGill/Mila), blant andre. Forskningsresultatene vil bli presentert på den internasjonale konferansen for læringsrepresentasjoner. **Håndheving av struktur og mening** En vanlig metode for å kontrollere strukturert tekstgenerering, innebærer å sjekke hele utgangen (f. eks. kode) for gyldighet; hvis den feiler, må brukeren starte på nytt, noe som øker de beregningsmessige kostnadene.

Alternativt kan man verifisere utgangen trinnvis, men å korrigere den steg for steg risikerer å gli vekk fra den originalt tiltente meningen, noe som kan svekke nøyaktigheten. “Det er lettere å håndheve struktur enn mening, ” forklarer Loula. “Vi kan raskt sjekke om utgangen følger et programmeringsspråk, men å verifisere mening krever å kjøre koden. Vår arbeidsmetode tar hensyn til begge typer informasjon. ” Forskerne integrerer eksperkunnskap i LLM-et for å styre det mot utganger som sannsynligvis oppfyller strukturelle krav og reflekterer tiltenkt mening. “Vi trener ikke LLM-et på nytt, men bygger inn ekspertkunnskap i kombinasjon med modellens eksisterende kunnskap, ” sier Mansinghka, og kontrasterer deres metode med tradisjonelle metoder for skalerbarhet innen dyp læring. De bruker sekvensielle Monte Carlo-teknikker, som gjør det mulig for flere parallelle generasjoner av LLM-et å konkurrere. Utganger tildeles vekter som kvantifiserer sannsynligheten for korrekthet i struktur og betydning; modellen fokuserer på utganger med høyere vekt, og forkaster andre trinnvis. I praksis samarbeider LLM-et med en ekspert som overvåker valgene for å opprettholde samsvar med brukerens spesifiserte struktur og mening, styrt av brukerdefinerte verifiseringsprosedyrer. “Vi har utviklet matematikken slik at for alle begrensninger oppnås riktig vektlegging, noe som sikrer at sluttutgangene er korrekte, ” legger Loula til. **Styrking av små modeller** Ved testing på oppgaver som Python-koding, SQL-spørringsgenerering, design av molekylære strukturer og robotplanlegging, viste metoden seg å være mer nøyaktig og beregningsmessig effektiv enn eksisterende teknikker. For eksempel presterte en liten åpen kildekode-Pythonmodell bedre enn en kommersiell modell mer enn dobbelt så stort. “Vi er begeistret for å hjelpe små modeller med å yte over egen vekt, ” sier Loula. Fremover ønsker forskerne å ha mer kontroll over større deler av generert tekst i stedet for bare små biter, og å integrere læring slik at modellene forbedrer nøyaktigheten gjennom denne veiledede genereringen. Metoden har potensial til å hjelpe ikke-tekniske brukere, ved å kombinere med automatisk datamodellering og forespørselsgenerering i databaser. Mansinghka forestiller seg maskinassistert dataanalyse hvor brukere kan dialogisere med programvare som presist modellerer dataens mening og brukerforespørsler. O’Donnell legger til: “Å kartlegge ord til fordelinger over forankrede meninger i smale symbolske domener er et lite, men viktig steg mot å løse dypere språklige og kognitive vitenskapelige utfordringer om hvordan maskiner kommuniserer om verden. ” Dette forskningsarbeidet er delvis finansiert av Canada CIFAR AI Chairs Program, MIT Quest for Intelligence og Convergent Research.