MIT-forskere har utviklet et periodisk bord som illustrerer koblingene mellom over 20 klassiske maskinlæringsalgoritmer, og gir innsikt i hvordan kombinasjon av strategier fra ulike metoder kan forbedre eksisterende AI-modeller eller inspirere til nye. Ved hjelp av dette rammeverket skapte de en ny bildeklassifiseringsalgoritme som forbedret ytelsen med 8 prosent sammenlignet med dagens ledende teknikker. Konseptet bak bordet er at alle disse algoritmene lærer spesifikke relasjoner mellom data punkter, med kjerne matematiske prinsipper som deles på tvers av dem til tross for ulike implementeringer. Ut fra dette identifiserte teamet en enhetlig ligning som ligger til grunn for mange klassiske AI-algoritmer, og brukte denne til å omformulere populære metoder og organisere dem i et bord basert på de typene relasjoner hver algoritme lærer. Likt det kjemiske periodesystemet—med tomme plasser som forutsi ubeskrevne elementer—inneholder maskinlæringstabellen også hull som antyder hvor det kan finnes algoritmer som ennå ikke er oppfunnet. Dette verktøyet gjør det mulig for forskere å designe nye algoritmer uten å måtte utlede tidligere ideer på nytt, noe som Shaden Alshammari, hovedforfatter og MIT-sertasjonsstudent, påpeker. Hun understreker at maskinlæring nå kan sees som et strukturert system som er åpent for utforskning, snarere enn gjetning. Forfatterne inkluderer John Hershey (Google AI Perception), Axel Feldmann (MIT-sertasjonsstudent), William Freeman (MIT-professor og medlem av CSAIL), og hovedforfatter Mark Hamilton (MIT-sertasjonsstudent og Microsoft-ingeniørleder). Arbeidet deres skal presenteres på den internasjonale konferansen for Learning Representations. Oppdagelsen av den enhetlige ligningen var utilsiktet. Alshammari undersøkte opprinnelig clustering-algoritmer som grupperer lignende bilder, og la merke til likheter til kontrastive læringsmetoder. Ved å undersøke videre, oppdaget hun at begge kunne beskrives av den samme underliggende ligningen.

Som Hamilton minner om, etter at de oppdaget denne sammenhengen, inkluderte de nesten alle klassiske metoder de testet i dette felles rammeverket. Den kalde informasjon-kontrastive læringen (I-Con) viser hvordan ulike algoritmer—fra spamdeteksjonsklassifikatorer til dype læringsmodeller som driver store språkmodeller—kan tolkes gjennom denne ligningen. Ligningen fanger hvordan algoritmer tilnærmer seg relasjoner mellom reelle data punkter ved å minimere avvik fra faktiske koblinger i treningsdataene. For å kategorisere disse algoritmene strukturerte forskerne I-Con i et periodisk bord som sorterer metoder basert på naturen av data punkters koblinger og de viktigste tilnærmingsteknikkene. Alshammari påpeker at identifiseringen av den overordnede ligningsstrukturen forenklet tillegget av flere algoritmer til rammeverket. Mens de utformet bordet, identifiserte teamet hull hvor nye algoritmer kunne passe inn. De fylte ett hull ved å kombinere ideer fra kontrastiv læring med bildeklustering, noe som resulterte i en algoritme som klassifiserer uklassetbilder 8 prosent bedre enn en toppmoderne referanse. De demonstrerte også hvordan en kontrastiv lærings-debiasing teknikk kan forbedre klustringsnøyaktigheten. Designet på bordet er fleksibelt, og åpner for tilleggsrader og -kolonner for å innlemme nye typer datarelasjoner. Hamilton antyder at I-Con oppmuntrer forskere til å tenke kreativt, og fremmer kombinasjoner av ideer de kanskje ikke tidligere har vurdert. Totalt sett dekker denne elegante, enhetlige ligningen, basert på informasjonsvitenskap, et helt århundre med maskinlæringsforskning og åpner mange veier for framtidige oppdagelser. Yair Weiss, professor ved Hebrew University of Jerusalem som ikke er involvert i studien, roser I-Con som et sjeldent eksempel på et samlende arbeid som kan inspirere lignende innsats på tvers av maskinlæringsfeltet, spesielt viktig med tanke på den store mengden av nye forskningsartikler hvert år. Denne forskningen fikk støtte fra Air Force Artificial Intelligence Accelerator, National Science Foundation AI Institute for Artificial Intelligence and Fundamental Interactions, og Quanta Computer.