Op maandag hield een team van ingenieurs en leidinggevenden van Databricks, een bedrijf op het gebied van data science en kunstmatige intelligentie, een virtuele vergadering via Zoom om te ontdekken of hun inspanningen om een uitzonderlijk kunstmatig intelligent taalmodel te creëren vruchten hadden afgeworpen. Hun project, genaamd DBRX, werd gedurende enkele maanden ontwikkeld en kostte ongeveer $10 miljoen. Vergelijkbaar qua ontwerp met OpenAI's ChatGPT, zouden de werkelijke mogelijkheden van DBRX pas worden onthuld na de laatste tests. Uiteindelijk deelde Jonathan Frankle, de hoofdarchitect van neuronale netwerken bij Databricks en leider van het DBRX-team, het spannende nieuws met zijn collega's. "We hebben alles overtroffen, " verklaarde hij. Het team reageerde met gejuich, juichende geluiden en applaudisserende emoji's. Frankle, die meestal cafeïne vermijdt, nam slokjes van zijn iced latte na een slapeloze nacht waarin hij de resultaten compileerde. Databricks heeft de intentie om DBRX onder een open-source licentie uit te brengen, zodat anderen voort kunnen bouwen op hun werk. Frankle presenteerde gegevens die de superioriteit van DBRX ten opzichte van andere open-source modellen aantoonden in verschillende benchmarks, waaronder algemene kennisvragen beantwoorden, tekstbegrip, logisch puzzels oplossen en codegeneratie. DBRX presteerde beter dan Meta's Llama 2 en Mistral's Mixtral, twee van de meest populaire AI-modellen die beschikbaar zijn als open-source. "Ja!" riep Ali Ghodsi, de CEO van Databricks, uit bij het zien van de scores. Frankle voegde eraan toe dat ze zelfs Elon Musks Grok AI-model hadden overtroffen, dat onlangs open-source is gemaakt door zijn bedrijf, xAI. Hij maakte grappend de opmerking dat het ontvangen van een gemene tweet van Musk als een succes zou worden beschouwd. Tot ieders verbazing kon DBRX ook GPT-4, OpenAI's gesloten model dat ChatGPT aandrijft en algemeen wordt beschouwd als de top van machine-intelligentie, dicht benaderen.

Frankle straalde en verklaarde dat ze een nieuwe standaard voor state-of-the-art open-source grote taalmodellen (GTM's) hadden neergezet. Door DBRX open-source te maken, sluit Databricks zich aan bij de beweging die de geheime aanpak van prominente bedrijven in het generatieve AI-veld uitdaagt. OpenAI en Google houden de code van hun GPT-4 en Gemini grote taalmodellen nauwlettend in de gaten, terwijl concurrenten zoals Meta ervoor hebben gekozen hun modellen vrij te geven, in de overtuiging dat dit innovatie en toegankelijkheid voor meer onderzoekers, ondernemers, startups en gevestigde bedrijven zal bevorderen. Databricks heeft niet alleen de intentie om hun open-source model te delen, maar ze zijn ook van plan om het proces van het creëren ervan openbaar te maken. Meta heeft niet alle details verstrekt over de creatie van hun Llama 2-model. Databricks is van plan een blogpost uit te brengen waarin ze hun werk gedetailleerd beschrijven en heeft zelfs WIRED uitgenodigd om te observeren hoe hun ingenieurs cruciale beslissingen nemen tijdens het multimiljoenen dollars kostende trainingsproces van DBRX. Deze glimp benadrukt de complexiteit van het bouwen van toonaangevende AI-modellen, maar ook het potentieel om kosten te verlagen dankzij recente vooruitgang op dit gebied. In combinatie met de beschikbaarheid van open-source modellen zoals DBRX suggereert dit dat de ontwikkeling van AI in een snel tempo zal doorgaan. Ali Farhadi, de CEO van het Allen Institute for AI, benadrukte het belang van meer transparantie bij het bouwen en trainen van AI-modellen. Naarmate bedrijven steeds meer een voorsprong willen behalen op hun concurrenten, is het veld geheimzinniger geworden. Farhadi is van mening dat openheid cruciaal is, met name wanneer er zorgen zijn over de risico's die gepaard gaan met geavanceerde AI-modellen. Hij uitte zijn waardering voor alle inspanningen op het gebied van transparantie en voorspelde dat een aanzienlijk deel van de markt open modellen zal omarmen. "Hier hebben we meer van nodig, " concludeerde hij.