Οι προγραμματιστές μπορούν να χρησιμοποιήσουν μεγάλα γλωσσικά μοντέλα (LLMs) για να παράγουν κώδικα υπολογιστών πιο γρήγορα, αλλά αυτό ωφελεί μόνο εάν ο κώδικας συμμορφώνεται με τους κανόνες της γλώσσας προγραμματισμού και τρέχει χωρίς σφάλματα. Οι υπάρχοντες τρόποι να διασφαλιστεί ότι ο κώδικας που δημιουργείται από LLM ακολουθεί τους κανόνες της γλώσσας συχνά αλλοιώνουν την προϋπάρχουσα νοηματική τους ή είναι πολύ αργοί για πολύπλοκες εργασίες. Ερευνητές από το MIT και άλλα ιδρύματα ανέπτυξαν μια νέα προσέγγιση που καθοδηγεί αυτόματα ένα LLM να παράγει κείμενο χωρίς σφάλματα και σύμφωνα με τους κανόνες, όπως κώδικα σε μια συγκεκριμένη γλώσσα προγραμματισμού. Η μέθοδός τους κατανέμει πιθανά στατιστικά μεγαλύτερη προσπάθεια σε outputs που έχουν μεγαλύτερες πιθανότητες να είναι έγκυρα και ακριβή, απορρίπτοντας τα λιγότερο ελπιδοφόρα νωρίς, βελτιώνοντας έτσι την υπολογιστική αποδοτικότητα. Χάρη σε αυτά τα οφέλη στην αποδοτικότητα, η αρχιτεκτονική των ερευνητών επέτρεψε σε μικρότερα LLM να ξεπεράσουν πολύ μεγαλύτερα μοντέλα στην παραγωγή ακριβών, καλά δομημένων outputs σε εφαρμογές πραγματικού κόσμου όπως η μοριακή βιολογία και η ρομποτική. Μελλοντικά, αυτή η προσέγγιση θα μπορούσε να δώσει τη δυνατότητα και σε μη ειδικούς να ελέγχουν περιεχόμενο που παράγει η ΤΝ, π. χ. , επιχειρηματίες να γράφουν πολύπλοκες ερωτήσεις σε βάσεις δεδομένων SQL απλά χρησιμοποιώντας φυσική γλώσσα. Ο João Loula, μεταπτυχιακός φοιτητής στο MIT και συν-συγγραφέας, σημειώνει: «Αυτή η εργασία έχει επιπτώσεις πέραν της έρευνας. Μπορεί να βελτιώσει βοηθούς προγραμματισμού, αναλύσεις δεδομένων με τεχνητή νοημοσύνη και εργαλεία επιστημονικής ανακάλυψης, διασφαλίζοντας ότι τα outputs της AI παραμένουν χρήσιμα και σωστά». Η διεθνής ομάδα περιλαμβάνει επίσης τους συν-συγγραφείς Benjamin LeBrun (Mila), Li Du (Johns Hopkins), και τους επικεφαλής επιστήμονες Vikash Mansinghka (MIT), Alexander K. Lew (Yale), Tim Vieira (ETH Zurich), και Timothy J. O’Donnell (McGill/Mila), μεταξύ άλλων. Η έρευνά τους θα παρουσιαστεί στο Διεθνές Συνέδριο για τις Παραστάσεις Μάθησης. **Επιβολή Δομής και Νόηματος** Μια κοινή μέθοδος ελέγχου της δομής και του νοήματος μέσω παραγωγής κειμένου περιλαμβάνει τη διασταύρωση ολόκληρου του output (π. χ. , κώδικα) για εγκυρότητα· αν αποτύχει, ο χρήστης πρέπει να ξεκινήσει ξανά, αυξάνοντας το κόστος των υπολογισμών.

Εναλλακτικά, μπορεί να ελεγχθεί τμηματικά, αλλά η διόρθωσή του βήμα-βήμα κινδυνεύει να απομακρυνθεί από την αρχική πρόθεση, μειώνοντας την ακρίβεια. «Είναι πιο εύκολο να επιβάλεις δομή παρά νόημα», εξηγεί ο Loula. «Μπορούμε γρήγορα να ελέγξουμε αν το output ακολουθεί μια γλώσσα προγραμματισμού, ενώ η επικύρωση του νοήματος απαιτεί την εκτέλεση του κώδικα. Η εργασία μας αντιμετωπίζει και τα δύο είδη πληροφορίας». Οι ερευνητές ενσωματώνουν εξειδικευμένες γνώσεις στο LLM ώστε να το κατευθύνουν προς outputs που έχουν μεγαλύτερες πιθανότητες να πληρούν δομικούς περιορισμούς και να αντανακλούν το επιθυμητό νόημα. «Δεν εκπαιδεύουμε εκ νέου το LLM, αλλά σχεδιάζουμε γνώσεις ειδικών σε συνδυασμό με τη υπάρχουσα γνώση του LLM», λέει ο Mansinghka, συγκρίνοντας τη μεθοδολογία τους με τις παραδοσιακές τεχνικές κλιμάκωσης βαθιάς μάθησης. Χρησιμοποιούν τεχνικές με ακολουθίες Monte Carlo, που επιτρέπουν πολλαπλές παράλληλες γενιές από το LLM να ανταγωνίζονται. Οι outputs λαμβάνουν βάρη που ποσοτικοποιούν την πιθανότητα δομικής και σημασιολογικής ορθότητας· το μοντέλο εστιάζει στις υψηλότερα ζυγισμένες εξόδους, απορρίπτοντας τις άλλες σταδιακά. Ουσιαστικά, το LLM συνεργάζεται με ένανExpert που επιβλέπει τις επιλογές του, διασφαλίζοντας τη συμμόρφωσή του με το δομημένο και νοηματικό πλαίσιο που έχει καθοριστεί από τον χρήστη, με καθοδήγηση από διαδικασίες επαλήθευσης που ορίζει ο χρήστης. «Αναπτύξαμε τα μαθηματικά ώστε, υπό οποιουσδήποτε περιορισμούς, να επιτυγχάνεται σωστή ζύγιση, διασφαλίζοντας ότι τα τελικά outputs είναι σωστά», προσθέτει ο Loula. **Ενδυνάμωση Μικρότερων Μοντέλων** Δοκιμάζοντας το πλαίσιο σε εργασίες όπως ο προγραμματισμός σε Python, η δημιουργία ερωτήσεων σε SQL, ο σχεδιασμός μοριακών δομών και ο προγραμματισμός ρομπότ, η μέθοδος αποδείχθηκε πιο ακριβής και υπολογιστικά αποδοτική από τις υπάρχουσες τεχνικές. Για παράδειγμα, ένα μικρό ανοιχτού κώδικα μοντέλο Python ξεπέρασε ένα εμπορικό μοντέλο περισσότερο από διπλάσιο μεγέθους. «Είμαστε ενθουσιασμένοι που βοηθάμε μικρά μοντέλα να υπερέχουν του βάρους τους», σχολιάζει ο Loula. Μελλοντικά, οι ερευνητές στοχεύουν στο να ελέγχουν μεγαλύτερα τμήματα του παραγόμενου κειμένου, αντί για μικρά κομμάτια, και στη συνολική μάθηση ώστε να βελτιώνονται στην ακρίβεια μέσω αυτού του καθοδηγούμενου ελέγχου εξόδου. Η προσέγγισή τους έχει τη δυναμική να βοηθήσει χρήστες που δεν έχουν τεχνική κατάρτιση, σε συνδυασμό με αυτοματοποιημένα μοντέλα δεδομένων και ερωτήματα που παράγουν βάσεις δεδομένων. Ο Mansinghka οραματίζεται την ανάλυση δεδομένων με βοήθεια μηχανής, όπου οι χρήστες διαλόγου με λογισμικό που μοντελοποιεί με ακρίβεια το νόημα των δεδομένων και των ερωτημάτων τους. Ο O’Donnell προσθέτει: «Η αποτύπωση λέξεων σε κατανομές πάνω σε συγκεκριμένα νοήματα σε στενά συμβολικά πεδία αποτελεί ένα μικρό αλλά σημαντικό βήμα προς την αντιμετώπιση πιο βαθιών γλωσσικών και γνωστικών προκλήσεων σχετικά με το πώς οι μηχανές επικοινωνούν για τον κόσμο». Αυτή η έρευνα υποστηρίζεται εν μέρει από το Πρόγραμμα AI Chairs του Καναδά CIFAR, το MIT Quest for Intelligence και την Convergent Research.