Forscher am MIT’s Computer Science and Artificial Intelligence Laboratory (CSAIL) haben ein neues künstliche Intelligenz-Modell entwickelt, das von neuronalen Oszillationen im Gehirn inspiriert ist und darauf abzielt, die Verarbeitung langer Datensequenzen durch maschinelles Lernen erheblich zu verbessern. KI-Systeme haben oft Schwierigkeiten, komplexe Informationen zu analysieren, die sich über längere Zeiträume erstrecken – wie Klimamuster, biologische Signale oder finanzielle Datensätze. Eine kürzlich entwickelte Klasse von KI-Modellen, sogenannte „Zustandsraum-Modelle“, wurde entwickelt, um diese sequentiellen Muster besser zu erfassen. Allerdings stoßen bestehende Zustandsraum-Modelle häufig auf Probleme wie Instabilität oder den Bedarf an enormer Rechenleistung bei langen Sequenzen. Um diese Beschränkungen zu überwinden, stellten die CSAIL-Forscher T. Konstantin Rusch und Daniela Rus „lineare oszillierende Zustandsraum-Modelle“ (LinOSS) vor, die Prinzipien von erzwungenen harmonischen Oszillatoren verwenden – ein physikalisches Konzept, das auch in biologischen neuronalen Netzwerken vorkommt. Diese Methode sorgt für stabile, ausdrucksstarke und rechnerisch effiziente Vorhersagen, ohne zu strenge Vorgaben an die Modellparameter zu stellen. „Unser Ziel war es, die Stabilität und Effizienz, die in biologischen neuronalen Systemen beobachtet werden, in einem maschinellen Lernrahmen nachzubilden“, erklärt Rusch.

„LinOSS erlaubt es uns, langfristige Abhängigkeiten zuverlässig zu erlernen, selbst bei Sequenzen mit Hunderttausenden von Punkten oder mehr. “ Was LinOSS besonders macht, ist die Fähigkeit, stabile Vorhersagen beizuhalten, während es deutlich weniger restriktive Designkriterien als frühere Ansätze erfordert. Zudem hat das Team mathematisch die universelle Approximationsfähigkeit des Modells nachgewiesen, wodurch es in der Lage ist, beliebige stetige, kausale Beziehungen zwischen Eingabe- und Ausgabesequenzen zu approximieren. Tests zeigten, dass LinOSS konstant besser abschnitt als führende Modelle bei verschiedenen anspruchsvollen Sequenzklassifikations- und Prognosebenchmarks. Bemerkenswert ist, dass LinOSS nahezu doppelt so gut abschnitt wie das weitverbreitete Mamba-Modell bei äußerst langen Sequenzaufgaben. Angesichts seiner Bedeutung wurde die Forschung für eine mündliche Präsentation bei ICLR 2025 ausgewählt – eine Ehre, die nur für die Top 1 Prozent der Einreichungen reserviert ist. Das MIT-Team erwartet, dass LinOSS bedeutende Impulse in Bereichen mit genauem, effizientem Langzeit-Prognose- und Klassifizierungsbedarf setzen wird, wie in der Gesundheitsanalyse, Klimawissenschaft, autonomen Fahrzeugen und der finanziellen Prognose. „Diese Arbeit zeigt, wie mathemische Strenge zu Durchbrüchen und vielfältigen praktischen Anwendungen führen kann“, betont Rus. „Mit LinOSS bieten wir der wissenschaftlichen Gemeinschaft ein mächtiges Werkzeug, um komplexe Systeme zu verstehen und vorherzusagen – eine wirkliche Verbindung von biologischer Inspiration und rechnerischer Innovation. “