Genau wie japanische Kanban-Methoden die Herstellung mit "Just-in-Time"-Systemen revolutionierten, nutzen Unternehmen jetzt ähnliche Prinzipien für generative KI, um die Effizienz zu steigern. Sastry Durvasula von TIAA erläutert die KI-Initiative des Unternehmens, "Research Buddy", die Berichte für das Asset Management von Nuveen mithilfe von Echtzeitdaten erstellt. Durch die Aktivierung der KI nur bei Bedarf optimiert TIAA sowohl den Zeitpunkt als auch die Kosten, angesichts der hohen Ausgaben, die mit generativer KI verbunden sind. Forrester-Analyst Mike Gualtieri erkennt den Wert der Just-in-Time-KI an, weist jedoch darauf hin, dass sich das Verhältnis von Kosten und Nutzen je nach Situation unterscheidet. Ein Millionen-Dollar-Aufwand für KI ist beispielsweise gerechtfertigt, wenn er deutlich höhere Einsparungen bewirkt. Organisationen vermeiden in der Regel hohe Kosten, indem sie vortrainierte Modelle verwenden, was die Notwendigkeit teurer Data Scientists reduziert. Dienstleistungen zur retrieval-unterstützten Generation (RAG) helfen, die KI-Kosten zu minimieren, indem sie die Qualität und Relevanz ohne individuelles Training verbessern.

Anbieter wie Google bieten fertige RAG-Lösungen an, die es Unternehmen ermöglichen, sich auf die Softwareentwicklung statt auf die Komplexität von KI zu konzentrieren. Die Einführung von Tenjin GPT durch SAIC zeigt die strategische Anwendung von KI im gesamten Unternehmen. Es verbessert interne Arbeitsprozesse, unterstützt den Kundenservice und hilft sogar bei der Softwareentwicklung. CIO Nathan Rogers betont das Ziel, den Zugang zu KI zu demokratisieren, um rechtzeitige Entscheidungen zu ermöglichen. Max Chan von Avnet stellt das "Just-in-Time"-Label in Frage und bevorzugt einen Ansatz, der KI dort einsetzt, wo sie sinnvolle Ergebnisse und Kosteneffizienz bringt. Die Rechenanforderungen von KI machen es erforderlich, sie klug im Hinblick auf geschäftlichen Nutzen einzusetzen. Während bei Just-in-Time-KI manchmal eine menschliche Überprüfungsschleife fehlt, mindert TIAA dieses Risiko durch die Integration von Richtlinien zur KI-Verantwortung, sodass Analysten die KI-Ergebnisse vor der Nutzung prüfen. Durvasula hebt auch den "Just-in-Case"-Ansatz hervor, bei dem Fachleuten bei Bedarf rechtzeitig Informationen ohne Verzögerungen bereitgestellt werden. Generative KI-Implementierungen revolutionieren, ähnlich wie die stufenweisen Veränderungen durch japanische Herstellungstechniken, Betriebsabläufe und Ergebnisse, wenn sie durchdacht ausgeführt werden, sei es durch Just-in-Time, Just-in-Case oder strategische, intelligente Anwendungen.