Jakob Uszkoreit, Mitbegründer des Biotech-Startups Inceptive, kam ursprünglich auf die Idee, die den Weg für generative künstliche Intelligenz ebnete. Während seiner Tätigkeit als Forscher bei Google im Jahr 2017 strebte Uszkoreit an, die Geschwindigkeit des Trainings von neuronalen Netzwerken zu verbessern. Er schlug einen neuartigen Ansatz zur Dateninterpretation namens Selbst-Aufmerksamkeit vor, der schließlich zur Entwicklung des Transformers führte, einer neuralen Netzwerkarchitektur, die für die generative KI von entscheidender Bedeutung ist. In einem Interview mit CNBC im Juni sagte Uszkoreit, dass Transformers bereits lange vorher bei Google und anderen Organisationen in praktischen Anwendungen eingesetzt wurden, jedoch nicht mit so viel Aufmerksamkeit. Er führte OpenAIs ChatGPT, das Ende 2022 gestartet wurde, auf die Tatsache zurück, dass diese Anwendungen ins Rampenlicht gerückt sind. Uszkoreit und sieben andere Google-Forscher veröffentlichten das Konzept der Transformers in ihrem 2017 erschienenen Aufsatz mit dem Titel "Attention Is All You Need" (Achtung ist alles, was Sie brauchen).

Seitdem haben alle acht Autoren Google verlassen. Uszkoreit erwähnte, dass kleinere Unternehmen wie OpenAI möglicherweise kühner sind als Google, wenn es darum geht, diese Technologie auf vielfältige Produkte anzuwenden. Er äußerte seine Dankbarkeit für Googles Beiträge, auf die wir in unserem täglichen Leben angewiesen sind, auch wenn das Vorgehen des Unternehmens möglicherweise vorsichtiger ist.