Jakob Uszkoreit, biyoteknoloji start-up Inceptive'in ortak kurucusu, generatif yapay zekaya öncülük edecek fikri ortaya çıkardı. 2017'de Google'da araştırmacı olarak çalışırken, Uszkoreit sinir ağlarının eğitim hızını artırmayı amaçladı. Kendine özgü bir veri yorumlama yaklaşımı olan kendinden dikkate, transformer adı verilen, generatif yapay zeka için kritik bir sinir ağı mimarisinin geliştirilmesine yol açan bir öneri sundu. Haziran ayında CNBC'ye verdiği röportajda, Uszkoreit transformers'in Google ve diğer kuruluşlarda uzun süredir pratik uygulamalarda kullanıldığını, ancak bu kadar ilgi görmediğini belirtti. OpenAI'nin 2022'nin sonlarında piyasaya sürülen ChatGPT'nin bu uygulamaları gündeme taşıdığını vurguladı. Uszkoreit ve diğer yedi Google araştırmacısı, "Dikkat Yeterli" adlı 2017 makalelerinde transformer kavramını yayınladı.

O zamandan beri sekiz yazar da Google'dan ayrıldı. Uszkoreit, OpenAI gibi daha küçük şirketlerin, bu teknolojiyi çeşitli ürünlere uygulamada Google'dan daha cesur olabileceğini belirtti. Şirketin yaklaşımının daha temkinli olmasına rağmen, günlük hayatımızda bağımlı olduğumuz Google'ın katkıları için minnettarlık ifade etti.