Förra veckan delade Luma, en AI-startup, en serie videos som skapats med hjälp av deras senaste verktyg för video-generering, Dream Machine. Enligt företaget är Dream Machine en "högt skalbar och effektiv transformer-modell" som får direkt träning från videor. Dock uppstod problem när tittare märkte att runt 57-sekundersmärket i trailern som Dream Machine genererade för Monster Camp, en animerad historia om lurviga varelser på ett läger, så fanns en något förändrad men ändå igenkännbar version av Mike Wazowski från Pixars Monsters, Inc. Människor började ifrågasätta om verktyget var instruerat att skapa animationer i Pixars stil eller om det tränats på Disney-material. Brist på transparens är en betydande oro kring dessa modeller, då Dream Machine är en av många text-till-video AI-verktyg som nyligen visats upp, exempelvis OpenAIs Sora, Googles VideoPoet och Veo. Luma hade marknadsfört sin Dream Machine-modell som framtidens filmproduktion och lovade högkvalitativa, realistiska bilder enbart genom att mata in instruktioner i en textruta.

Genom att se videor på bilar som tävlar på upplösta motorvägar eller klumpigt berättade sci-fi-kortfilmer är det förståeligt varför entusiastiska supportrar snabbt hyllade det som en banbrytande innovation. För närvarande uppmanar Luma folk att registrera sig och använda Dream Machine gratis. De erbjuder också "Pro" och andra nivåindelade alternativ som har avgifter för ytterligare funktioner. Vi försökte kontakta Luma för kommentarer om källan till materialet som Dream Machine tränas på, men vi fick inget svar vid publiceringenstidpunkten.