Niedawno byłem świadkiem demonstracji Sora, narzędzia OpenAI do generowania wideo za pomocą sztucznej inteligencji, które zostało wydane w USA. Działa ono podobnie do generatorów tekstu czy obrazów: wprowadzasz polecenie, a otrzymujesz krótki film. Widziałem demonstrację OpenAI, w której stworzono drzewożera w Amazonii w stylu dokumentu przyrodniczego. Powstałe wideo wyglądało niezwykle realistycznie, ale świadomość, że nie jest prawdziwe, sprawiła, że poczułem się bardziej zaniepokojony niż zachwycony. Generowanie wideo stanowi nową granicę dla AI, po generatorach tekstu i obrazów, i wiąże się z istotnymi konsekwencjami. Historycznie zmienianie ruchomych obrazów było trudne, ale AI to zmienia, co może prowadzić do nadużyć, takich jak oszustwa, polityczne deepfake'i czy fałszywe szkodliwe filmy. Niektórzy badacze sugerują nawet, aby rodziny miały hasła do weryfikacji tożsamości, kiedy jest to potrzebne. Twórcy zdają sobie sprawę z tych zagrożeń, ograniczając początkowo dostęp do kreatywnych partnerów i wbudowując zabezpieczenia mające na celu ograniczenie niewłaściwego użytkowania. Obejmują one ograniczenia poleceń i znaki wodne, zapobiegając nieautoryzowanym przedstawieniom postaci publicznych czy nieodpowiednich treści. Możliwości codziennych oszustw są niepokojące; weryfikowanie wszystkiego, od skandali politycznych po urocze filmy o zwierzętach, mogą stać się koniecznością, gdy treści generowane przez AI staną się bardziej powszechne.

Prawdziwe dokumenty przyrodnicze przyciągają, bo są autentyczne, w przeciwieństwie do duplikatów tworzonych przez AI. AI nie może osiągnąć prawdziwej nowości—jest ograniczone do rekonfiguracji tego, co już widzieliśmy. Rozbieżność między rzeczywistością a kreacjami AI jest niepokojąca. Obcowanie z autentycznymi zdjęciami i filmami przewyższa perfekcyjnie renderowane treści AI, które pozbawione są życia. Kiedy media generowane przez AI staną się bardziej przekonujące, będą zagrażać wiarygodności prawdziwych mediów, zmuszając nas do kwestionowania nawet nieszkodliwych treści. Na przykład uroczy filmik z króliczkiem na Instagramie prowadził do wątpliwości co do jego autentyczności, co podkreśla, jak AI może zmniejszyć realne doświadczenia. W świecie, w którym wszystko może być fałszywe, możemy zacząć wątpić we wszystko.