Ég varð nýlega vitni að kynningu á Sora, myndbandagerðarverkfæri frá OpenAI í Bandaríkjunum. Það virkar eins og AI texta- eða myndgjafar: þú slærð inn forskrift og það býr til stutt myndband. Í kynningu OpenAI sá ég tréfrosk í Amazon búinn til í stíl náttúrulífssjónvarps. Myndbandið leit ótrúlega raunsætt út, en vitandi að það var ekki raunverulegt vakti það meiri áhyggjur en aðdáun. Myndbandagerð er nýtt svið fyrir gervigreind, eftir texta- og myndgjöfum, og hefur verulegar afleiðingar. Sögulega var erfitt að breyta hreyfimyndum, en AI breytir því og getur leitt til misnotkunar eins og svikamylla, pólitískra falsmynda eða skaðlegra fölsunum. Sumir vísindamenn mæla jafnvel með því að fjölskyldur noti kóðaorð til að sannreyna auðkenni þegar nauðsyn krefur. Hönnuðir viðurkenna þessar áhættur og veita eingöngu takmarkaðan aðgang til skapandi samstarfsaðila í upphafi, auk þess að innleiða varnir gegn misnotkun. Þær innihalda takmarkanir á forskriftum og vatnsmerki, sem hindra óheimila notkun opinna aðila eða óviðeigandi efnis. Það að allt sem er hversdagslegt gæti verið blekking er áhyggjuefni; staðfesting á öllu frá pólitískum hneykslismálum til dýragemsna verður nauðsynleg þegar AI-sköpun verður algengari.

Raunverulegar náttúrulífsmyndir heilla því þær eru ósviknar, ólíkt eftirlíkingum AI. AI getur ekki náð sönnu nýsköpun; það er takmarkað við að endurraða því sem við höfum þegar séð. Ósamræmi á milli raunveruleika og AI-sköpunar er truflandi. Samskipti við alvöru myndir og myndskeið skara framar fullkomlega flöttu AI efni sem skortir líf. Þegar AI-búnar fjölmiðlar verða sannfærandi, ógna þeir trúverðugleika raunverulegra miðla og neyða okkur til að efast jafnvel um saklaust efni. Til dæmis leiddi heillandi kanínuvídeó á Instagram til óvissu um sannleiksgildi þess, sem sýnir hvernig AI getur dregið úr raunverulegum upplifunum. Í heimi þar sem allt gæti verið falsað, gætum við efast um allt.