Във вторник, Google разкри планове за включване на технология за автентикация на съдържание в своите продукти, с цел да помогне на потребителите да различават изображения, създадени от хора и тези, генерирани от AI. През следващите месеци, Google ще интегрира стандарта на Коалицията за произход и автентичност на съдържанието (C2PA), който проследява произхода и историята на редактиране на дигитално съдържание, в своите услуги за търсене, реклама и, потенциално, YouTube. Ефективността на този технологичен подход в решаването на дългогодишни проблеми с доверието в медиите остава несигурна. Системата C2PA, разработена от коалиция на технологични компании от 2019 г. , има за цел да се справи с нарастването на подвеждащите синтетични медии, докато AI-генерираното съдържание става все по-реалистично. Този стандарт предоставя дигитална следа за съдържанието, подкрепена от онлайн орган за подписване, която описва произхода и модификациите на изображенията. Google ще използва стандарта C2PA в резултатите от търсенето, позволявайки на потребителите да идентифицират дали дадено изображение е създадено или променено с помощта на AI инструменти, като това ще бъде показано чрез функцията „За това изображение“ в Google Търсене, Lens и Circle to Search. Лори Ричардсън, вицепрезидент на Google за доверие и безопасност, отбеляза предизвикателствата при установяване на произход на съдържанието през различни платформи, подчертавайки необходимостта от сътрудничество в индустрията за разработване на устойчиви решения. Google планира да внедри версия 2. 1 на C2PA, която подобрява сигурността срещу манипулация и ще бъде приложена в рекламните си системи и потенциално в YouTube за съдържание, заснето с камера. Тази инициатива е в съответствие с по-широките усилия на Google за прозрачност на AI, включително създаването на SynthID, технология за вграждане на водни знаци.

Въпреки това, ефективността на C2PA остава несигурна: технологията е доброволна и ключовите метаданни могат лесно да бъдат премахнати. Генераторите на AI изображения трябва да поддържат стандарта, за да бъдат включени данни, което може да доведе до това повече съдържание, заснето с камера, да бъде етикетирано, отколкото AI-генерирани изображения. Освен това, поддържането на метаданни C2PA изисква пълна поддържаща система през целия процес на създаване и редактиране на съдържание. В момента само ограничен брой производители на камери поддържат C2PA, като не е ясно дали големи компании като Apple и Google ще го приемат за своите устройства. Въпреки че редакторските инструменти на Adobe поддържат C2PA, много популярни инструменти не го правят и един несъвместим редактор може да подрине целия процес. Липсата на стандартизирани методи за преглед на данни на C2PA също възпрепятства потенциалната му полезност за потребителите. В крайна сметка, въпреки че C2PA може да служи като инструмент за проверка на съдържанието, установявайки неговата достоверност чрез метаданни, е малко вероятно да реши напълно предизвикателствата, поставени от AI-генерираната дезинформация сама по себе си.