تثير قضية مشاركة الصور الاصطناعية التي تم إنشاؤها بواسطة الذكاء الاصطناعي على منصات التواصل الاجتماعي بدون وضع التصنيف الصحيح مخاوف بين الباحثين في مجال المعلومات. يتم تداول العديد من هذه الصور دون توضيح أنها تم إنشاؤها بواسطة الذكاء الاصطناعي، على الرغم من ضرورة التصنيف الصحيح وفقًا لمتطلبات ميتا. هذا النقص في الشفافية أدى إلى وقوع المستخدمين، خاصةً كبار السن، في فخ المحتوى المزيف. تم العثور أيضًا على بعض الصفحات على فيسبوك التي تشارك هذه الصور الاصطناعية لاستخدام هويات سرقتها من أفراد أو منظمات أخرى. الدافع وراء صفحات البريد المزعج المتعلقة بهذه الصور الاصطناعية غير واضح، ولكن هناك احتمالات لعمليات الاحتيال المحتملة.

تسهّل ظاهرة المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي للعوامل المسببة للبريد المزعج والاحتيال إنشاء صور مثيرة بصريا لجذب التفاعل. تستخدم هذه الصفحات في كثير من الأحيان متابعين غير حقيقيين وتنشط مع المستخدمين الحقيقيين، وأحيانًا تسعى إلى الحصول على المعلومات الشخصية أو بيع منتجات مزيفة. قد أبلغ المستخدمون أيضًا عن حسابات مشبوهة تحاول إقامة صداقة معهم وترك تعليقات متدرجة على الصور الاصطناعية. تثير الزيادة المستمرة في وجود هذه الصور الاصطناعية على وسائل التواصل الاجتماعي مخاوفًا بشأن الاحتيالات المحتملة وتسلط الضوء على الحاجة إلى طرق تحسين الكشف والتصنيف من قبل منصات مثل فيسبوك.