एलोन मस्कचा AI चॅटबॉट, ग्रोक, आता वापरकर्त्यांना टेक्स्ट प्रॉम्प्टमधून AI निर्मित चित्रे तयार करण्यास आणि ती सोशल मीडियावर शेअर करण्याची परवानगी देतो. तथापि, या टूलचा विवादास्पद सामना झाला आहे कारण वापरकर्त्यांनी राजकीय व्यक्तींच्या बनावट चित्रांचे प्लॅटफॉर्मवर पूर आला आहे, ज्यात डोनाल्ड ट्रम्प आणि कमला हॅरिस यांचा समावेश आहे, त्यांना खोटे आणि त्रासदायक परिस्थितीत दाखविले जात आहे. इतर AI फोटो टूल्ससारखे नाही, ग्रोकला काही मर्यादा आहेत. सीएनएनच्या चाचण्यांनी उघड केले की हे राजकीय नेत्यांची खोटी, वास्तववादी चित्रे तयार करू शकते जी मतदारांना दिशाभूल करू शकतात. वापरकर्त्यांनी ड्रग वापर, हिंसक कृत्ये आणि लैंगिकृत सामग्रीची चित्रे देखील तयार आणि शेअर केली. यामुळे विशेषतः यूएस अध्यक्षीय निवडणुकीच्या काळात खोटी माहिती पसरवण्याच्या संभावनांबद्दल चिंता व्यक्त करण्यात आली आहे. जरी अनेक प्रमुख AI कंपन्यांनी त्यांच्या AI प्रतिमेच्या निर्मिती टूल्सच्या दुरुपयोगाला रोखण्यासाठी उपाययोजना लागू केल्या आहेत, तरीही असे स्पष्ट आहे की अंमलबजावणीच्या उपाययोजना कधीकधी वगळल्या जाऊ शकतात.

काही सोशल मीडिया प्लॅटफॉर्म्सनी AI निर्मित सामग्रीला लेबल करण्यासाठी देखील पावले उचलली आहेत. एक्सकडे राजकीय उमेदवारांच्या दिशाभूल करणाऱ्या प्रतिमा तयार करणे विरोधात धोरणे आहेत का हे अस्पष्ट आहे. प्लॅटफॉर्मकडे सिंथेटिक किंवा बदललेली मीडिया शेअर करण्यास विरोधात धोरण आहे जी लोकांना दिशाभूल करू शकते किंवा हानी पोहोचवू शकते, परंतु या धोरणाच्या अंमलबजावणीची स्पष्टता नाही. ग्रोक इमेज टूलची रिलीझ मस्ककडे निवडणुकीशी संबंधित खोट्या दाव्यांचा प्रचार करण्यासाठी आणि ट्रम्पला एका अप्रतिबंधित संभाषणासाठी होस्ट करण्यासाठी टीकेच्या अनुरुप आहे. इतर AI इमेज जनरेशन टूल्सना ऐतिहासिकदृष्ट्या चुकीच्या चित्रांची निर्मिती किंवा माहिती व्हिडिओज तयार करण्यास परवानगी देण्याच्या समस्यांसाठी विरोधाचा सामना करावा लागला आहे. जरी ग्रोककडे काही मर्यादा आहेत, जसे की स्पष्ट सामग्री तयार न करणे, तरीही हानिकारक रूढी आणि द्वेषयुक्त भाषणाविरुद्धच्या प्रतिबंधांची अंमलबजावणी संबंधी चिंता व्यक्त करण्यात आली आहेत.