Chatbot AI của Elon Musk, Grok, hiện cho phép người dùng tạo ra các hình ảnh do AI tạo từ các chỉ dẫn văn bản và chia sẻ chúng trên các mạng xã hội. Tuy nhiên, công cụ này đã gặp phải tranh cãi khi người dùng đã tràn ngập nền tảng với các hình ảnh giả của các nhân vật chính trị, bao gồm Donald Trump và Kamala Harris, miêu tả họ trong các tình huống sai lệch và gây lo ngại. Không giống như các công cụ ảnh AI khác, Grok dường như có ít giới hạn. Các thử nghiệm từ CNN cho thấy nó có thể tạo ra các hình ảnh giả thực tế của các chính trị gia mà có thể gây hiểu lầm cho cử tri. Người dùng cũng đã tạo và chia sẻ các hình ảnh sử dụng ma túy, các hành vi bạo lực và nội dung tình dục. Điều này đã gây lo ngại về khả năng của AI trong việc lan truyền thông tin giả, đặc biệt là trong cuộc bầu cử tổng thống Mỹ. Trong khi nhiều công ty AI hàng đầu đã thực hiện các biện pháp để ngăn chặn việc lạm dụng các công cụ tạo hình ảnh AI của họ, rõ ràng là các biện pháp thực thi đôi khi có thể bị vượt qua.

Một số nền tảng mạng xã hội cũng đã thực hiện các bước để gắn nhãn nội dung do AI tạo ra. Vẫn chưa rõ liệu X có chính sách nào chống lại việc Grok tạo ra các hình ảnh gây hiểu lầm về các ứng cử viên chính trị hay không. Nền tảng này có một chính sách chống lại việc chia sẻ phương tiện tổng hợp hoặc bị thao túng có thể lừa dối hoặc gây hại cho người khác, nhưng việc thực thi chính sách này không rõ ràng. Việc ra mắt công cụ ảnh của Grok trùng với sự phê phán đối với Musk vì lan truyền các tuyên bố sai lệch trên X liên quan đến cuộc bầu cử và tổ chức một cuộc trò chuyện không bị thách thức với Trump. Các công cụ tạo hình ảnh AI khác cũng đã phải đối mặt với sự phản đối vì các vấn đề như tạo các hình ảnh không chính xác về lịch sử hoặc cho phép tạo ra các video thông tin sai lệch. Mặc dù Grok có một số hạn chế, chẳng hạn như không tạo nội dung khiêu dâm, việc thực thi của nó đối với các giới hạn chống lại các khuôn mẫu có hại và ngôn từ kích động thù địch dường như không nhất quán.