Gần đây, các nền tảng như TikTok và Instagram đã chứng kiến sự gia tăng đáng kể các video được tạo bởi AI. Người dùng trên các mạng xã hội này ngày càng sử dụng các công cụ trí tuệ nhân tạo để sáng tạo nội dung vừa đặc biệt vừa thu hút cao. Sự bùng nổ trong khả năng sáng tạo này bao gồm nhiều dạng thức khác nhau như các bản phối nhạc do AI sáng tác, tác phẩm kỹ thuật số, và các video deepfake tiên tiến có sự xuất hiện của các ngôi sao và nhân vật công chúng. Việc tích hợp AI vào quá trình sáng tạo nội dung đang cơ bản làm thay đổi cách người dùng tương tác với truyền thông. Khả năng tùy biến nội dung của AI theo sở thích cá nhân và mở ra những cơ hội sáng tạo mới giúp người dùng có trải nghiệm cá nhân hóa và sống động hơn. Những công cụ này cho phép tùy biến mà trước đây không thể thực hiện, giúp các nhà sáng tạo khám phá những dạng thức và ý tưởng mới kết hợp công nghệ và nghệ thuật theo những cách chưa từng có. Trên TikTok, nơi các video ngắn chiếm ưu thế, nội dung do AI tạo ra ngày càng phổ biến nhờ vào tính mới lạ và khả năng dễ dàng chia sẻ, khám phá qua các feed dựa trên thuật toán. Tương tự, Instagram, nổi tiếng với kể chuyện hình ảnh, đang chứng kiến sự gia tăng sử dụng AI để nâng cao hình ảnh và video, tạo ra nội dung bắt mắt và gây ấn tượng mạnh với khán giả. Tuy nhiên, sự phát triển của nội dung do AI tạo ra cũng mang theo những lo ngại lớn, trong đó quan trọng nhất là về tính xác thực. Vì AI có thể tạo ra hình ảnh và video rất chân thực, ngày càng khó để người dùng trung bình phân biệt nội dung thật và nội dung giả do AI thao túng.

Công nghệ deepfake đặc biệt gây lo ngại, vì nó có thể mô phỏng thuyết phục các nhân vật công chúng nói hoặc làm những điều họ chưa từng làm, từ đó dễ gây hiểu lầm cho người xem và ảnh hưởng đến dư luận. Ngoài ra, nguy cơ lan truyền thông tin sai lệch qua nội dung do AI tạo ra đặt ra thách thức lớn cho các nền tảng mạng xã hội và xã hội nói chung. Cân bằng giữa việc sử dụng AI sáng tạo một cách hợp pháp và ngăn chặn lạm dụng gây hại là điều vô cùng quan trọng, đòi hỏi các nền tảng cần có các biện pháp điều chỉnh hiệu quả. Để giải quyết vấn đề này, TikTok và Instagram đang xem xét các biện pháp xác thực để đảm bảo tính xác thực của nội dung, nhằm bảo vệ người dùng khỏi bị lừa đảo và duy trì môi trường nội dung đáng tin cậy. Thách thức chính là làm thế nào để cân bằng giữa việc thúc đẩy sự sáng tạo nhờ công cụ AI và ngăn chặn việc phổ biến thông tin gây hại. Các nền tảng cần phát triển các chiến lược toàn diện, bao gồm giáo dục người dùng về nội dung do AI tạo ra, duy trì tính minh bạch trong việc sử dụng các công cụ AI, và triển khai các giải pháp công nghệ như các thuật toán phát hiện AI để nhận diện các phương tiện tổng hợp. Khi công nghệ AI tiếp tục tiến bộ và ngày càng tích hợp sâu vào quá trình sáng tạo nội dung, sự hợp tác liên tục giữa các nhà phát triển, nền tảng, nhà hoạch định chính sách và người dùng sẽ trở nên vô cùng cần thiết để giải quyết các vấn đề đạo đức và thực tiễn. Cách xã hội thích nghi với những thay đổi công nghệ này sẽ quyết định tương lai của truyền thông số, ảnh hưởng không chỉ tới quá trình sáng tạo nội dung mà còn đến các đặc điểm rộng lớn hơn về chia sẻ và tiêu thụ thông tin. Tóm lại, sự phát triển của các video do AI tạo ra trên TikTok và Instagram vừa mở ra một chương trình mới đầy thú vị trong sáng tạo nghệ thuật, vừa đặt ra những thách thức phức tạp trong việc duy trì tính xác thực và niềm tin. Các nền tảng truyền thông xã hội đứng trước một ngã rẽ quan trọng, nơi việc tích hợp nội dung dựa trên AI đòi hỏi những cách tiếp cận sáng tạo để bảo vệ tính toàn vẹn của người dùng và xây dựng một môi trường kỹ thuật số tích cực.