Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng phát triển, các nền tảng mạng xã hội đang đối mặt với một vấn đề nan giải: sự gia tăng của “rác AI” và deepfakes. Điều này không chỉ làm giảm chất lượng nội dung mà còn khiến trải nghiệm trực tuyến trở nên vô cảm và thiếu chân thực.
Các công cụ AI tạo sinh như Sora của OpenAI, Veo của Google hay Midjourney đang tạo ra những hình ảnh và video đầy ấn tượng nhưng cũng tiềm ẩn nguy cơ lừa dối. “Rác AI” là thuật ngữ chỉ lượng lớn nội dung chất lượng thấp được tạo ra bởi AI, xuất hiện tràn lan trên các bảng tin mạng xã hội. Bên cạnh đó, deepfakes về những nhân vật công chúng, cả còn sống lẫn đã qua đời, đang trở thành một vấn đề gây tranh cãi.
Tác giả Abrar Al-Heeti của CNET nhận định rằng mạng xã hội, vốn được tạo ra để kết nối mọi người, giờ đây lại khiến người dùng cảm thấy cô lập và xa rời thực tế. Sự xuất hiện của nội dung giả mạo ngày càng tinh vi đòi hỏi người dùng phải cảnh giác hơn, gây ra sự mệt mỏi.
Theo Alexios Mantzarlis, Giám đốc Sáng kiến An ninh, Tin cậy và An toàn tại Cornell Tech, các tập đoàn công nghệ đang tập trung vào việc phô diễn khả năng AI của họ, làm tăng giá trị cổ phiếu, nhưng điều này lại ảnh hưởng tiêu cực đến trải nghiệm người dùng trên nền tảng.
Các công ty mạng xã hội lớn như Meta và TikTok đã cam kết gắn nhãn nội dung do AI tạo ra và cấm các bài đăng có hại. Tuy nhiên, việc thiếu quy định chặt chẽ từ chính phủ và sự phát triển nhanh chóng của công nghệ khiến các nỗ lực này chưa thực sự hiệu quả. Một nghiên cứu của Raptive cho thấy khi người dùng nghi ngờ nội dung là do AI tạo ra, họ có xu hướng mất lòng tin và cảm thấy kết nối cảm xúc kém hơn.
Dù vậy, AI cũng mở ra những tiềm năng mới trong việc chia sẻ thông tin và giải trí. Paul Bannister, Giám đốc Chiến lược tại Raptive, cho rằng AI giúp nhiều người trở thành nhà sáng tạo hơn và có thể dẫn đến những hình thức chia sẻ thông tin và giải trí mới. Tuy nhiên, không thể phủ nhận rằng AI cũng có thể bị lạm dụng để khuếch đại căng thẳng và củng cố những định kiến sẵn có, làm trầm trọng thêm tình trạng tin giả và sự phân cực trong xã hội.
Bài viết này dựa trên quan điểm của CNET, nhấn mạnh những thách thức và tiềm năng của AI trong việc định hình lại các nền tảng mạng xã hội.
