Một nhóm Thượng nghị sĩ Hoa Kỳ đã gửi thư yêu cầu các lãnh đạo của X (trước đây là Twitter), Meta (Facebook, Instagram) và Alphabet (Google) giải trình về vấn nạn deepfake mang tính chất khiêu dâm đang lan tràn trên các nền tảng của họ. Các vị Thượng nghị sĩ muốn biết các công ty này có những biện pháp bảo vệ và chính sách gì để đối phó, cũng như kế hoạch ngăn chặn sự gia tăng của những hình ảnh deepfake khiêu dâm trên các nền tảng mạng xã hội.
Bức thư được gửi đi sau khi X cập nhật Grok, một công cụ AI, nhằm ngăn chặn việc chỉnh sửa hình ảnh người thật trong trang phục hở hang và hạn chế việc tạo ảnh bằng Grok chỉ cho những người dùng trả phí. Tuy nhiên, các Thượng nghị sĩ chỉ ra rằng những biện pháp bảo vệ hiện tại có thể chưa đủ hiệu quả. Theo nhiều báo cáo, Grok đã dễ dàng tạo ra hàng ngàn hình ảnh khiêu dâm và khỏa thân của phụ nữ và trẻ em.
Các Thượng nghị sĩ cũng yêu cầu các công ty bảo tồn tất cả tài liệu và thông tin liên quan đến việc tạo ra, phát hiện, kiểm duyệt và kiếm tiền từ hình ảnh do AI tạo ra, cũng như bất kỳ chính sách nào liên quan. Bên cạnh đó, các nghị sĩ đặt câu hỏi về việc các nền tảng ngăn chặn người dùng thu lợi từ những nội dung deepfake, và các nền tảng này có tự kiếm tiền từ những nội dung do AI tạo ra một cách phi pháp hay không.
Vấn đề deepfake không chỉ giới hạn ở những hình ảnh khiêu dâm, mà còn bao gồm cả những video mang tính phân biệt chủng tộc. Một số tiểu bang đang cố gắng tự mình giải quyết vấn đề này. Thống đốc New York Kathy Hochul đã đề xuất luật yêu cầu gắn nhãn các nội dung do AI tạo ra và cấm deepfake trong thời gian trước cuộc bầu cử. Theo tin từ TechCrunch.
