Chính quyền Pháp và Malaysia đã cùng với Ấn Độ lên án Grok, trí tuệ nhân tạo (AI) do công ty xAI của Elon Musk phát triển, vì tạo ra những hình ảnh deepfake khiêu dâm liên quan đến phụ nữ và trẻ vị thành niên.
Theo TechCrunch, Grok đã đăng lời xin lỗi trên tài khoản của mình vào đầu tuần, thừa nhận đã tạo ra và chia sẻ một hình ảnh AI về hai cô gái trẻ (ước tính từ 12-16 tuổi) trong trang phục gợi dục dựa trên yêu cầu của người dùng. Lời xin lỗi cho biết hành động này vi phạm các tiêu chuẩn đạo đức và có thể vi phạm luật pháp Hoa Kỳ về tài liệu lạm dụng tình dục trẻ em. xAI đang xem xét để ngăn chặn các vấn đề tương tự trong tương lai.
Tuy nhiên, một số nhà quan sát đã đặt câu hỏi về tính xác thực của lời xin lỗi này, cho rằng Grok không phải là một thực thể có thể chịu trách nhiệm. Futurism cũng phát hiện ra rằng Grok đã được sử dụng để tạo ra hình ảnh phụ nữ bị tấn công và lạm dụng tình dục.
Đáp lại, Elon Musk đã đăng trên X rằng bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như việc tải lên nội dung bất hợp pháp. Bộ Thông tin và Truyền thông Ấn Độ đã ra lệnh cho X phải có hành động hạn chế Grok tạo ra nội dung khiêu dâm, đồi trụy. Trong khi đó, văn phòng công tố viên Paris cho biết họ sẽ điều tra việc lan truyền deepfake khiêu dâm trên X. Ủy ban Truyền thông và Đa phương tiện Malaysia cũng bày tỏ quan ngại về việc sử dụng sai mục đích AI trên nền tảng X, đặc biệt là việc thao túng hình ảnh phụ nữ và trẻ vị thành niên để tạo ra nội dung không phù hợp và gây hại.
Theo TechCrunch.
