Ứng dụng Grok, một sản phẩm trí tuệ nhân tạo (AI) do Elon Musk phát triển, đang đối mặt với những rắc rối pháp lý nghiêm trọng. Hai quốc gia đã chính thức chặn ứng dụng này do lo ngại về việc nó tạo ra các hình ảnh khiêu dâm và lạm dụng tình dục trẻ em (CSAM) bằng AI. Một quốc gia khác cũng đang tiến hành điều tra về vấn đề này. Điều này cho thấy sự quan tâm ngày càng tăng của cộng đồng quốc tế đối với việc kiểm soát nội dung do AI tạo ra.
Theo tin từ ABC News, Grok AI, có sẵn dưới dạng một ứng dụng độc lập và trong ứng dụng X (trước đây là Twitter), đang bị chỉ trích vì khả năng tạo ra những hình ảnh deepfake gần như khỏa thân của phụ nữ và trẻ em. Các hình ảnh này được tạo ra bằng cách lấy ảnh người thật mặc quần áo, sau đó sử dụng AI để “cởi bỏ” quần áo, thay thế bằng đồ bơi hoặc trang phục hở hang. Đáng lo ngại hơn, một số hình ảnh được tạo ra liên quan đến trẻ em.
Trước tình hình này, ba Thượng nghị sĩ Hoa Kỳ đã yêu cầu Apple tạm thời gỡ bỏ cả X và Grok khỏi App Store của Hoa Kỳ, với lý do nội dung gây “kinh tởm”. Trong khi đó, các nhà quản lý ở Malaysia và Indonesia đã chặn ứng dụng Grok tại quốc gia của họ. Cơ quan quản lý truyền thông của Anh (Ofcom) cũng đã mở một cuộc điều tra chính thức.
Hiện tại, cả Apple và Google vẫn chưa đưa ra phản hồi chính thức về vấn đề này. Điều này làm dấy lên những câu hỏi về trách nhiệm của các công ty công nghệ trong việc kiểm soát nội dung do AI tạo ra và bảo vệ người dùng khỏi những hình ảnh độc hại.
