Chính quyền Indonesia đã quyết định tạm thời chặn quyền truy cập vào chatbot Grok của xAI do các nội dung deepfake khiêu dâm và không được sự đồng ý. Theo các quan chức, động thái này được đưa ra để đối phó với tình trạng lan tràn của những hình ảnh do AI tạo ra, đặc biệt là những hình ảnh có nội dung khiêu dâm, thường liên quan đến phụ nữ và trẻ vị thành niên.
Bộ trưởng Truyền thông và Kỹ thuật số Indonesia, Meutya Hafid, đã lên tiếng rằng chính phủ xem hành động tạo ra các deepfake tình dục trái phép là một vi phạm nghiêm trọng đối với quyền con người, phẩm giá và an ninh của công dân trong không gian số. Bộ cũng đã triệu tập các quan chức của X để thảo luận về vấn đề này.
Quyết định của Indonesia là một trong những phản ứng mạnh mẽ nhất từ các chính phủ đối với vấn nạn hình ảnh do AI tạo ra. Các quốc gia khác cũng có những động thái tương tự, bao gồm việc Bộ Công nghệ Thông tin của Ấn Độ yêu cầu xAI ngăn chặn Grok tạo ra nội dung tục tĩu, và Ủy ban Châu Âu yêu cầu công ty lưu giữ tất cả tài liệu liên quan đến Grok để có thể tiến hành điều tra.
Trong khi đó, tại Hoa Kỳ, chính quyền Tổng Thống Donald Trump vẫn giữ im lặng về vấn đề này, mặc dù Thượng nghị sĩ đảng Dân chủ đã kêu gọi Apple và Google loại bỏ X khỏi cửa hàng ứng dụng của họ.
Ban đầu, xAI đã phản hồi bằng một lời xin lỗi trên tài khoản Grok, thừa nhận rằng một bài đăng đã vi phạm các tiêu chuẩn đạo đức và luật pháp Hoa Kỳ liên quan đến tài liệu lạm dụng tình dục trẻ em. Sau đó, họ đã hạn chế tính năng tạo hình ảnh AI cho người dùng trả phí trên X. Tuy nhiên, theo Elon Musk, động thái này chỉ là cái cớ để kiểm duyệt. (Theo TechCrunch)
