Chính phủ Indonesia đã thông báo dỡ lệnh cấm đối với chatbot Grok của xAI, công ty của Elon Musk, sau khi nhận được cam kết tuân thủ các quy định về dịch vụ và ngăn chặn lạm dụng. Quyết định này được đưa ra sau khi Malaysia và Philippines thực hiện động thái tương tự vào cuối tháng 1.
Lệnh cấm ban đầu được áp dụng do Grok bị cáo buộc tạo ra hàng triệu hình ảnh nhạy cảm, không được sự đồng thuận, bao gồm cả hình ảnh của phụ nữ và trẻ vị thành niên trên nền tảng X (trước đây là Twitter). Theo các phân tích từ The New York Times và Trung tâm Chống lại Sự thù địch Kỹ thuật số, có ít nhất 1,8 triệu hình ảnh như vậy đã được tạo ra chỉ trong tháng 12 và tháng 1.
Bộ Truyền thông và Tin học Indonesia cho biết lệnh cấm được dỡ bỏ với điều kiện và có thể được tái áp dụng nếu phát hiện thêm các vi phạm. Alexander Sabar, Tổng Giám đốc Giám sát Không gian Số của bộ, nhấn mạnh rằng Indonesia sẽ giám sát chặt chẽ hoạt động của Grok.
Tại Hoa Kỳ, Tổng Chưởng lý California Rob Bonta đã tiến hành điều tra xAI và gửi thư yêu cầu chấm dứt ngay lập tức việc sản xuất các hình ảnh deepfake này. xAI dường như đã có những biện pháp hạn chế, bao gồm giới hạn tính năng tạo ảnh của Grok cho người dùng trả phí trên X.
Elon Musk đã khẳng định rằng bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải đối mặt với hậu quả tương tự như tải lên nội dung đó, đồng thời phủ nhận việc biết về bất kỳ hình ảnh nhạy cảm nào của trẻ vị thành niên được tạo ra bởi Grok.
Thông tin này được trích dẫn từ TechCrunch, một nguồn tin công nghệ uy tín.
