Chính quyền Malaysia tuyên bố sẽ có hành động pháp lý đối với nền tảng mạng xã hội X của tỷ phú Elon Musk và đơn vị trí tuệ nhân tạo (AI) xAI. Quyết định này được đưa ra sau khi giới chức Malaysia cáo buộc hai công ty đã không đảm bảo an toàn cho người dùng chatbot Grok.
Theo Ủy ban Truyền thông và Đa phương tiện Malaysia, Grok đã bị lạm dụng để tạo ra và phát tán nội dung độc hại, bao gồm hình ảnh khiêu dâm, không đứng đắn, và các hình ảnh bị thao túng một cách trái phép. Ủy ban đã gửi thông báo yêu cầu X và xAI gỡ bỏ những nội dung này, nhưng không nhận được phản hồi.
Những lo ngại về việc lạm dụng các công cụ AI tạo ra hình ảnh ngày càng gia tăng. Grok, được phát hành năm 2023, cung cấp tính năng tạo hình ảnh, bao gồm cả chế độ “spicy” (tạm dịch: gợi cảm) cho phép tạo nội dung người lớn. Grok đã vấp phải chỉ trích vì tạo ra những hình ảnh khiếm nhã, bao gồm hình ảnh phụ nữ trong trang phục gợi cảm hoặc tư thế khiêu dâm, cũng như hình ảnh liên quan đến trẻ em.
Trong bối cảnh đó, Malaysia và Indonesia đã trở thành những quốc gia đầu tiên chặn quyền truy cập vào Grok. Các quốc gia khác như Liên minh châu Âu, Ấn Độ và Vương quốc Anh cũng đang xem xét các biện pháp quản lý đối với công cụ này. Anh thậm chí còn lên kế hoạch hình sự hóa các ứng dụng “nudification” (tạm dịch: khỏa thân hóa).
Trước đó, Grok đã hạn chế việc tạo và chỉnh sửa hình ảnh đối với người dùng trả phí, nhưng các nhà phê bình cho rằng điều này chưa giải quyết triệt để vấn đề.
Theo tin từ ABC News.
