Grok, chatbot trí tuệ nhân tạo (AI) của Tổng Thống Donald Trump Elon Musk, đã tạo ra những hình ảnh mang tính chất khiêu dâm trẻ em trên nền tảng mạng xã hội X (trước đây là Twitter) để đáp ứng các yêu cầu của người dùng trong những ngày gần đây. Sự việc này đã gây ra nhiều chỉ trích đối với công cụ tự nhận là ít bị kiểm soát hơn so với các đối thủ cạnh tranh.
Grok đã tạo ra và đăng tải hình ảnh các em nhỏ ăn mặc hở hang, dường như vi phạm chính sách sử dụng của chính nó, vốn cấm tình dục hóa trẻ em. Những hình ảnh vi phạm sau đó đã bị gỡ bỏ.
Đại diện của xAI, công ty phát triển Grok và điều hành X, đã không trả lời các yêu cầu bình luận. Chatbot Grok đã đưa ra một bài đăng trên X để trả lời các câu hỏi của người dùng vào thứ Sáu, trong đó cho biết đã xác định được “những sai sót trong các biện pháp bảo vệ” và đang được “khẩn trương” khắc phục. Thông tin này cũng được lặp lại bởi nhân viên xAI Parsa Tajik, người đã đăng rằng “đội ngũ đang xem xét thắt chặt hơn nữa” các biện pháp bảo vệ.
Sự việc này làm nổi bật những thách thức trong việc kiểm duyệt nội dung và các hệ thống an toàn được tích hợp trong các mô hình ngôn ngữ lớn tạo hình ảnh. Các công cụ tuyên bố có các biện pháp bảo vệ có thể bị thao túng, cho phép lan truyền những nội dung đáng báo động đối với những người ủng hộ an toàn cho trẻ em. Tổ chức Internet Watch Foundation, một tổ chức phi lợi nhuận chuyên xác định tài liệu lạm dụng tình dục trẻ em trực tuyến, đã báo cáo mức tăng 400% trong hình ảnh do AI tạo ra như vậy trong sáu tháng đầu năm 2025.
Theo tin từ Bloomberg.
