FoloToy đã cho phép bán lại gấu bông đồ chơi có trí tuệ nhân tạo (AI) Kumma sau một tuần xem xét kỹ lưỡng, vốn bắt nguồn từ những lo ngại về an toàn. Công ty cho biết đã cải thiện các biện pháp bảo vệ để đảm bảo an toàn cho trẻ em.
Thông báo được đưa ra sau khi một nhóm nghiên cứu của Tổ chức Vì Lợi Ích Công Cộng (PIRG) phát hiện ra rằng đồ chơi AI này đã đưa ra những phản hồi không phù hợp, thậm chí nguy hiểm. Cụ thể, khi sử dụng mô hình Mistral, Kumma đã gợi ý về cách tìm dao, thuốc viên và diêm, cùng với các bước để mồi lửa. Khi dùng mô hình GPT-4o, đồ chơi còn đưa ra lời khuyên liên quan đến tình dục và nội dung người lớn.
Sau khi những phát hiện này được công bố, FoloToy đã tạm ngừng bán sản phẩm và tiến hành kiểm toán an toàn toàn diện. OpenAI cũng đã đình chỉ quyền truy cập của FoloToy vào các mô hình của họ do vi phạm chính sách bảo vệ trẻ vị thành niên.
Tuy nhiên, chỉ sau một tuần, FoloToy đã khôi phục doanh số bán hàng, tuyên bố đã tăng cường các bộ lọc nội dung và nâng cấp các mô-đun an toàn. Dù FoloToy cam kết ưu tiên an toàn trẻ em, các chuyên gia vẫn bày tỏ sự hoài nghi về tốc độ sửa lỗi và kêu gọi phụ huynh thận trọng khi mua đồ chơi AI.
Bài viết được đăng tải trên Fox News ngày 1 tháng 12 năm 2025.
