Character.AI, một nền tảng trí tuệ nhân tạo (AI) nổi tiếng, đang có những thay đổi đáng chú ý. Vào thứ Ba vừa qua, Character.AI đã công bố ra mắt “Stories”, một định dạng mới cho phép người dùng tạo ra những câu chuyện tương tác với sự xuất hiện của các nhân vật yêu thích. Sự thay đổi này diễn ra sau khi công ty quyết định ngừng cung cấp tính năng trò chuyện chatbot cho người dùng dưới 18 tuổi.
Quyết định này được đưa ra sau những lo ngại về các rủi ro tâm lý liên quan đến các chatbot AI, vốn có thể hoạt động 24/7 và chủ động bắt đầu các cuộc trò chuyện với người dùng. Trước đó, đã có nhiều vụ kiện liên quan đến các công ty như OpenAI và Character.AI vì vai trò của họ trong các vụ tự tử của người dùng. Trong tháng qua, Character.AI đã dần loại bỏ quyền truy cập của trẻ vị thành niên, và kể từ thứ Ba, những người dùng ở độ tuổi này không còn có thể trò chuyện với các nhân vật AI của nền tảng.
“Stories mang đến một phương thức có hướng dẫn để tạo và khám phá các tác phẩm hư cấu, thay vì trò chuyện tự do,” theo một bài đăng trên blog của công ty. “Tính năng này sẽ được cung cấp cùng với các tính năng đa phương thức khác của chúng tôi, để thanh thiếu niên có thể tiếp tục tương tác với các nhân vật yêu thích của họ trong một môi trường an toàn.”
Sự thay đổi này diễn ra trong bối cảnh các câu chuyện tương tác đang ngày càng phổ biến. Giám đốc điều hành của Character.AI, Karandeep Anand, đã chia sẻ với TechCrunch rằng ông hy vọng việc này sẽ đặt ra một tiêu chuẩn trong ngành, rằng các cuộc trò chuyện tự do có lẽ không phải là sản phẩm phù hợp cho đối tượng dưới 18 tuổi.
Theo TechCrunch.
