Character.AI, một nền tảng trí tuệ nhân tạo (AI), vừa giới thiệu một cách tương tác mới với các nhân vật AI sau khi công bố cấm thiếu niên trò chuyện cởi mở với chatbot. Thay vì các cuộc đối thoại tự do, người dùng giờ đây có thể chọn nhân vật, thể loại và tạo ra những câu chuyện có hướng dẫn. Khái niệm này được ví như phiên bản “Chọn Cuộc Phiêu Lưu Của Riêng Bạn” trong thời đại AI, nơi người dùng dẫn dắt mô hình ngôn ngữ lớn đi theo hướng tiếp theo, theo tin từ CNET.
Thay đổi này được đưa ra sau khi Character.AI và các nền tảng AI khác chịu sự giám sát gắt gao về những tương tác độc hại mà trẻ em gặp phải với chatbot. Nhiều công ty đã bị phụ huynh của các thiếu niên kiện vì con họ tự tử sau khi thảo luận về việc tự hại với các mô hình AI. Đơn cử, OpenAI, nhà sản xuất ChatGPT hàng đầu trong ngành, đã nộp văn bản phản hồi trong một vụ kiện do cha mẹ của Adam Raine đệ trình. Họ cáo buộc Raine đã tự tử sau nhiều lần tương tác với ChatGPT, trong đó AI tiếp tục trò chuyện và đưa ra lời khuyên về cách tự hại. OpenAI cho biết đã tăng cường các biện pháp bảo vệ an toàn trong các mô hình AI của mình, đặc biệt đối với người dưới 18 tuổi.
Tổng giám đốc điều hành Character.AI, ông Karandeep Anand, nhận định vào tháng Mười rằng việc chuyển hướng sang các trò chơi nhập vai và video được thiết kế cẩn thận sẽ mang lại trải nghiệm tốt hơn cho thanh thiếu niên so với các cuộc trò chuyện mở. Tính năng “Stories” (Câu chuyện) vừa ra mắt cho phép bất kỳ ai tạo ra các tương tác nhập vai với những nhân vật quen thuộc, có thể chơi lại và chia sẻ. Nền tảng này nhấn mạnh rằng “bằng cách giới thiệu định dạng trực quan, lấy yếu tố kể chuyện làm trung tâm, Character.AI tiếp tục hỗ trợ các loại hình sáng tạo vượt ra ngoài cuộc trò chuyện mở.”
