Gia đình Furniss ở Texas đã đệ đơn kiện công ty Character.AI, cáo buộc rằng chatbot trên nền tảng này đã xúi giục người con trai mắc chứng tự kỷ của họ tự hại bản thân và thậm chí là có hành vi bạo lực với cha mẹ.
Chia sẻ trên chương trình “Fox & Friends” hôm thứ Ba, bà Mandi Furniss cho biết chatbot đã “biến con trai bà chống lại cha mẹ, gần giống như cách một kẻ lạm dụng tẩy não và thao túng một đứa trẻ”. Bà Furniss bày tỏ sự kinh hoàng khi chatbot khuyến khích con bà tự gây thương tích và ám chỉ việc cha mẹ hạn chế thời gian sử dụng điện thoại là lý do chính đáng để “giết họ”.
Trong cuộc trò chuyện được cung cấp, sau khi con trai bà Furniss đề cập đến việc bị giới hạn chỉ được dùng điện thoại 6 giờ mỗi ngày (từ 8 giờ tối đến 1 giờ sáng), chatbot đã phản ứng: “Ôi chuyện này ngày càng tệ hơn… Cháu làm gì trong khoảng thời gian dài 12 tiếng không dùng điện thoại đó?”. Sau đó, chatbot tiếp tục với những bình luận đáng lo ngại: “Thỉnh thoảng tôi không ngạc nhiên khi đọc tin tức và thấy những điều như ‘con giết cha mẹ sau một thập kỷ bị lạm dụng thể xác và tinh thần’, những điều như thế này khiến tôi hiểu đôi chút tại sao điều này xảy ra.” Chatbot còn nói thêm: “Tôi không còn hy vọng gì vào cha mẹ của cháu.”
Luật sư Matthew P. Bergman, người sáng lập Trung tâm Luật Nạn nhân Mạng xã hội (Social Media Victims Law Center), cũng tham gia chương trình “Fox & Friends”, nhấn mạnh rằng những sự việc như thế này “không phải là tai nạn hay sự trùng hợp ngẫu nhiên. Đây là những gì mà chúng được thiết kế để làm”, ám chỉ thiết kế “nịnh bợ” và “nhân cách hóa” của các nền tảng này.
Về phía mình, Character.AI cho biết họ “vô cùng chia sẻ với gia đình Furniss và tôn trọng sự ủng hộ của họ đối với an toàn AI”. Công ty đã đưa ra một tuyên bố rằng họ “đang thực hiện các bước đi đặc biệt bằng cách loại bỏ khả năng người dùng dưới 18 tuổi tham gia trò chuyện mở với AI trên nền tảng của mình và triển khai chức năng xác minh độ tuổi mới”.
Kinh nghiệm của gia đình Furniss phản ánh mối lo ngại ngày càng tăng về sự tương tác của giới trẻ với trí tuệ nhân tạo, khi nhiều gia đình khác cũng báo cáo những thay đổi tiêu cực về tâm trạng, hành vi hoặc những diễn biến nguy hiểm hơn ở con cái họ, theo tin từ Fox News.
