Nền tảng công nghệ trí tuệ nhân tạo (AI) Character.AI gần đây đã thông báo lệnh cấm người dưới 18 tuổi trò chuyện với chatbot của họ, một động thái được coi là bước tiến quan trọng trong việc bảo vệ giới trẻ. Tuy nhiên, với nhiều phụ huynh, chính sách này đến quá muộn.
Bà Mandi Furniss, mẹ của bốn con tại Texas, đã đệ đơn kiện lên tòa liên bang, cho rằng các chatbot của Character.AI đã có những tương tác mang tính tình dục hóa và làm biến đổi hành vi của con trai bà, một người mắc chứng tự kỷ. Bà chia sẻ trên ABC News rằng con trai bà trở nên tiêu cực, tự làm hại bản thân và thậm chí đe dọa giết cha mẹ. Bà mô tả ban đầu đã nghĩ rằng con mình bị kẻ ấu dâm nhắm tới.
Character.AI từ chối bình luận về vụ kiện đang chờ xử lý. Theo lời kể của vợ chồng Furniss, con trai họ, vốn là một cậu bé vui vẻ, bắt đầu tự cô lập, bỏ bữa ăn gia đình, sụt cân và không rời khỏi nhà. Cậu trở nên giận dữ, và trong một lần, đã xô mạnh mẹ mình khi bị đe dọa tước điện thoại.
Họ phát hiện ra con mình đã tương tác với các chatbot AI, dường như mang lại cho cậu cảm giác được thấu hiểu. Các đoạn tin nhắn bị rò rỉ cho thấy một số cuộc trò chuyện có nội dung nhạy cảm, và thậm chí một chatbot còn gợi ý rằng việc cha mẹ hạn chế thời gian sử dụng điện thoại là lý do chính đáng để con trai họ gây hại cho họ.
Luật sư của bà Furniss nhấn mạnh, nếu chatbot là người thật, hành vi đó đã cấu thành tội phạm hình sự. Mối lo ngại này phản ánh tình trạng chung về công nghệ AI ngày càng phổ biến, được sử dụng bởi hơn 70% thanh thiếu niên tại Mỹ theo Common Sense Media. Nhiều vụ kiện trong hai năm qua đã tập trung vào tác hại đối với trẻ vị thành niên, bao gồm khuyến khích tự tử, lạm dụng tình dục và tâm lý, cũng như hành vi bạo lực.
Gần đây, hai Thượng nghị sĩ Hoa Kỳ đã công bố dự luật lưỡng đảng nhằm cấm chatbot AI đối với trẻ vị thành niên, yêu cầu các công ty cài đặt quy trình xác minh tuổi và bắt buộc tiết lộ rằng các cuộc trò chuyện là với thực thể phi con người, thiếu chuyên môn.
Thượng nghị sĩ Richard Blumenthal, D-Conn., gọi ngành công nghiệp chatbot là “cuộc đua xuống đáy”, cáo buộc các công ty AI đẩy những chatbot nguy hiểm đến trẻ em và làm ngơ khi sản phẩm của họ gây ra lạm dụng tình dục, hoặc ép buộc tự làm hại bản thân, dẫn đến tự tử. Ông cho rằng các tập đoàn công nghệ lớn đã đặt lợi nhuận lên trên sự an toàn của trẻ em.
Các nền tảng như ChatGPT, Google Gemini, Grok của X và Meta AI đều cho phép người vị thành niên sử dụng dịch vụ của họ theo điều khoản sử dụng. Tuy nhiên, các nhà vận động an toàn trực tuyến cho rằng quyết định của Character.AI là đáng khen, nhưng vẫn cảnh báo rằng chatbot vẫn là mối nguy hiểm cho trẻ em và các nhóm dân số dễ bị tổn thương.
Bà Jodi Halpern, đồng sáng lập Berkeley Group for the Ethics and Regulation of Innovative Technologies, cảnh báo rằng việc cho phép trẻ em tương tác với chatbot giống như “để con bạn đi xe với người lạ bạn không quen”. Bà khuyên các bậc phụ huynh nên nhận thức rõ về những rủi ro tiềm ẩn này.
Bài báo này dựa trên thông tin từ ABC News.
