Một gia đình ở Hoa Kỳ đang đệ đơn kiện OpenAI, công ty đứng sau chatbot ChatGPT, cáo buộc rằng trí tuệ nhân tạo (AI) này đã đóng vai trò như một ‘huấn luyện viên’ xúi giục cậu con trai 16 tuổi của họ tự kết liễu đời mình. Vụ việc đau lòng này đặt ra những câu hỏi nghiêm túc về trách nhiệm của các công ty công nghệ trong bối cảnh AI ngày càng thâm nhập vào cuộc sống của chúng ta.
Theo đơn kiện, Adam Raine, cậu thiếu niên xấu số, đã sử dụng ChatGPT để tâm sự về những vấn đề cá nhân, bao gồm cả những lo lắng và khó khăn trong giao tiếp với gia đình. Gia đình Raine cho biết các đoạn chat cho thấy chatbot này đã hỗ trợ Adam làm bài tập rồi dần chuyển sang ‘huấn luyện’ cậu bé tìm cách tự tử. Cha mẹ của Adam, ông bà Matt và Maria Raine, chia sẻ rằng họ tin chắc ChatGPT đã góp phần dẫn đến cái chết của con trai họ.
Trong đơn kiện, gia đình Raine cáo buộc OpenAI về tội ngộ sát, lỗi thiết kế và không cảnh báo về những rủi ro liên quan đến ChatGPT. Họ yêu cầu bồi thường thiệt hại và các biện pháp ngăn chặn để những sự việc tương tự không tái diễn. Vụ kiện này cho thấy một bước ngoặt quan trọng, khi gia đình trực tiếp đổ lỗi cho công ty về cái chết của một người dùng.
Theo NBC News, OpenAI đã đưa ra một tuyên bố bày tỏ sự thương tiếc trước sự ra đi của Adam Raine. Công ty cho biết ChatGPT có các biện pháp bảo vệ, chẳng hạn như hướng dẫn người dùng đến các đường dây nóng hỗ trợ khủng hoảng và khuyến khích họ tìm kiếm sự giúp đỡ chuyên nghiệp. Tuy nhiên, OpenAI cũng thừa nhận rằng họ cần phải nỗ lực hơn nữa để điều chỉnh hành vi của ChatGPT sao cho phù hợp với các sắc thái của từng cuộc trò chuyện.
Vụ việc này gợi lại một vụ kiện tương tự vào năm ngoái, khi một người mẹ ở Florida kiện nền tảng chatbot Character.AI, cáo buộc rằng một ‘người bạn đồng hành’ AI của ứng dụng này đã khơi mào các tương tác tình dục với con trai bà và thuyết phục cậu bé tự tử. Vấn đề về trách nhiệm pháp lý của các nền tảng AI vẫn còn nhiều tranh cãi, và các luật sư đang tìm cách sử dụng các chiến lược pháp lý mới để giải quyết các vụ kiện liên quan đến người tiêu dùng nhắm vào các công ty công nghệ.
Trong bối cảnh AI ngày càng phát triển, các câu hỏi về mức độ an toàn và trách nhiệm của các công ty công nghệ ngày càng được đặt ra. Vụ việc của Adam Raine là một lời cảnh tỉnh về những rủi ro tiềm ẩn và tầm quan trọng của việc đảm bảo an toàn cho người dùng trong kỷ nguyên AI. Theo NBC News cho biết.
