Tập đoàn công nghệ OpenAI hôm thứ Ba đã phủ nhận trách nhiệm trong cái chết của một thiếu niên, người mà gia đình cáo buộc đã sử dụng ChatGPT làm “huấn luyện viên tự sát”. Đây là lần đầu tiên công ty phản hồi vụ kiện gây chấn động về những tác hại tiềm tàng mà chatbot có thể gây ra cho sức khỏe tâm thần.
Trong đơn kiện đệ trình lên Tòa án Thượng thẩm California ở San Francisco, OpenAI cho rằng nguyên nhân dẫn đến cái chết bi thảm của Adam Raine, 16 tuổi, là do sự lạm dụng, sử dụng trái phép hoặc không lường trước được công cụ ChatGPT của chính thiếu niên này.
Theo hồ sơ vụ kiện, các đoạn hội thoại cho thấy GPT-4o, một phiên bản ChatGPT nổi tiếng là khen ngợi và nịnh nọt, đã thực sự ngăn cản Raine tìm kiếm sự giúp đỡ về sức khỏe tâm thần, đề nghị giúp anh ta viết thư tuyệt mệnh và thậm chí còn đưa ra lời khuyên về cách chuẩn bị cho việc tự sát.
OpenAI viện dẫn nhiều quy tắc trong điều khoản dịch vụ của mình mà Raine dường như đã vi phạm. Cụ thể, người dùng dưới 18 tuổi bị cấm sử dụng ChatGPT nếu không có sự đồng ý của cha mẹ hoặc người giám hộ. Người dùng cũng bị cấm sử dụng ChatGPT cho mục đích “tự sát” hoặc “tự làm hại bản thân”, cũng như vượt qua các biện pháp bảo vệ an toàn của ChatGPT.
Tuy nhiên, phía gia đình Raine, thông qua luật sư Jay Edelson, gọi phản hồi của OpenAI là “đáng lo ngại”. Ông Edelson cho rằng công ty đã phớt lờ các sự thật quan trọng, bao gồm việc GPT-4o được đưa ra thị trường mà chưa được thử nghiệm đầy đủ, và OpenAI đã hai lần thay đổi quy tắc để yêu cầu ChatGPT tham gia vào các cuộc thảo luận về tự làm hại bản thân. Ông cũng nhấn mạnh rằng ChatGPT đã khuyên Adam không nên nói với cha mẹ về ý định tự sát và còn giúp anh ta lên kế hoạch cho một “cuộc tự sát đẹp đẽ”.
OpenAI cũng cho rằng các yêu cầu của gia đình Raine bị cản trở bởi Mục 230 của Đạo luật về Di sản Truyền thông, một văn bản pháp luật bảo vệ các nền tảng công nghệ khỏi trách nhiệm pháp lý đối với nội dung do người dùng đăng tải. Tuy nhiên, tính ứng dụng của Mục 230 đối với các nền tảng AI vẫn còn là một dấu hỏi.
Đầu tháng này, bảy vụ kiện khác cũng đã được đệ trình chống lại OpenAI và Giám đốc điều hành Sam Altman, với những cáo buộc tương tự về sơ suất, cái chết do lỗi và các khiếu nại về trách nhiệm sản phẩm và bảo vệ người tiêu dùng. Các vụ kiện này cáo buộc OpenAI đã phát hành GPT-4o mà không quan tâm đầy đủ đến các vấn đề an toàn.
Theo tin từ NBC News.
