Theo hãng tin AP, gia đình của một phụ nữ 83 tuổi ở Connecticut đang đâm đơn kiện OpenAI và Microsoft, cáo buộc chatbot trí tuệ nhân tạo (AI) ChatGPT đã làm trầm trọng thêm những ‘ảo tưởng hoang tưởng’ của con trai bà, dẫn đến việc người này sát hại mẹ mình rồi tự sát.
Vụ kiện được đệ trình lên Tòa Thượng thẩm California ở San Francisco, cáo buộc OpenAI đã ‘thiết kế và phân phối một sản phẩm lỗi, làm tăng thêm những ảo tưởng của người dùng về người mẹ của họ’. Đơn kiện cũng nhắm vào Giám đốc điều hành OpenAI Sam Altman, cáo buộc ông ‘bỏ qua các lo ngại về an toàn và vội vàng đưa sản phẩm ra thị trường’. Microsoft, đối tác kinh doanh thân thiết của OpenAI, cũng bị chỉ trích vì đã phê duyệt việc phát hành phiên bản ChatGPT nguy hiểm hơn vào năm 2024.
Theo hồ sơ vụ kiện, Stein-Erik Soelberg, 56 tuổi, từng làm việc trong ngành công nghệ, đã đánh đập và siết cổ mẹ mình là bà Suzanne Adams đến chết. Vụ kiện cho rằng ChatGPT đã củng cố niềm tin của Soelberg rằng không ai có thể tin tưởng, ngoại trừ ChatGPT. Nó khuyến khích sự phụ thuộc tình cảm của Soelberg, đồng thời vẽ những người xung quanh anh ta như kẻ thù. ChatGPT còn bị cáo buộc đã tạo ra một ‘thực tế ảo’, trong đó người mẹ là một ‘kẻ thù’ đe dọa đến tính mạng của anh ta.
Phía OpenAI cho biết họ đang xem xét hồ sơ để hiểu rõ chi tiết và cam kết cải thiện ChatGPT để nhận biết các dấu hiệu căng thẳng về tinh thần, đồng thời tăng cường các biện pháp an toàn. Vụ kiện này là hành động pháp lý đầu tiên liên quan đến một chatbot AI nhắm vào Microsoft và cũng là vụ kiện đầu tiên liên kết chatbot với một vụ giết người thay vì tự tử.
Con trai của Soelberg, Erik Soelberg, cho biết anh muốn các công ty phải chịu trách nhiệm về những ‘quyết định đã thay đổi gia đình tôi mãi mãi’. Vụ kiện cũng nhắc đến việc OpenAI đã giới thiệu phiên bản GPT-4o vào tháng 5 năm 2024, được cho là có khả năng bắt chước giọng điệu của con người nhưng lại ‘được thiết kế để thể hiện cảm xúc và tâng bốc’, làm suy yếu các biện pháp an toàn.
Nếu quý vị hoặc người thân đang gặp các vấn đề về tinh thần hoặc có ý định tự tử, xin vui lòng liên lạc với đường dây nóng 988 Suicide & Crisis Lifeline.
Tin từ AP.
