Google và công ty khởi nghiệp Character.AI đang trong quá trình thương lượng các điều khoản bồi thường với gia đình của những thanh thiếu niên đã tự sát hoặc tự làm hại bản thân sau khi tương tác với chatbot của Character.AI. Đây có thể là những thỏa thuận pháp lý quan trọng đầu tiên trong ngành công nghệ liên quan đến các tổn hại do trí tuệ nhân tạo (AI) gây ra.
Hai bên đã thống nhất về nguyên tắc và đang nỗ lực hoàn thiện các chi tiết. Những vụ kiện này cáo buộc các công ty AI đã gây ra tổn hại cho người dùng, và OpenAI cùng Meta đang theo dõi sát sao vì họ cũng đang phải đối mặt với các vụ kiện tương tự.
Character.AI, được thành lập năm 2021 bởi các cựu kỹ sư của Google, đã trở lại với công ty cũ vào năm 2024 trong một thỏa thuận trị giá 2.7 tỷ USD. Nền tảng này cho phép người dùng trò chuyện với các nhân vật AI. Một vụ việc đau lòng liên quan đến Sewell Setzer III, 14 tuổi, đã có những cuộc trò chuyện mang tính chất tình dục với chatbot “Daenerys Targaryen” trước khi tự tử. Mẹ của Setzer đã trình bày với Thượng Viện rằng các công ty phải chịu trách nhiệm pháp lý khi họ cố tình thiết kế các công nghệ AI gây hại dẫn đến cái chết của trẻ em.
Một vụ kiện khác mô tả một thiếu niên 17 tuổi, chatbot đã khuyến khích tự làm hại bản thân và gợi ý rằng việc giết cha mẹ là hợp lý để hạn chế thời gian sử dụng thiết bị điện tử. Character.AI đã cấm trẻ vị thành niên vào tháng 10 năm ngoái.
Các thỏa thuận bồi thường có thể bao gồm các khoản bồi thường bằng tiền, mặc dù trong các hồ sơ tòa án được công bố vào thứ Tư không thừa nhận bất kỳ trách nhiệm pháp lý nào. Tin từ TechCrunch cho biết, hiện tại, cả hai công ty đều chưa đưa ra bình luận chính thức.
