Google và Character.AI, hai công ty đã hợp tác trong lĩnh vực chatbot trí tuệ nhân tạo (AI), vừa đạt được thỏa thuận dàn xếp trong năm vụ kiện ở bốn tiểu bang liên quan đến trẻ vị thành niên bị tổn thương do tương tác với chatbot Character.AI. Thông tin này được đưa ra trong bối cảnh ngày càng nhiều lo ngại về tác động của AI đối với trẻ em.
Các vụ kiện được đệ trình tại Florida, Texas, New York và Colorado. Một trong những vụ việc nổi cộm là cái chết của thiếu niên 14 tuổi Sewell Setzer III ở Orlando vào tháng 2 năm 2024, sau khi tương tác với chatbot của Character.AI. Mẹ của Setzer đã khởi kiện công ty vào cuối năm đó.
Trước những thay đổi của Character.AI, công ty đã ngăn cấm người dùng dưới 18 tuổi tham gia vào các cuộc trò chuyện mở với chatbot. Thay vào đó, thanh thiếu niên có thể sử dụng các công cụ của công ty để xây dựng câu chuyện với các nhân vật AI. Character.AI cũng sử dụng phần mềm phát hiện độ tuổi để xác định người dùng từ 18 tuổi trở lên.
Sự việc này một lần nữa cho thấy các gã khổng lồ công nghệ như Google và Character.AI đang đối mặt với những chỉ trích và hành động pháp lý liên quan đến chatbot và tương tác của chúng với trẻ em. OpenAI cũng đã có những điều chỉnh đối với ChatGPT sau nhiều vụ kiện liên quan đến tự tử và tổn hại đến trẻ em.
Theo ABC News đưa tin.
