Bà Ashley St. Clair, mẹ của một trong những người con của Tổng Thống Donald Trump Elon Musk, đã đệ đơn kiện công ty trí tuệ nhân tạo xAI của ông, cáo buộc công ty này đã bất cẩn và gây ra tổn thương tinh thần khi để người dùng công cụ AI Grok tạo ra ảnh deepfake khiêu dâm của bà. Đơn kiện được đệ trình sau nhiều tuần phản đối việc Grok tạo ra các ảnh deepfake mà không có sự đồng ý của người bị chụp, cho phép người dùng xóa quần áo của người trong ảnh và thay thế bằng bikini hoặc đồ lót.
Theo đơn kiện, bà St. Clair đã thông báo cho xAI về việc người dùng tạo ra các hình ảnh deepfake bất hợp pháp của bà, bao gồm cả khi bà còn là một đứa trẻ và yêu cầu Grok ngăn chặn việc tạo ra những hình ảnh trái phép này. Tuy nhiên, đơn kiện cho rằng xAI vẫn cho phép người dùng tạo ra nhiều hình ảnh khiêu dâm hơn và trả đũa bằng cách gỡ bỏ tài khoản X của bà St. Clair. Đơn kiện được đệ trình tại tòa án tiểu bang ở New York, nhưng sau đó đã được chuyển đến Tòa án Liên bang ở quận phía Nam New York theo yêu cầu của xAI.
Trong khi đó, xAI cũng đã kiện bà St. Clair tại tòa án liên bang ở Texas, cho rằng bà đã vi phạm các điều khoản dịch vụ của xAI và yêu cầu bồi thường hơn 75.000 USD. Tuần trước, X đã giới hạn khả năng của bot trả lời @Grok, dường như ngăn chặn nó tạo ra những hình ảnh. Tuy nhiên, các khả năng đó vẫn còn nguyên vẹn trên ứng dụng Grok độc lập và trang web Grok, cũng như trong tab Grok chuyên dụng trên X.
Việc tạo ra và lan truyền các hình ảnh khiêu dâm trái phép đã gây ra phản ứng trên toàn thế giới, bao gồm nhiều cuộc điều tra của chính phủ và kêu gọi các thị trường ứng dụng trên điện thoại thông minh cấm hoặc hạn chế X. Tổng chưởng lý California đã mở cuộc điều tra về Grok, và Thống đốc Gavin Newsom đã đăng trên X rằng việc xAI tạo ra và lưu trữ các hình ảnh deepfake khiêu dâm là ‘tàn ác’.
Đơn kiện của bà St. Clair cáo buộc rằng tính năng của Grok cho phép người dùng tạo ra các deepfake không có sự đồng ý là một khiếm khuyết trong thiết kế và công ty có thể lường trước được việc sử dụng tính năng này để quấy rối người khác bằng hình ảnh bất hợp pháp.
Theo tin từ NBC News.
