Bà Ashley St. Clair, mẹ của một trong những người con của Tổng Thống Donald Trump Elon Musk, đã đệ đơn kiện công ty trí tuệ nhân tạo xAI, cáo buộc công ty này đã có hành vi bất cẩn và gây ra tổn thương tinh thần khi để người dùng công cụ Grok của họ tạo ra những hình ảnh deepfake khiêu dâm của bà.
Vụ kiện diễn ra sau nhiều tuần phản đối việc Grok tạo ra những hình ảnh deepfake mà không có sự đồng ý, cho phép người dùng xóa bỏ quần áo của những người trong ảnh và thường thay thế bằng bikini hoặc đồ lót. Đơn kiện được đệ trình tại tòa án tiểu bang ở New York, nhưng sau đó đã được chuyển đến Tòa án Liên bang ở quận phía Nam New York theo yêu cầu của xAI.
Bà St. Clair đã thông báo cho xAI rằng người dùng đang tạo ra những bức ảnh deepfake bất hợp pháp về bà, “khi còn là một đứa trẻ mặc bikini” và “khi là người lớn trong tư thế khiêu dâm”, đồng thời yêu cầu ngăn Grok tạo ra những hình ảnh trái phép này. Tuy nhiên, xAI được cho là đã không thực hiện và thay vào đó còn có hành động đáp trả bằng cách tước quyền kiếm tiền từ tài khoản X của bà.
Trong khi đó, xAI đã kiện bà St. Clair tại tòa án liên bang ở Texas, cho rằng bà đã vi phạm các điều khoản dịch vụ của xAI và yêu cầu bồi thường hơn 75.000 đô la. Tuần trước, X đã hạn chế khả năng của bot trả lời @Grok, dường như ngăn chặn việc tạo ra những hình ảnh khiêu dâm.
Theo tin từ NBC News, việc tạo ra và lan truyền những hình ảnh khiêu dâm trái phép đã gây ra phản ứng trên toàn thế giới, bao gồm nhiều cuộc điều tra của chính phủ và kêu gọi các thị trường ứng dụng trên điện thoại thông minh cấm hoặc hạn chế X.
