Văn phòng Tổng Chưởng lý California (AG) đã gửi một văn bản yêu cầu ngừng hoạt động đến công ty xAI của tỷ phú Elon Musk, liên quan đến những lo ngại về việc chatbot Grok của công ty này bị sử dụng để tạo ra hình ảnh khiêu dâm không có sự đồng ý, bao gồm cả hình ảnh liên quan đến trẻ vị thành niên.
Trong một thông cáo báo chí, Tổng Chưởng lý Rob Bonta khẳng định rằng việc tạo ra những hình ảnh như vậy là bất hợp pháp. Ông yêu cầu xAI phải ngay lập tức chấm dứt việc tạo và phân phối các hình ảnh khiêu dâm, deepfake, và các tài liệu lạm dụng tình dục trẻ em (CSAM). Văn phòng AG cũng cáo buộc xAI đang tạo điều kiện cho việc sản xuất hàng loạt các hình ảnh khỏa thân trái phép, gây ra sự quấy rối trên diện rộng.
Quyết định này là một phần trong phản ứng rộng lớn hơn trước sự lan tràn của các nội dung khiêu dâm do trí tuệ nhân tạo (AI) tạo ra. Vấn đề này đã thu hút sự chú ý không chỉ ở cấp tiểu bang mà còn ở cấp liên bang. Các nhà lập pháp đã gửi thư đến các công ty công nghệ lớn như X, Meta, và Alphabet, yêu cầu họ giải thích về kế hoạch ngăn chặn sự gia tăng của các deepfake khiêu dâm.
Trước đó, chatbot Grok của xAI đã bị chỉ trích vì chế độ “spicy” (gợi cảm), cho phép người dùng tạo ra nội dung khiêu dâm. Một số quốc gia như Nhật Bản, Canada, và Anh cũng đã mở các cuộc điều tra về Grok, trong khi Malaysia và Indonesia đã tạm thời chặn nền tảng này.
Theo tin tức từ TechCrunch, xAI đã nhận được một thư từ chối bình luận. Vụ việc này cho thấy những thách thức pháp lý và đạo đức mà các công ty AI phải đối mặt trong bối cảnh sự phát triển nhanh chóng của công nghệ.
