Ít nhất 37 tổng chưởng lý tiểu bang và vùng lãnh thổ của Hoa Kỳ đang yêu cầu xAI, công ty mẹ của chatbot Grok, phải có biện pháp xử lý vấn đề Grok tạo ra hàng loạt hình ảnh xâm hại tình dục trẻ em (CSAM).
Trước đó, ứng dụng Grok đã bị cấm ở hai quốc gia và đang bị điều tra tại Anh và Liên minh Châu Âu. Tuy nhiên, cả Apple và Google đều bị cáo buộc đã phớt lờ các yêu cầu gỡ bỏ tạm thời ứng dụng này khỏi các cửa hàng trực tuyến của họ.
Theo các báo cáo, Grok có khả năng tạo hình ảnh từ các câu lệnh văn bản, và điểm đáng lo ngại là các biện pháp kiểm soát của nó dường như rất lỏng lẻo. Điều này đã dẫn đến việc Grok bị sử dụng để tạo ra những hình ảnh nhạy cảm, không được sự đồng thuận của người thật, bao gồm cả trẻ em. Ước tính, Grok đã tạo ra khoảng 23.000 hình ảnh CSAM chỉ trong vòng 11 ngày.
Trước tình hình này, 37 tiểu bang và vùng lãnh thổ đã gửi thư kiến nghị yêu cầu xAI thực hiện sáu bước, bao gồm: ngăn chặn Grok sản xuất hình ảnh nhạy cảm và CSAM, loại bỏ các nội dung đã tạo, đình chỉ người dùng vi phạm, báo cáo người dùng vi phạm cho cơ quan chức năng, cho phép người dùng kiểm soát việc nội dung của họ có bị Grok chỉnh sửa hay không, và đảm bảo các biện pháp an toàn mới không chỉ đơn thuần là đặt nội dung nhạy cảm sau một bức tường phí.
Trước đó, ba thượng nghị sĩ Hoa Kỳ cũng đã gửi thư cho Giám đốc điều hành Apple, Tim Cook, đề nghị tạm thời gỡ bỏ cả X (tiền thân Twitter) và Grok khỏi App Store vì hành vi “tạo ra nội dung bệnh hoạn”. Tuy nhiên, đến nay, Apple vẫn chưa có hành động nào. Theo nhiều nguồn tin, áp lực lớn nhất đối với xAI lúc này là từ các nhà bán lẻ ứng dụng lớn như Apple và Google, khi họ có thể tạm thời gỡ bỏ các ứng dụng này khỏi cửa hàng của mình.
