Tổng Chưởng lý (TTCL) California, ông Rob Bonta, cho biết văn phòng của ông đã nhận được khiếu nại về việc người dùng bắt đầu sử dụng Grok để tạo ra những hình ảnh khiêu dâm, trong đó có cả trẻ vị thành niên, rồi đăng tải lên X. Quyết định điều tra này được đưa ra sau khi một số quốc gia, bao gồm Ấn Độ, Ireland, Úc và Malaysia, cũng đã có hành động tương tự đối với Grok.
Theo NBC Bay Area, TTCL Bonta cho biết văn phòng của ông đang xem xét các cáo buộc liên quan đến việc sử dụng trí tuệ nhân tạo (AI) Grok để tạo ra nội dung không phù hợp. Ông Bonta nhấn mạnh tầm quan trọng của việc bảo vệ trẻ em và ngăn chặn sự lan truyền của những hình ảnh xâm phạm trên mạng xã hội.
Động thái này cho thấy sự quan tâm ngày càng tăng của chính quyền đối với các vấn đề liên quan đến AI và những rủi ro tiềm ẩn mà nó có thể gây ra. Các nhà quản lý đang nỗ lực tìm kiếm giải pháp để cân bằng giữa sự đổi mới công nghệ và việc bảo vệ cộng đồng, đặc biệt là trẻ em.
Vụ việc này một lần nữa đặt ra câu hỏi về trách nhiệm của các công ty công nghệ trong việc kiểm soát nội dung do người dùng tạo ra trên nền tảng của họ. Nó cũng nhấn mạnh sự cần thiết của các quy định pháp lý rõ ràng để giải quyết các vấn đề đạo đức và xã hội do AI gây ra.
Theo tin từ NBC Bay Area.
