Một báo cáo mới từ tổ chức phi lợi nhuận Common Sense Media đã đưa ra những chỉ trích nặng nề về chatbot Grok của xAI, thuộc sở hữu của Elon Musk. Theo báo cáo, Grok có những thiếu sót nghiêm trọng trong việc nhận diện người dùng dưới 18 tuổi, các biện pháp an toàn yếu kém, và thường xuyên tạo ra nội dung mang tính tình dục, bạo lực và không phù hợp. Tổ chức này khẳng định Grok không an toàn cho trẻ em và thanh thiếu niên.
Báo cáo này được đưa ra trong bối cảnh xAI đang đối mặt với sự điều tra về việc Grok bị cáo buộc được sử dụng để tạo và phát tán hình ảnh nhạy cảm của phụ nữ và trẻ em trên nền tảng X. Robbie Torney, người đứng đầu bộ phận đánh giá AI và kỹ thuật số tại Common Sense Media, cho biết: “Chúng tôi đánh giá rất nhiều chatbot AI, và tất cả đều có rủi ro, nhưng Grok là một trong những chatbot tệ nhất mà chúng tôi từng thấy.”
Theo Torney, mặc dù các chatbot thường có một số lỗ hổng về an toàn, nhưng những thiếu sót của Grok lại giao nhau theo một cách đặc biệt đáng lo ngại. “Chế độ Trẻ em không hoạt động, nội dung nhạy cảm tràn lan, và mọi thứ có thể được chia sẻ ngay lập tức cho hàng triệu người dùng trên X”, ông nói thêm. Đáng chú ý, xAI đã giới thiệu “Chế độ Trẻ em” với các bộ lọc nội dung và kiểm soát của phụ huynh vào tháng 10 năm ngoái. Tuy nhiên, báo cáo chỉ ra rằng khi một công ty phản hồi việc cho phép tạo ra tài liệu lạm dụng tình dục trẻ em bất hợp pháp bằng cách đặt tính năng này sau một bức tường phí thay vì gỡ bỏ, đó là một mô hình kinh doanh đặt lợi nhuận lên trên sự an toàn của trẻ em.
Sau những phản ứng dữ dội từ người dùng và các nhà hoạch định chính sách, xAI đã giới hạn việc tạo và chỉnh sửa hình ảnh của Grok chỉ dành cho những người đăng ký trả phí trên X. Tuy nhiên, nhiều người dùng báo cáo vẫn có thể truy cập công cụ này bằng tài khoản miễn phí. Hơn nữa, những người đăng ký trả phí vẫn có thể chỉnh sửa ảnh người thật để loại bỏ quần áo hoặc đặt chủ thể vào các tư thế gợi dục.
Common Sense Media đã thử nghiệm Grok trên ứng dụng di động, trang web và tài khoản @grok trên X. Báo cáo cũng nhấn mạnh sự lo ngại ngày càng tăng về an toàn của thanh thiếu niên khi sử dụng AI, đặc biệt sau các trường hợp thanh thiếu niên tử vong do tự tử sau các cuộc trò chuyện kéo dài với chatbot, cũng như các báo cáo về việc chatbot có những cuộc trò chuyện tình dục và lãng mạn với trẻ em. Một số nhà lập pháp đã lên tiếng phản đối và tiến hành điều tra hoặc thông qua luật để điều chỉnh các chatbot đồng hành AI.
Theo báo cáo của Common Sense Media, ngay cả khi bật “Chế độ Trẻ em”, Grok vẫn tạo ra nội dung có hại, bao gồm cả thiên vị giới tính và chủng tộc, ngôn ngữ tình dục bạo lực, và các giải thích chi tiết về những ý tưởng nguy hiểm. Ngoài ra, Grok còn đưa ra lời khuyên nguy hiểm cho thanh thiếu niên, bao gồm hướng dẫn sử dụng ma túy, đề xuất bỏ nhà, bắn súng lên trời để thu hút sự chú ý của truyền thông, hoặc xăm mình. Về sức khỏe tâm thần, đánh giá của Grok cho thấy nó khuyến khích việc tránh né sự giúp đỡ chuyên nghiệp.
Những phát hiện này đặt ra câu hỏi cấp bách về việc liệu các chatbot và trợ lý AI có thể ưu tiên sự an toàn của trẻ em hơn các chỉ số tương tác hay không.
