Grok, chatbot tích hợp trên nền tảng X, đang đối mặt với sự chỉ trích gay gắt sau khi thừa nhận đã tạo và chia sẻ một hình ảnh do AI tạo ra, mô tả hai cô gái trẻ trong trang phục khiêu dâm.
Trong một bài đăng công khai trên X, Grok thừa nhận nội dung này “vi phạm các tiêu chuẩn đạo đức” và “có khả năng vi phạm luật pháp Hoa Kỳ về tài liệu lạm dụng tình dục trẻ em (CSAM).” Chatbot này cho biết thêm, “Đó là một sai sót trong các biện pháp bảo vệ, và tôi xin lỗi vì bất kỳ tổn hại nào đã gây ra. xAI đang xem xét để ngăn chặn các vấn đề trong tương lai.”
Lời thừa nhận này đã gây ra sự báo động. Hậu quả sau đó còn cho thấy một vấn đề lớn hơn nhiều.
Việc Grok đưa ra lời xin lỗi chỉ sau khi một người dùng yêu cầu chatbot này viết một lời giải thích chân thành cho những người không có bối cảnh. Nói cách khác, hệ thống không chủ động giải quyết vấn đề. Nó chỉ phản hồi vì có người yêu cầu.
Đồng thời, các nhà nghiên cứu và nhà báo đã phát hiện ra việc lạm dụng rộng rãi các công cụ tạo ảnh của Grok. Theo công ty giám sát Copyleaks, người dùng đã tạo ra những hình ảnh bị thao túng tình dục, không có sự đồng ý của những người thật, bao gồm cả trẻ vị thành niên và những nhân vật nổi tiếng.
Sau khi xem xét nguồn cấp dữ liệu ảnh công khai của Grok, Copyleaks đã xác định được khoảng một hình ảnh tình dục không có sự đồng ý trên một phút, dựa trên những hình ảnh liên quan đến người thật mà không có dấu hiệu rõ ràng về sự đồng ý. Công ty này cho biết việc lạm dụng đã leo thang nhanh chóng, chuyển từ việc tự quảng bá có sự đồng ý sang quấy rối trên quy mô lớn do AI tạo ra.
Giám đốc điều hành và đồng sáng lập Copyleaks, Alon Yamin, cho biết: “Khi các hệ thống AI cho phép thao túng hình ảnh của người thật mà không có sự đồng ý rõ ràng, tác động có thể diễn ra ngay lập tức và mang tính cá nhân sâu sắc.”
Việc tạo hoặc phân phối hình ảnh khiêu dâm trẻ vị thành niên là một hành vi phạm tội nghiêm trọng ở Hoa Kỳ và nhiều quốc gia khác. Theo luật liên bang Hoa Kỳ, nội dung như vậy được phân loại là tài liệu lạm dụng tình dục trẻ em. Hình phạt có thể bao gồm từ năm đến 20 năm tù, phạt tiền lên đến 250.000 đô la và bắt buộc đăng ký là tội phạm tình dục. Luật pháp tương tự cũng được áp dụng ở Anh và Pháp.
Một báo cáo vào tháng 7 của Tổ chức Theo dõi Internet, một tổ chức phi lợi nhuận chuyên theo dõi và loại bỏ tài liệu lạm dụng tình dục trẻ em trên mạng, cho thấy mức độ nghiêm trọng của mối đe dọa này đang gia tăng nhanh chóng như thế nào. Báo cáo về hình ảnh lạm dụng tình dục trẻ em do AI tạo ra đã tăng 400% chỉ trong sáu tháng đầu năm 2025. Các chuyên gia cảnh báo rằng các công cụ AI làm giảm rào cản đối với hành vi lạm dụng tiềm ẩn. Những gì trước đây đòi hỏi kỹ năng kỹ thuật hoặc quyền truy cập vào các diễn đàn bí mật giờ đây có thể xảy ra thông qua một lời nhắc đơn giản trên một nền tảng phổ biến.
Reuters đã ghi nhận các trường hợp trong đó người dùng yêu cầu Grok cởi bỏ quần áo của những phụ nữ có ảnh được đăng trên X. Trong nhiều trường hợp, Grok đã hoàn toàn tuân thủ. Đáng lo ngại hơn nữa, người dùng đã nhắm mục tiêu vào hình ảnh của một nữ diễn viên 14 tuổi Nell Fisher từ bộ phim “Stranger Things” của Netflix. Grok sau đó đã thừa nhận có những trường hợp cá biệt trong đó người dùng đã nhận được hình ảnh mô tả trẻ vị thành niên trong trang phục tối thiểu. Trong một cuộc điều tra khác của Reuters, một nhạc sĩ người Brazil đã mô tả việc chứng kiến hình ảnh bikini do AI tạo ra của chính cô lan truyền trên X sau khi người dùng yêu cầu Grok thay đổi một bức ảnh vô hại. Kinh nghiệm của cô phản ánh những gì nhiều phụ nữ và trẻ em gái hiện đang phải đối mặt.
Sự phản đối đã lan rộng ra toàn cầu. Tại Pháp, nhiều bộ trưởng đã chuyển X đến một cơ quan điều tra về những vi phạm có thể xảy ra của Đạo luật Dịch vụ Kỹ thuật số của EU, yêu cầu các nền tảng phải ngăn chặn và giảm thiểu sự lan truyền của nội dung bất hợp pháp. Các vi phạm có thể dẫn đến tiền phạt nặng. Tại Ấn Độ, bộ trưởng công nghệ thông tin của nước này đã cho xAI 72 giờ để nộp báo cáo chi tiết về cách họ dự định ngăn chặn sự lan truyền của tài liệu khiêu dâm và mang tính gợi dục do Grok tạo ra. Grok cũng đã cảnh báo công khai rằng xAI có thể phải đối mặt với các cuộc điều tra tiềm năng từ Bộ Tư pháp hoặc các vụ kiện liên quan đến những thất bại này.
Sự cố này làm dấy lên những lo ngại nghiêm trọng về quyền riêng tư trực tuyến, bảo mật nền tảng và các biện pháp bảo vệ được thiết kế để bảo vệ trẻ vị thành niên.
Elon Musk, chủ sở hữu của X và người sáng lập xAI, đã không đưa ra phản hồi công khai tại thời điểm xuất bản. Sự im lặng đó đến vào một thời điểm nhạy cảm. Grok đã được ủy quyền sử dụng chính thức của chính phủ theo một hợp đồng liên bang kéo dài 18 tháng. Sự chấp thuận này đã được cấp bất chấp sự phản đối từ hơn 30 nhóm bảo vệ người tiêu dùng, những người cảnh báo rằng hệ thống này thiếu các thử nghiệm an toàn thích hợp.
Trong năm qua, Grok đã bị các nhà phê bình cáo buộc lan truyền thông tin sai lệch về các sự kiện tin tức lớn, thúc đẩy luận điệu bài Do Thái và chia sẻ thông tin y tế sai lệch. Nó cũng cạnh tranh trực tiếp với các công cụ như ChatGPT và Gemini trong khi hoạt động với ít hạn chế an toàn hơn. Mỗi tranh cãi đặt ra cùng một câu hỏi. Liệu một công cụ AI mạnh mẽ có thể được triển khai một cách có trách nhiệm mà không có sự giám sát và thực thi mạnh mẽ?
Nếu bạn bắt gặp hình ảnh khiêu dâm trẻ vị thành niên hoặc tài liệu lạm dụng khác trên mạng, hãy báo cáo ngay lập tức. Tại Hoa Kỳ, bạn có thể liên hệ với đường dây nóng của FBI hoặc tìm kiếm sự giúp đỡ từ Trung tâm Quốc gia về Trẻ em Mất tích & Bị khai thác.
Đừng tải xuống, chia sẻ, chụp ảnh màn hình hoặc tương tác với nội dung đó theo bất kỳ cách nào. Ngay cả việc xem hoặc chuyển tiếp tài liệu bất hợp pháp có thể khiến bạn gặp rủi ro pháp lý nghiêm trọng.
Cha mẹ cũng nên nói chuyện với trẻ em và thanh thiếu niên về các công cụ tạo ảnh AI và lời nhắc trên mạng xã hội. Nhiều hình ảnh trong số này được tạo ra thông qua các yêu cầu thông thường mà ban đầu không cảm thấy nguy hiểm. Dạy trẻ cách báo cáo nội dung, đóng ứng dụng và cho người lớn đáng tin cậy biết có thể ngăn chặn tác hại lan rộng hơn.
Nền tảng có thể thất bại. Các biện pháp bảo vệ có thể chậm trễ. Nhưng việc báo cáo sớm và các cuộc trò chuyện rõ ràng tại nhà vẫn là một trong những cách hiệu quả nhất để bảo vệ trẻ em trên mạng.
Theo tin từ Fox News
