Một tổ chức giám sát của Anh chịu trách nhiệm phân loại và gắn cờ các tài liệu lạm dụng tình dục trẻ em trực tuyến cho các cơ quan thực thi pháp luật, cho biết họ đã tìm thấy những hình ảnh “mang tính hình sự” trên dark web, được cho là do Grok, công cụ trí tuệ nhân tạo (AI) liên kết với X của Elon Musk, tạo ra.
Theo Tổ chức Giám sát Internet (IWF), những hình ảnh trên dark web mô tả hình ảnh “khiêu dâm và bán khỏa thân” của các cô gái từ 11 đến 13 tuổi và đáp ứng các tiêu chuẩn để các cơ quan thực thi pháp luật hành động. Tổ chức này phân loại tài liệu là rõ ràng bất hợp pháp, khác hẳn với bất cứ điều gì họ tìm thấy được tạo ra bởi chatbot Grok trên X.
IWF được chính phủ Anh chỉ định để xác định và phân loại tài liệu lạm dụng tình dục trẻ em, và những quyết định của tổ chức này sẽ kích hoạt việc gỡ bỏ nội dung bắt buộc và giao cho các cơ quan thực thi pháp luật các phân loại mà họ cần để truy tố tội phạm.
Những phát hiện của tổ chức giám sát làm dấy lên những lo ngại rằng Grok đang được sử dụng để tạo ra tài liệu bất hợp pháp. Các nhà quản lý và nhà lập pháp đã lên án công cụ AI này trong tuần qua vì đã tạo ra những hình ảnh khiêu dâm về phụ nữ và trẻ em trên nền tảng truyền thông xã hội X. Giờ đây, các chuyên gia về an toàn trẻ em đang báo động rằng người dùng đang sử dụng ứng dụng và trang web độc lập của Grok để tạo ra các tài liệu cực đoan hơn một cách riêng tư và chia sẻ chúng.
Theo IWF, người dùng trên diễn đàn dark web tuyên bố đã tạo ra những hình ảnh khiêu dâm trẻ em bằng công cụ Grok Imagine. Những người dùng này sau đó đã chạy các hình ảnh thông qua một công cụ AI khác, chưa được xác định, để tạo ra nội dung thậm chí còn cực đoan hơn — bao gồm cả video đồ họa — có nghĩa là những tác động tiêu cực đang “lan rộng”, bà Alexander cho biết.
Chia sẻ, sở hữu và xuất bản tài liệu khai thác tình dục trẻ em là bất hợp pháp ở hầu hết các quốc gia và các nền tảng truyền thông xã hội như X phải phát hiện, gỡ bỏ và báo cáo, hoặc phải đối mặt với hành động pháp lý. Nội dung mô tả sự khiêu dâm hoặc khai thác trẻ em bị cấm theo chính sách sử dụng hiện hành của X.
IWF cho biết họ đã không nhận được phản hồi có ý nghĩa từ XAI. X, trước đây là Twitter, đã là một tổ chức đối tác của IWF kể từ năm 2013.
Theo Bloomberg.
