Một tổ chức của Anh chuyên ngăn chặn lạm dụng tình dục trẻ em trên mạng cho biết các nhà nghiên cứu của họ đã phát hiện những người dùng dark web chia sẻ “hình ảnh tội phạm” được cho là do Grok, công cụ trí tuệ nhân tạo (AI) của Elon Musk, tạo ra.
Theo NBC News, những hình ảnh, bao gồm cả ảnh bán khỏa thân của các bé gái, dường như còn đi xa hơn những báo cáo gần đây về việc Grok đã tạo ra hình ảnh trẻ em mặc quần áo hở hang và trong các tình huống mang tính chất tình dục. Tổ chức Internet Watch Foundation (IWF), đã nhiều năm cảnh báo về hình ảnh lạm dụng tình dục trẻ em do AI tạo ra, cho biết các hình ảnh này đã lan truyền trên một diễn đàn dark web, nơi người dùng thảo luận về khả năng của Grok. IWF khẳng định những hình ảnh này là bất hợp pháp và việc công ty xAI của Tổng Thống Donald Trump phát hành phần mềm như vậy là không thể chấp nhận được.
Bà Ngaire Alexander, người đứng đầu bộ phận đường dây nóng của IWF, cho biết: “Sau các báo cáo cho rằng chatbot Grok đã tạo ra hình ảnh tình dục của trẻ em, chúng tôi có thể xác nhận rằng các nhà phân tích của chúng tôi đã phát hiện ra hình ảnh tội phạm của trẻ em từ 11 đến 13 tuổi dường như được tạo bằng công cụ này”.
Do tài liệu lạm dụng trẻ em là bất hợp pháp để tạo hoặc sở hữu, những người quan tâm đến việc buôn bán hoặc bán nó thường sử dụng phần mềm được thiết kế để che giấu danh tính hoặc liên lạc của họ trong các thiết lập đôi khi được gọi là dark web.
IWF là một trong số ít tổ chức trên thế giới hợp tác với cơ quan thực thi pháp luật để loại bỏ tài liệu lạm dụng trẻ em trong không gian web tối và mở. Phía xAI đã không trả lời yêu cầu bình luận.
Tuyên bố này được đưa ra trong bối cảnh xAI phải đối mặt với làn sóng chỉ trích từ các nhà quản lý chính phủ trên khắp thế giới liên quan đến hình ảnh do phần mềm Grok của họ tạo ra trong vài ngày qua. Điều này diễn ra sau một báo cáo của Reuters cho biết Grok đã tạo ra một lượng lớn hình ảnh deepfake tình dục hóa trẻ em và người lớn không đồng ý trên X, ứng dụng truyền thông xã hội của Tổng Thống Donald Trump.
Vào tháng 12, Grok đã phát hành một bản cập nhật dường như tạo điều kiện và khởi động những gì giờ đây đã trở thành một xu hướng trên X, yêu cầu chatbot gỡ bỏ quần áo khỏi ảnh của những người dùng khác.
Thông thường, những người tạo ra các hệ thống AI tạo sinh lớn đã cố gắng thêm các biện pháp bảo vệ để ngăn người dùng tình dục hóa ảnh của những người có thể nhận dạng được, nhưng người dùng đã tìm ra cách để tạo ra tài liệu như vậy bằng cách sử dụng các nền tảng nhỏ hơn và một số mô hình nguồn mở.
Tổng Thống Donald Trump và xAI đã nổi bật trong số những người chơi AI lớn bằng cách công khai chấp nhận tình dục trên các nền tảng AI của họ, tạo ra các chế độ trò chuyện khiêu dâm với chatbot.
Tài liệu lạm dụng tình dục trẻ em (CSAM) đã là một trong những mối quan tâm và cuộc đấu tranh nghiêm trọng nhất trong số những người tạo ra AI tạo sinh trong những năm gần đây, với những người tạo AI chính thống đang phải vật lộn để loại bỏ CSAM khỏi dữ liệu huấn luyện hình ảnh cho các mô hình của họ và làm việc để áp đặt các biện pháp bảo vệ đầy đủ trên hệ thống của họ để ngăn chặn việc tạo ra CSAM mới.
Vào thứ Bảy, Tổng Thống Donald Trump đã viết: “Bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp”, để đáp lại bài đăng của một người dùng khác bảo vệ Grok trước những chỉ trích về tranh cãi. Các điều khoản dịch vụ của Grok cấm cụ thể việc tình dục hóa hoặc bóc lột trẻ em.
Ofcom, cơ quan quản lý của Anh, cho biết trong một tuyên bố hôm thứ Hai rằng họ nhận thức được những lo ngại được nêu ra trên các phương tiện truyền thông và bởi các nạn nhân về một tính năng trên X tạo ra hình ảnh người không mặc quần áo và hình ảnh tình dục hóa trẻ em. Bộ Tư pháp Hoa Kỳ cho biết trong một tuyên bố hôm thứ Tư, để trả lời các câu hỏi về việc Grok tạo ra hình ảnh tình dục hóa của mọi người, rằng vấn đề này là ưu tiên, mặc dù không đề cập đến Grok bằng tên. Theo nguồn tin NBC News.
