XAI, công ty trí tuệ nhân tạo của Elon Musk, đã hạn chế tính năng tạo hình ảnh của Grok đối với hầu hết người dùng trên nền tảng mạng xã hội X sau khi công cụ này vấp phải sự chỉ trích rộng rãi vì tạo ra những hình ảnh khỏa thân của phụ nữ và trẻ em.
Tính đến thứ Sáu, Grok thông báo với người dùng trên X rằng họ cần đăng ký trả phí để tạo và chỉnh sửa hình ảnh. Ban đầu, các tính năng này được giới thiệu miễn phí trên X với giới hạn hàng ngày. Ứng dụng Grok độc lập, hoạt động riêng biệt với mạng xã hội, vẫn cho phép người dùng tạo hình ảnh mà không cần đăng ký.
Khả năng tạo hình ảnh của Grok đã trở nên tai tiếng trong vài tuần qua, sau khi người dùng bắt đầu yêu cầu công cụ này chỉnh sửa ảnh của mọi người – chủ yếu là phụ nữ – để họ xuất hiện trong trang phục bikini. Nhiều người dùng đã lợi dụng tính năng này để tạo ra những hình ảnh khiêu dâm của phụ nữ và trẻ em trên X. Công cụ này đã được sử dụng để tạo ra hàng ngàn hình ảnh khỏa thân của mọi người mỗi giờ, nhiều hình ảnh được tạo ra mà không có sự đồng ý của đối tượng.
Một phát ngôn viên của xAI không có bình luận ngay lập tức. Ông Musk cho biết trong một bài đăng trên X vào tuần trước rằng “bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp”. Nội dung có yếu tố tình dục và bóc lột trẻ em cũng bị cấm trên X theo các điều khoản dịch vụ hiện hành.
Công cụ AI đã làm mờ ranh giới giữa những nội dung mạo hiểm và bất hợp pháp, với những chỉ trích ngày càng gia tăng sau khi các chuyên gia bảo vệ trẻ em cảnh báo rằng nó đang được sử dụng để tạo ra tài liệu lạm dụng tình dục trẻ em. Các nền tảng truyền thông xã hội chính thống có nguy cơ bị phạt hoặc bị chặn nếu họ không gỡ bỏ nội dung đó một cách nhanh chóng và chủ động.
Văn phòng Thủ tướng Anh Keir Starmer cho biết động thái hạn chế này vẫn chưa đủ. Phát ngôn viên của ông Starmer, Geraint Ellis, nói với các phóng viên: “Nó chỉ đơn giản là biến một tính năng AI cho phép tạo ra các hình ảnh bất hợp pháp thành một dịch vụ cao cấp: Đó không phải là một giải pháp”. “Nó xúc phạm các nạn nhân của sự thù ghét phụ nữ và bạo lực tình dục. Điều đó chứng minh rằng X có thể hành động nhanh chóng khi muốn.”
Tổ chức Theo dõi Internet, một cơ quan do chính phủ Anh chỉ định để xác định tài liệu lạm dụng tình dục trẻ em, cho biết họ đã tìm thấy những hình ảnh “hình sự” trên web đen mà Grok được cho là đã tạo ra. Ông Starmer cho biết cơ quan quản lý Ofcom của Anh có “sự ủng hộ hoàn toàn của chính phủ để hành động”.
Cơ quan điều hành của Liên minh châu Âu đã ra lệnh cho X lưu giữ các tài liệu nội bộ liên quan đến Grok cho đến cuối năm nay, một phát ngôn viên cho biết trong một cuộc họp báo vào thứ Năm. EU đã lên án một số hình ảnh khiêu dâm của trẻ em trên nền tảng này là bất hợp pháp.
X không còn công bố dữ liệu toàn diện về số lượng người dùng hoạt động và trả phí hàng tháng. Vào tháng 3 năm 2024, nền tảng này cho biết họ có 550 triệu người dùng hàng tháng. Chỉ một phần nhỏ trong số đó phải trả phí.
Theo tin từ Bloomberg.
