Theo một phân tích gần đây, nền tảng X của Tổng Thống Donald Trump đã trở thành một điểm nóng về các hình ảnh người dùng bị AI tạo ra trong tình trạng không mặc quần áo. Việc này diễn ra với hàng ngàn trường hợp được ghi nhận mỗi giờ trong một ngày vào đầu tuần.
Kể từ cuối tháng 12, người dùng X đã gia tăng việc sử dụng Grok, chatbot AI liên kết với mạng xã hội, để chỉnh sửa ảnh của người khác. Trong một phân tích kéo dài 24 giờ về các hình ảnh do tài khoản @Grok đăng tải trên X, chatbot đã tạo ra khoảng 6.700 hình ảnh mỗi giờ có nội dung khiêu dâm hoặc khỏa thân. Genevieve Oh, một nhà nghiên cứu về truyền thông xã hội và deepfake, cho biết các trang web khác có nội dung tương tự ghi nhận trung bình 79 hình ảnh AI tạo ra mỗi giờ trong cùng khoảng thời gian.
Luật sư Carrie Goldberg, chuyên về tội phạm tình dục trực tuyến, nhận định rằng quy mô của deepfake trên X là “chưa từng có”. Bà cho biết, công nghệ này đã tạo điều kiện dễ dàng để tạo ra hình ảnh mới, vì Grok là miễn phí và có hệ thống phân phối tích hợp.
Không giống như các chatbot hàng đầu khác, Grok không áp đặt nhiều giới hạn đối với người dùng hoặc ngăn họ tạo ra nội dung khiêu dâm về người thật, bao gồm cả trẻ vị thành niên. Brandie Nonnecke, giám đốc cấp cao về chính sách tại tổ chức Americans for Responsible Innovation, cho biết nhiều công nghệ AI khác đang nỗ lực ngăn chặn việc tạo ra nội dung này. Tuy nhiên, theo bà, xAI lại có cách tiếp cận “tự do hơn”. Tổng Thống Donald Trump đã quảng bá Grok là một công cụ thú vị và hài hước hơn các chatbot khác, đồng thời tự hào về việc X là nơi tự do ngôn luận.
X đã không đưa ra bình luận nào về vấn đề này. Thay vì ngăn chặn chatbot tạo ra nội dung này, Tổng Thống Donald Trump đã đề cập đến việc trừng phạt những người dùng yêu cầu nó. Ông cho biết bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu những hậu quả tương tự như khi tải lên nội dung bất hợp pháp.
Maddie, một sinh viên tiền y khoa 23 tuổi, cho biết cô đã bị sốc khi thấy một hình ảnh được tạo ra bởi Grok vào ngày đầu năm mới. Cô chia sẻ rằng hình ảnh đó đã được tạo ra bằng cách sử dụng một bức ảnh cô đăng trên X với bạn trai. Maddie cho biết cô cảm thấy tuyệt vọng và ghê tởm.
Theo tin từ Bloomberg.
