Bất chấp hàng triệu báo cáo về việc lạm dụng AI, công ty mẹ của Grok là xAI vẫn tiếp tục cho ra mắt các công cụ AI mới mạnh mẽ hơn. Mới đây, xAI đã giới thiệu phiên bản mới của mô hình video tạo sinh AI, mang tên Grok Imagine 1.0, có khả năng tạo ra các đoạn video dài 10 giây ở độ phân giải 720p kèm âm thanh.
Sự phổ biến của Grok đi kèm với một câu chuyện đáng lo ngại về sự nguy hiểm của AI không được kiểm soát. Từ cuối tháng 12 đến đầu tháng 1, nhiều người dùng X đã yêu cầu Grok tạo ra những hình ảnh khiêu dâm hoặc khỏa thân, chủ yếu nhắm vào phụ nữ, trong các bức ảnh được chia sẻ trên nền tảng. Bất kỳ ai đăng ảnh cá nhân hoặc ảnh nhóm đều có thể trở thành nạn nhân.
Trong tháng 1, Grok đã tạo ra 1,8 triệu ảnh deepfake nhạy cảm trong chín ngày, chiếm 41% tổng số ảnh do Grok tạo ra. Một nghiên cứu khác ước tính Grok đã tạo ra khoảng 3 triệu hình ảnh nhạy cảm trong 11 ngày, trong đó có 23.000 ảnh deepfake khiêu dâm trẻ em.
Trước tình hình này, X đã đặt khả năng tạo và chỉnh sửa hình ảnh sau tường phí vào ngày 8 tháng 1. Đến ngày 14 tháng 1, công ty cho biết đã cải thiện các biện pháp bảo vệ để ngăn chặn việc tạo ra nội dung tình dục lạm dụng. Tuy nhiên, các báo cáo cho thấy các biện pháp này vẫn chưa đủ mạnh.
Việc ra mắt Grok Imagine 1.0 cho thấy sự nâng cấp lớn về khả năng tạo video của nền tảng, làm dấy lên nhiều câu hỏi về kiểm duyệt nội dung sau những phản ứng dữ dội về hình ảnh AI nhạy cảm. Cơ quan tư pháp California và chính phủ Anh đã mở các cuộc điều tra đối với xAI. Indonesia và Malaysia đã chặn ứng dụng X. Ba thượng nghị sĩ Hoa Kỳ và các nhóm vận động đã kêu gọi Apple và Google gỡ bỏ X khỏi các cửa hàng ứng dụng vì vi phạm điều khoản dịch vụ.
Luật pháp Hoa Kỳ đã ban hành Đạo luật “Take It Down” vào năm 2025, hình sự hóa việc chia sẻ hình ảnh nhạy cảm và deepfake trái phép. Tuy nhiên, các nền tảng có thời hạn đến tháng 5 để thiết lập quy trình gỡ bỏ hình ảnh, điều này không giúp ích cho người dùng X hiện tại.
Theo CNET.
