Vào tối thứ Năm, ba Thượng nghị sĩ Dân chủ đã kêu gọi Apple và Google loại bỏ các ứng dụng X và Grok của Elon Musk khỏi kho ứng dụng của họ. Động thái này diễn ra sau khi công cụ trí tuệ nhân tạo (AI) Grok của xAI đã được sử dụng để tràn ngập X với những hình ảnh khiêu dâm, không có sự đồng ý của người thật.
Vài giờ sau, X đã điều chỉnh cách hoạt động của bot trả lời Grok trên trang mạng xã hội, hạn chế tính năng tạo hình ảnh đối với những người đăng ký trả phí, và có vẻ như cũng hạn chế các loại hình ảnh mà bot Grok có thể tạo ra trên X.
Tuần qua, bot Grok đã tạo ra hàng ngàn hình ảnh khiêu dâm mỗi giờ, chủ yếu là phụ nữ, nhưng đôi khi có cả trẻ em. Vào sáng thứ Sáu, dường như họ đã thay đổi để giới hạn tính năng đó trên ứng dụng mạng xã hội. Tuy nhiên, trong tab Grok trên X và trên ứng dụng và trang web Grok độc lập, Grok vẫn sẽ tạo ra các deepfake khiêu dâm.
Trong một bức thư ngỏ gửi Giám đốc điều hành Apple Tim Cook và Giám đốc điều hành Google Sundar Pichai, Thượng nghị sĩ Ron Wyden của Oregon, Ed Markey của Massachusetts và Ben Ray Luján của New Mexico đã yêu cầu các công ty “thực thi” các điều khoản dịch vụ dường như cấm các hoạt động đang gia tăng trên X và vẫn có thể xảy ra trên Grok.
Trong một tuyên bố, Thượng nghị sĩ Wyden nhấn mạnh rằng những thay đổi trên X không giải quyết được những lo ngại rằng Grok vẫn đang tràn ngập các nguồn cấp dữ liệu mạng xã hội với những hình ảnh khiêu dâm không có sự đồng ý.
Các điều khoản dịch vụ của App Store của Apple và Play Store của Google dường như cấm các ứng dụng cho phép hình ảnh khiêu dâm của mọi người mà không có sự đồng ý của họ, các thượng nghị sĩ viết. “Apple và Google phải gỡ bỏ các ứng dụng này khỏi cửa hàng ứng dụng cho đến khi các vi phạm chính sách của X được giải quyết.”
Theo tin từ NBC News, hành động của X vào sáng thứ Sáu dường như ít nhất một phần là để đáp lại sự phản đối mạnh mẽ trước việc Grok tạo ra các deepfake tình dục. Tuy nhiên, ông Musk và X đã không cho biết sẽ có một sự thu hồi rộng rãi hơn các khả năng của Grok trên tất cả các nền tảng, bao gồm cả ứng dụng Grok có thể tải xuống, ứng dụng này vẫn còn trong cửa hàng ứng dụng của Google và Apple.
Các ứng dụng Grok và X hiện đang phổ biến trên các cửa hàng ứng dụng của Google và Apple. Sáng thứ Sáu, Grok, nơi các deepfake tình dục dường như vẫn được phép tạo ra, đã được xếp hạng thứ 4 trong App Store của Apple và thứ 10 của Google.
Hiện nay, cả Apple và Google đều chưa đưa ra bình luận nào về bức thư của các thượng nghị sĩ, cũng như các câu hỏi trước đây của NBC News về việc các công ty đang xem xét vai trò của X trong việc tạo ra các hình ảnh khiêu dâm không có sự đồng ý. Tổng Thống Donald Trump cũng đã có những phát biểu liên quan đến vấn đề này.
Đây là một vấn đề gây ra nhiều tranh cãi, cho thấy sự phức tạp của việc kiểm soát nội dung và bảo vệ người dùng trong bối cảnh công nghệ AI ngày càng phát triển. Sự việc này cũng đặt ra câu hỏi về trách nhiệm của các công ty công nghệ trong việc ngăn chặn lạm dụng AI.
Theo tin từ NBC News.
