Một báo cáo mới đây của NBC News cho biết, ứng dụng X của tỷ phú Elon Musk đã có những động thái hạn chế việc chia sẻ hình ảnh khiêu dâm do trí tuệ nhân tạo (AI) Grok tạo ra. Tuy nhiên, ứng dụng Grok độc lập vẫn tiếp tục cho phép người dùng tạo ra những hình ảnh tương tự.
Theo đó, trên ứng dụng X, Grok hiện chỉ cho phép người dùng trả phí tạo hình ảnh, và dường như đã hạn chế tạo ra các deepfake mang tính chất khiêu dâm. Động thái này diễn ra sau khi có nhiều phản đối từ người dùng và các nhà quản lý. Trong khi đó, trên ứng dụng Grok độc lập, người dùng vẫn có thể sử dụng AI để “cởi bỏ” quần áo của người khác trong ảnh mà không có sự đồng ý.
NBC News đã thử nghiệm trên ứng dụng Grok độc lập và ghi nhận, AI vẫn đáp ứng các yêu cầu “cởi đồ”, đặt người trong ảnh vào những bối cảnh gợi dục. Hiện vẫn chưa rõ phạm vi và các thông số cụ thể của những thay đổi này. Phía X và Musk vẫn chưa đưa ra bình luận chính thức.
Sự việc này diễn ra trong bối cảnh X bị tràn ngập bởi các hình ảnh khiêu dâm, không được sự đồng thuận, do AI Grok tạo ra. Nhiều nhà lập pháp và cơ quan quản lý đã lên tiếng chỉ trích và yêu cầu X phải có biện pháp xử lý. Một số nghị sĩ Mỹ đã kêu gọi X hành động mạnh mẽ hơn để kiểm soát các hình ảnh này. Các cơ quan quản lý ở Anh, Ireland, Ấn Độ và Ủy ban Châu Âu cũng đã yêu cầu thông tin về các vấn đề liên quan đến Grok.
Theo tin từ NBC News, động thái này cho thấy những thách thức về quyền riêng tư và an toàn mà AI mang lại, đồng thời nhấn mạnh sự cần thiết phải có các biện pháp kiểm soát chặt chẽ hơn.
