Một vụ kiện tại New Jersey đang làm sáng tỏ những khó khăn trong việc đối phó với nạn ‘deepfake’ khiêu dâm. Ứng dụng ClothOff, trong hơn hai năm, đã khủng bố phụ nữ trẻ trên mạng, nhưng việc ngăn chặn nó gặp nhiều khó khăn. Mặc dù đã bị gỡ xuống từ các kho ứng dụng lớn và bị cấm trên nhiều nền tảng xã hội, ClothOff vẫn tồn tại trên web và thông qua một bot Telegram.
Vào tháng 10, một phòng khám tại Trường Luật Yale đã đệ đơn kiện để loại bỏ hoàn toàn ứng dụng, buộc chủ sở hữu phải xóa tất cả hình ảnh và chấm dứt hoạt động. Tuy nhiên, việc tìm ra các bị cáo đã là một thách thức. Vụ việc liên quan đến một học sinh trung học ở New Jersey, người bị bạn cùng lớp sử dụng ClothOff để chỉnh sửa ảnh trên Instagram. Các hình ảnh bị chỉnh sửa này được phân loại là hình ảnh lạm dụng trẻ em. Tuy nhiên, chính quyền địa phương đã từ chối truy tố, viện dẫn khó khăn trong việc thu thập bằng chứng từ thiết bị của nghi phạm.
Một vấn đề khác nổi lên từ vụ việc là việc kiểm soát các công cụ trí tuệ nhân tạo (AI) như Grok của Elon Musk, vốn tạo ra những hình ảnh khiêu dâm không được sự đồng thuận. Mặc dù các cá nhân có thể bị truy tố, nhưng các nền tảng như ClothOff và Grok rất khó kiểm soát, khiến nạn nhân khó tìm thấy công lý.
Luật pháp Hoa Kỳ hiện hành đã cấm ‘deepfake’ khiêu dâm, nhưng việc quy trách nhiệm cho toàn bộ nền tảng vẫn là một thách thức. Theo giáo sư John Langford, một trong những luật sư chính trong vụ kiện, những người tạo ra các hệ thống như vậy đang hoạt động bên ngoài những gì được bảo vệ bởi Tu chính án thứ nhất. Tình hình này cho thấy sự phức tạp trong việc đối phó với các vấn đề liên quan đến AI và quyền tự do ngôn luận.
Theo nguồn tin từ TechCrunch, các cơ quan quản lý ở Indonesia và Malaysia đã có những động thái chặn Grok, trong khi các nhà quản lý ở Anh đã mở một cuộc điều tra. Hiện tại, chưa có cơ quan quản lý nào của Hoa Kỳ đưa ra phản hồi chính thức.
