Một báo cáo mới từ Tech Transparency Project (TTP) đã chỉ ra rằng các ứng dụng có khả năng tạo ra hình ảnh nhạy cảm, không có sự đồng thuận của người trong ảnh (hay còn gọi là ‘nudify’ apps), đang được bày bán rộng rãi và dễ dàng tìm thấy trên cả App Store của Apple lẫn Google Play Store. Tình trạng này diễn ra bất chấp những nỗ lực của các hãng công nghệ trong việc đảm bảo an toàn cho nền tảng của họ.
Báo cáo cho biết, các ứng dụng này, bao gồm cả những ứng dụng sử dụng Trí tuệ Nhân tạo (AI) để tạo ảnh hoặc video theo yêu cầu của người dùng, hay các ứng dụng ‘ghép mặt’ để thay thế khuôn mặt lên cơ thể người khác, đã được tải xuống hơn 705 triệu lượt trên toàn cầu và mang về 117 triệu USD doanh thu. Điều này có nghĩa là cả Apple và Google đều đang gián tiếp hưởng lợi từ hoạt động kinh doanh của các ứng dụng này.
TTP nhấn mạnh rằng, việc tìm kiếm các từ khóa như ‘nudify’ hoặc ‘undress’ trên các cửa hàng ứng dụng này đủ để hiện ra hàng loạt các ứng dụng có khả năng làm điều đó. Thậm chí, một số ứng dụng còn quảng cáo công khai về chức năng này. Đáng lo ngại hơn, theo TTP, có ít nhất một trong số các ứng dụng này được gắn nhãn độ tuổi chỉ từ 9 trở lên trên App Store.
Các nhà phân tích của TTP đã tiến hành thử nghiệm trên các ứng dụng này và nhận thấy chúng dễ dàng tạo ra những hình ảnh nhạy cảm, ngay cả khi chỉ sử dụng các tính năng miễn phí. Mặc dù Apple và Google đều có các quy định cấm nội dung nhạy cảm và nội dung xâm phạm quyền riêng tư, báo cáo kết luận rằng các công ty này dường như đang không thực thi chính sách của mình một cách hiệu quả đối với loại ứng dụng này.
Vụ việc này đặt ra câu hỏi về trách nhiệm của các nền tảng ứng dụng trong việc kiểm duyệt nội dung, đặc biệt là trong bối cảnh AI ngày càng phát triển và có thể bị lạm dụng cho các mục đích tiêu cực.
