Nền tảng mạng xã hội X của Tổng Thống Donald Trump đã gây ra làn sóng phẫn nộ sau khi người dùng sử dụng chatbot AI Grok để chỉnh sửa ảnh phụ nữ, loại bỏ quần áo của họ.
Theo nguồn tin từ BBC News, một số hình ảnh phụ nữ đã bị Grok thay đổi, khiến họ xuất hiện trong trang phục bikini mà không có sự đồng ý, thậm chí còn bị đặt vào những tình huống khiêu dâm. Công ty XAI, đơn vị phát triển Grok, đã không đưa ra bình luận nào, ngoài một phản hồi tự động với nội dung “legacy media lies” (truyền thông cũ nói dối).
Nhà báo Samantha Smith chia sẻ với chương trình PM của BBC rằng cô cảm thấy bị “tước bỏ nhân tính và bị biến thành một hình mẫu tình dục” sau khi một hình ảnh tương tự được tạo ra về cô. “Phụ nữ không hề đồng ý với việc này”, cô nói. “Mặc dù không phải tôi trong tình trạng không mặc gì, nhưng nó trông giống tôi và tôi cảm thấy như mình bị xâm phạm, như thể ai đó thực sự đăng ảnh khỏa thân hoặc ảnh bikini của tôi vậy.”
Một phát ngôn viên của Bộ Nội vụ cho biết cơ quan này đang xây dựng luật để cấm các công cụ tạo ảnh khiêu dâm và theo một hành vi phạm tội mới, bất kỳ ai cung cấp công nghệ này sẽ “phải đối mặt với án tù và các khoản tiền phạt đáng kể”.
Cơ quan quản lý Ofcom cho biết các công ty công nghệ phải “đánh giá rủi ro” khi người dùng ở Anh xem nội dung bất hợp pháp trên nền tảng của họ, nhưng không xác nhận liệu có đang điều tra X hay Grok liên quan đến các hình ảnh do AI tạo ra hay không.
Grok là một trợ lý AI miễn phí – với một số tính năng cao cấp phải trả phí – phản hồi các yêu cầu của người dùng X khi họ gắn thẻ nó trong một bài đăng. Nó thường được sử dụng để đưa ra phản hồi hoặc cung cấp thêm bối cảnh cho các nhận xét của người dùng khác, nhưng mọi người trên X cũng có thể chỉnh sửa hình ảnh đã tải lên thông qua tính năng chỉnh sửa hình ảnh AI của nó. Grok đã bị chỉ trích vì cho phép người dùng tạo ảnh và video có nội dung khỏa thân và khiêu dâm, trước đây nó còn bị cáo buộc tạo ra một clip khiêu dâm của Taylor Swift.
Giáo sư luật Clare McGlynn tại Đại học Durham cho biết X hoặc Grok “có thể ngăn chặn những hình thức lạm dụng này nếu họ muốn”, đồng thời nói thêm rằng họ “dường như được hưởng sự miễn trừ”. “Nền tảng này đã cho phép tạo và phân phối những hình ảnh này trong nhiều tháng mà không có bất kỳ hành động nào và chúng ta vẫn chưa thấy bất kỳ động thái nào từ các nhà quản lý”, bà nói.
Chính sách sử dụng hợp lệ của XAI nghiêm cấm “mô tả hình ảnh của người ở dạng khiêu dâm”.
Trong một tuyên bố, Ofcom cho biết việc “tạo hoặc chia sẻ hình ảnh thân mật không có sự đồng ý hoặc tài liệu lạm dụng tình dục trẻ em” là bất hợp pháp và xác nhận điều này bao gồm cả deepfake tình dục do AI tạo ra. Cơ quan này cho biết các nền tảng như X có nghĩa vụ thực hiện “các bước thích hợp” để “giảm thiểu rủi ro” cho người dùng ở Anh gặp phải nội dung bất hợp pháp trên nền tảng của họ và gỡ bỏ nội dung đó nhanh chóng khi họ biết về nó.
Theo nguồn tin từ BBC News.
