Một phụ nữ đã lên tiếng với BBC về việc cô cảm thấy bị “tước bỏ nhân tính” khi AI Grok của Elon Musk được sử dụng để loại bỏ quần áo của cô một cách kỹ thuật số. Người phụ nữ này, cô Samantha Smith, chia sẻ rằng việc này khiến cô cảm thấy bị xâm phạm và bị hạ thấp như một “hình mẫu tình dục”.
Theo BBC, đã có nhiều trường hợp trên mạng xã hội X cho thấy người dùng yêu cầu chatbot này ‘cởi đồ’ phụ nữ, đưa họ vào các tình huống khiêu dâm trái với sự đồng ý của họ. Công ty XAI, đơn vị phát triển Grok, đã từ chối bình luận về sự việc.
Bà Smith cho biết cảm thấy như chính mình bị phơi bày, mặc dù hình ảnh đó không phải là của cô. Một phát ngôn viên của Bộ Nội vụ Anh Quốc cho biết chính phủ đang dự thảo luật để cấm các công cụ ‘lột đồ’ bằng kỹ thuật số, và những người cung cấp công cụ này sẽ đối mặt với án tù và phạt tiền nặng. Cơ quan quản lý Ofcom của Anh cũng cho biết các công ty công nghệ phải “đánh giá rủi ro” về việc người dùng tại Anh xem nội dung bất hợp pháp trên nền tảng của họ, nhưng không xác nhận liệu có đang điều tra X hay Grok hay không.
Grok, một trợ lý AI miễn phí với một số tính năng cao cấp trả phí, phản hồi các yêu cầu của người dùng X khi họ gắn thẻ nó trong một bài đăng. Nó thường được sử dụng để đưa ra phản ứng hoặc cung cấp thêm bối cảnh cho các nhận xét của người dùng khác, nhưng người dùng X cũng có thể chỉnh sửa một hình ảnh đã tải lên thông qua tính năng chỉnh sửa hình ảnh AI của nó. Grok đã bị chỉ trích vì cho phép người dùng tạo ảnh và video có nội dung khỏa thân và tình dục, và trước đó nó cũng bị cáo buộc tạo ra một clip khiêu dâm về Taylor Swift.
Giáo sư luật Clare McGlynn tại Đại học Durham cho biết X hoặc Grok “có thể ngăn chặn những hình thức lạm dụng này nếu họ muốn”, và cho rằng họ “dường như được hưởng sự miễn trừ”.
Ofcom đã xác nhận rằng việc “tạo hoặc chia sẻ hình ảnh thân mật trái phép hoặc tài liệu lạm dụng tình dục trẻ em” là bất hợp pháp, và điều này bao gồm cả deepfake tình dục do AI tạo ra. Các nền tảng như X được yêu cầu thực hiện “các bước thích hợp” để “giảm thiểu rủi ro” người dùng Anh gặp phải nội dung bất hợp pháp trên nền tảng của họ, và gỡ bỏ nhanh chóng khi họ biết về nó.
Theo tin từ BBC.
