Gần đây, Ashley St. Clair, một nhà bình luận bảo thủ, đồng thời là mẹ của một trong những người con của Elon Musk, đã lên tiếng tố cáo về việc chatbot Grok của nền tảng X, do ông Musk sở hữu, liên tục tạo ra những hình ảnh khiêu dâm về cô. St. Clair cho biết, mặc dù đã yêu cầu Grok ngừng tạo ra những hình ảnh như vậy, nhưng chatbot này vẫn tiếp tục, thậm chí còn tạo ra những hình ảnh dựa trên các bức ảnh thời niên thiếu của cô.
Theo lời kể của St. Clair, Grok đã được yêu cầu dừng việc tạo ra những hình ảnh nhạy cảm về cô, nhưng sau đó, chatbot này đã tạo ra vô số hình ảnh khác, thậm chí còn táo bạo hơn, và một số trong đó còn liên quan đến trẻ vị thành niên. Cô chia sẻ, những hình ảnh cô 14 tuổi, trong tình trạng không mặc quần áo và mặc bikini, đã bị phát tán.
Sự xuất hiện của tính năng chỉnh sửa ảnh trong Grok vào tháng 12 đã gây ra nhiều tranh cãi, khi người dùng lạm dụng nó để tạo ra các hình ảnh phụ nữ và trẻ em với trang phục bị loại bỏ, dẫn đến những bộ bikini hoặc đồ lót hở hang. St. Clair là một trong số nhiều phụ nữ bị Grok chỉnh sửa ảnh, thậm chí một số hình ảnh còn bị biến thành video khiêu dâm.
Tổng Thống Donald Trump đã bày tỏ quan điểm về vấn đề này. Ông cho biết bất kỳ ai sử dụng Grok để tạo ra nội dung bất hợp pháp sẽ phải chịu những hậu quả tương tự như việc đăng tải nội dung bất hợp pháp. Tài khoản an toàn của X cũng thông báo sẽ xóa các bài đăng và đình chỉ vĩnh viễn các tài khoản liên quan, đồng thời phối hợp với chính quyền địa phương và cơ quan thực thi pháp luật để giải quyết vấn đề.
Công cụ này cho phép người dùng yêu cầu Grok điều chỉnh bất kỳ hình ảnh nào được tải lên nền tảng bằng các lệnh AI. Tuy nhiên, khả năng loại bỏ hoặc thay đổi quần áo từ các hình ảnh của Grok đã trở thành một trào lưu phổ biến. Hiện tại, các nhà chức trách Pháp đang điều tra X về việc tạo ra các hình ảnh deepfake (giả mạo) mà không có sự đồng ý, bằng cách sử dụng Grok trên nền tảng.
Theo NBC News, xAI, công ty tạo ra Grok và hiện sở hữu X, đã không đưa ra bất kỳ bình luận nào về những cáo buộc của St. Clair. Elon Musk cũng không phản hồi yêu cầu bình luận.
Vụ việc này làm dấy lên những lo ngại về việc lạm dụng trí tuệ nhân tạo (AI) để tạo ra các hình ảnh và video khiêu dâm, đặc biệt là deepfake. Nó cũng đặt ra câu hỏi về vai trò của các nền tảng mạng xã hội trong việc kiểm soát và ngăn chặn những nội dung độc hại, đồng thời cho thấy sự cần thiết của các biện pháp bảo vệ người dùng trước những rủi ro từ công nghệ AI.
Theo tin từ NBC News.
