Một báo cáo gần đây của NBC News cho thấy, mô hình AI Grok, được phát triển bởi công ty của Elon Musk, vẫn tiếp tục tạo ra nội dung mang tính chất khiêu dâm, mặc dù đã có những điều chỉnh sau phản ứng dữ dội từ dư luận. Ban đầu, Grok cho phép người dùng tạo ra những hình ảnh khỏa thân bằng AI, nhưng sau đó, nền tảng X (trước đây là Twitter) đã giới hạn tính năng này cho những người dùng trả phí. Tuy nhiên, theo NBC News, trong ứng dụng độc lập Grok và ở những nơi khác, người dùng vẫn có thể sử dụng AI để “cởi bỏ” quần áo của người khác trong ảnh mà không có sự đồng ý.
Việc này đặt ra những câu hỏi về khả năng kiểm soát và trách nhiệm của các công ty công nghệ trong việc ngăn chặn lạm dụng AI. Các chuyên gia lo ngại rằng, công nghệ deepfake ngày càng phát triển có thể gây ra những hậu quả nghiêm trọng, đặc biệt là trong việc phát tán hình ảnh khiêu dâm trái phép.
Động thái này cho thấy những thách thức mà ngành công nghiệp AI phải đối mặt trong việc cân bằng giữa sự đổi mới và các vấn đề đạo đức, cũng như nhu cầu cấp thiết về các quy định và biện pháp bảo vệ người dùng.
Theo NBC News, tình hình này một lần nữa làm dấy lên những tranh cãi về việc sử dụng AI trong việc tạo ra các nội dung nhạy cảm, đặc biệt là liên quan đến trẻ em và phụ nữ. Liệu những biện pháp kiểm soát hiện tại đã đủ hiệu quả để ngăn chặn những hành vi lạm dụng hay chưa?
