Chính phủ Ấn Độ đã ra lệnh cho nền tảng X của Elon Musk phải thực hiện các thay đổi về mặt kỹ thuật và quy trình đối với chatbot AI Grok của mình. Quyết định này được đưa ra sau khi người dùng và các nhà lập pháp phát hiện ra việc tạo ra nội dung “tục tĩu”, bao gồm cả những hình ảnh bị chỉnh sửa bằng AI về phụ nữ.
Bộ Công nghệ Thông tin Ấn Độ đã yêu cầu X nhanh chóng sửa đổi Grok, bao gồm hạn chế việc tạo ra nội dung liên quan đến “khỏa thân, tình dục hóa, khiêu dâm, hoặc bất hợp pháp”. Nền tảng này có 72 giờ để nộp báo cáo chi tiết về các hành động đã thực hiện để ngăn chặn việc lưu trữ hoặc phát tán nội dung bị coi là “tục tĩu, khiêu dâm, thô tục, vô đạo đức, có tính chất khiêu dâm, ấu dâm, hoặc bị cấm theo luật pháp”.
Theo TechCrunch, lệnh này cảnh báo rằng việc không tuân thủ có thể ảnh hưởng đến các biện pháp bảo vệ “nơi trú ẩn an toàn” của X – tức là được miễn trừ trách nhiệm pháp lý đối với nội dung do người dùng tạo theo luật pháp Ấn Độ. Quyết định của Ấn Độ diễn ra sau khi người dùng chia sẻ những ví dụ về Grok chỉnh sửa hình ảnh của cá nhân – chủ yếu là phụ nữ – để họ trông như đang mặc bikini. Vấn đề này đã gây ra sự phàn nàn chính thức từ nhà lập pháp Ấn Độ Priyanka Chaturvedi.
Gần đây, một số báo cáo cũng chỉ ra những trường hợp chatbot AI tạo ra hình ảnh mang tính chất tình dục liên quan đến trẻ vị thành niên, một vấn đề mà X thừa nhận là do những sai sót trong biện pháp bảo vệ. Những hình ảnh này sau đó đã bị gỡ xuống. Tuy nhiên, theo TechCrunch, những hình ảnh do Grok tạo ra và chỉnh sửa phụ nữ thành mặc bikini vẫn có thể truy cập được trên X tại thời điểm bài báo này được công bố.
Lệnh mới nhất được đưa ra chỉ vài ngày sau khi Bộ Công nghệ Thông tin Ấn Độ ban hành một thông báo rộng hơn cho các nền tảng truyền thông xã hội. Thông báo nhắc nhở họ rằng việc tuân thủ luật pháp địa phương về nội dung tục tĩu và khiêu dâm là điều kiện tiên quyết để được miễn trừ trách nhiệm pháp lý đối với tài liệu do người dùng tạo. Thông báo kêu gọi các công ty tăng cường các biện pháp bảo vệ nội bộ và cảnh báo rằng việc không làm như vậy có thể dẫn đến hành động pháp lý theo luật pháp hình sự và CNTT của Ấn Độ.
Quyết định này nhấn mạnh thêm về tầm quan trọng của việc kiểm soát nội dung do AI tạo ra, đặc biệt là trong bối cảnh các quy định ngày càng nghiêm ngặt trên toàn cầu. Theo nguồn tin từ TechCrunch.
