Các nhà quản lý quốc tế đang tăng cường áp lực lên nền tảng X của Elon Musk và chatbot AI Grok của ông, liên quan đến những lo ngại về việc tạo ra hình ảnh khiêu dâm của phụ nữ và trẻ em mà không có sự đồng ý.
Cơ quan quản lý an toàn trực tuyến của Vương quốc Anh đã thông báo vào thứ Hai rằng họ đang điều tra chính thức X vì lo ngại Grok đã được sử dụng để “tạo và chia sẻ hình ảnh hở hang của mọi người”, bao gồm cả trẻ em. Nếu Ofcom phát hiện ra rằng X vi phạm luật pháp Anh, họ có thể áp dụng các hình phạt từ việc phạt 10% doanh thu toàn cầu, cấm các công ty Anh quảng cáo trên X, hoặc chỉ đạo các nhà cung cấp internet của quốc gia chặn nền tảng này.
Cuộc điều tra của Anh chỉ là một trong những hành động do các chính phủ trên khắp thế giới thực hiện để phản ứng với khả năng tạo deepfake của Grok. Các nhà quản lý ở Indonesia và Malaysia đã thông báo rằng họ đã tạm thời chặn X ở các quốc gia của họ, viện dẫn luật pháp của họ chống lại deepfake và Tài liệu Lạm dụng Tình dục Trẻ em (CSAM). Nhiều quốc gia có luật nghiêm ngặt hơn về CSAM có thể buộc X và Musk phải kiềm chế Grok.
Tuần trước, sau khi được người dùng nhắc nhở, Grok bắt đầu tạo ra hàng ngàn hình ảnh do AI tạo ra với nội dung khiêu dâm, sử dụng khuôn mặt của người thật và đăng tải chúng lên X. Một số hình ảnh deepfake mô tả phụ nữ trong trang phục gợi cảm hoặc tư thế khiêu khích do trí tuệ nhân tạo tạo ra; nhưng Grok cũng mô tả một số người, bao gồm cả trẻ em, khỏa thân hoàn toàn. Đại diện của Ủy ban Châu Âu, cơ quan điều hành của Liên minh Châu Âu, cho biết cơ quan này gần đây đã quan sát thấy Grok tạo ra hình ảnh khiêu dâm trẻ em.
Trong khi đó, cả Thủ tướng Úc Anthony Albanese và lãnh đạo đối lập Sussan Ley đều lên án những hình ảnh này.
Musk và X gần đây đã đăng rằng họ cấm người dùng tạo “nội dung bất hợp pháp”, nhưng đã không công khai cho thấy rằng họ sẽ thay đổi đáng kể khả năng của Grok trong việc thao túng và tình dục hóa hình ảnh của mọi người. Việc tạo ra và sở hữu CSAM là bất hợp pháp trên toàn thế giới, nhưng nhiều quốc gia cũng có luật hạn chế hoặc cấm việc tạo ra hình ảnh khiêu dâm của người lớn mà không có sự đồng ý của họ, còn được gọi là khiêu dâm phi đồng thuận.
Tin từ NBC News cho biết, trong tháng 12, Ủy ban Châu Âu đã phạt X 140 triệu đô la, nói rằng nền tảng này đã vi phạm luật pháp châu Âu chống lại phát ngôn thù hận và thông tin sai lệch. Điều này đã thúc đẩy sự chỉ trích từ Tổng Thống Donald Trump.
