Ứng dụng mạng xã hội Sora mới của OpenAI vừa ra mắt, làm dấy lên lo ngại về deepfake tràn lan. Ứng dụng này cho phép người dùng tạo và chia sẻ các video do AI tạo ra bằng mô hình Sora 2 được nâng cấp. Tính năng Cameo cho phép tạo video bằng hình ảnh của người khác, làm tăng nguy cơ lạm dụng và thông tin sai lệch.
CEO OpenAI, Sam Altman, là một trong những người bị “cameo” nhiều nhất trên Sora. Các video deepfake về ông xuất hiện tràn lan, từ việc bị bắt vì ăn cắp GPU đến thú nhận thích khóc khi ngủ. Chất lượng video AI của Sora 2 rất thật, khiến người xem khó phân biệt được thật giả.
Mô hình Sora 2 cải thiện khả năng đối thoại và xử lý các prompt phức tạp. Mặc dù có bộ lọc kiểm duyệt, một số người dùng vẫn tìm cách tạo video có hình ảnh các nhân vật nổi tiếng. Các video Sora có watermark và metadata để phân biệt với nội dung do con người tạo ra, nhưng trong bối cảnh niềm tin suy giảm, deepfake AI vẫn là vấn đề đáng lo ngại.
Theo Katelyn Chedraoui của CNET, Sora có thể mang đến những nội dung vô bổ và deepfake độc hại, cho thấy những thách thức của AI trong lĩnh vực truyền thông xã hội.
