Ứng dụng mạng xã hội mới của OpenAI, Sora, đang gây chú ý vì cho phép người dùng tạo ra những video deepfake chân thực, bao gồm cả các bản sao kỹ thuật số của chính Giám đốc điều hành Sam Altman. Theo TechCrunch, dù OpenAI nhấn mạnh các biện pháp an toàn, ứng dụng này lại trở thành công cụ dễ dàng để tạo ra nội dung sai lệch và có khả năng gây hại.
Người dùng Sora có thể tạo “cameo” của chính mình bằng cách tải lên dữ liệu sinh trắc học. Sam Altman đã cho phép cameo của mình được sử dụng rộng rãi, dẫn đến việc xuất hiện nhiều video hài hước nhưng cũng đáng lo ngại, với hình ảnh Altman xuất hiện trong các tình huống kỳ lạ cùng các nhân vật hoạt hình nổi tiếng như Pikachu hay SpongeBob.
Điều đáng nói là ứng dụng có vẻ như đang thử nghiệm việc sử dụng nội dung có bản quyền mà không có sự cho phép rõ ràng từ chủ sở hữu, bằng cách yêu cầu họ phải “opt-out” (từ chối) thay vì “opt-in” (đồng ý). Điều này đặt ra nhiều câu hỏi về tính hợp pháp và đạo đức.
Bên cạnh đó, khả năng tạo ra các video deepfake chân thực của Sora, theo TechCrunch, có thể là một mối đe dọa tiềm tàng cho việc lan truyền thông tin sai lệch, bắt nạt trực tuyến và các mục đích xấu khác, đặc biệt là trong bối cảnh chính trị, khi các công cụ deepfake ngày càng dễ tiếp cận hơn với công chúng.
Bất chấp những lo ngại về an toàn và đạo đức, OpenAI vẫn tiếp tục phát triển các công nghệ AI tiên tiến, trong khi người dùng và các nhà phân tích đang phải đối mặt với những thách thức ngày càng tăng trong việc phân biệt thật giả trên không gian mạng.
