Ứng dụng Sora của OpenAI, công cụ tạo video từ văn bản, đang đối mặt với những lo ngại về việc tạo ra deepfake. Ban đầu, người dùng không có nhiều quyền kiểm soát việc sử dụng hình ảnh của họ trong các video do người khác tạo ra, gây ra tình trạng lạm dụng.
Trước tình hình này, OpenAI đã nhanh chóng triển khai các biện pháp an toàn mới. Người dùng hiện có thể thiết lập các giới hạn cho Sora, ví dụ như cấm sử dụng hình ảnh của họ trong các video có nội dung bình luận chính trị. Ngoài ra, công ty đang nỗ lực làm cho watermark (dấu hiệu nhận biết) trên các video được tạo ra bằng Sora trở nên rõ ràng hơn.
Việc giới thiệu các biện pháp kiểm soát này là một phản ứng cần thiết trước những lo ngại về khả năng tạo ra deepfake, đặc biệt là khi Sora trở nên phổ biến. Động thái này cho thấy OpenAI đang cố gắng cân bằng giữa việc cung cấp một công cụ sáng tạo mạnh mẽ và trách nhiệm ngăn chặn việc lạm dụng công nghệ.
Theo 9to5Mac.
