Ứng dụng mạng xã hội mới của OpenAI, có tên Sora, đang gây chú ý với khả năng tạo ra các video deepfake cực kỳ chân thực, trong đó có nhiều video với sự xuất hiện của chính CEO Sam Altman. Điều đáng nói là các video này thường xuyên lạm dụng hình ảnh của các nhân vật nổi tiếng và vi phạm bản quyền một cách trắng trợn.
Trong ứng dụng, người dùng có thể tạo “cameo” của chính mình bằng cách tải lên dữ liệu sinh trắc học. Tuy nhiên, Sam Altman đã cho phép mọi người tạo video sử dụng hình ảnh của mình, dẫn đến việc Sora bị tràn ngập bởi các video hài hước nhưng cũng đáng lo ngại, như Pikachu van xin Altman ngừng huấn luyện AI, hay các nhân vật nổi tiếng thực hiện những hành động kỳ quặc.
Báo cáo từ TechCrunch chỉ ra rằng, Sora được tinh chỉnh để tái hiện các định luật vật lý một cách chân thực, khiến cho nội dung tổng hợp trở nên đáng tin cậy hơn. Tuy nhiên, điều này cũng đồng nghĩa với việc nội dung giả mạo có thể dễ dàng lan truyền trên mạng, tiềm ẩn nguy cơ về thông tin sai lệch, bắt nạt và các mục đích xấu khác.
Bên cạnh đó, việc OpenAI có thể sử dụng địa chỉ IP và lịch sử ChatGPT của người dùng để tùy chỉnh phản hồi càng làm dấy lên lo ngại về quyền riêng tư và khả năng lạm dụng dữ liệu. Mặc dù OpenAI nhấn mạnh cam kết về an toàn, bao gồm các biện pháp kiểm soát phụ huynh và quyền người dùng đối với cameo của họ, nhưng việc cung cấp một công cụ dễ sử dụng để tạo deepfake thực tế cao vẫn là một vấn đề đáng bàn.
Bài viết cũng đề cập đến các vấn đề an toàn hiện có của OpenAI, bao gồm cả những lo ngại về ChatGPT góp phần gây khủng hoảng sức khỏe tâm thần và vụ kiện liên quan đến cái chết của một thanh thiếu niên. Việc ứng dụng Sora cho phép tạo ra các video deepfake về các nhân vật lịch sử, dù có vẻ vô hại trong ngữ cảnh riêng lẻ, nhưng lại là dấu hiệu đáng báo động về khả năng tạo ra deepfake chính trị và những tác động tiêu cực của chúng trong tương lai.
Theo TechCrunch.
