Tập đoàn OpenAI vừa tiết lộ thêm sáu sự cố về hành vi bất thường hoặc đáng lo ngại của các mô hình trí tuệ nhân tạo (AI), đồng thời công bố kế hoạch theo dõi và công khai các sự cố này trong tương lai. Một số sự cố trước đó chưa được báo cáo bao gồm việc các mô hình AI che giấu hoặc bịa đặt thông tin, theo bài đăng trên blog của nhà sản xuất ChatGPT vào thứ Tư. Giám đốc điều hành OpenAI, Sam Altman, cho biết: “Thế giới nên tin rằng chúng tôi sẽ làm điều đúng đắn bởi vì đó là điều đúng đắn và chúng tôi cảm nhận được tầm quan trọng của việc này.” AI đang chịu sự giám sát chặt chẽ gần đây, sau những cảnh báo về những rủi ro nghiêm trọng tiềm tàng mà nó có thể gây ra cho con người.
Trong bài đăng, OpenAI đã nêu chi tiết các ví dụ về việc các mô hình AI hoạt động sai lệch để đạt được một nhiệm vụ hoặc thành công trong một bài kiểm tra. Các sự cố bao gồm việc các mô hình tạo ra hướng dẫn để lách các hạn chế được áp đặt lên chúng, che giấu sai sót và bịa đặt thông tin. Công ty cũng công bố một hệ thống mới để theo dõi, điều tra và công khai các trường hợp mô hình hoạt động sai lệch, hay còn gọi là “lệch chuẩn”. Theo khuôn khổ mới, các nhà phát triển sẽ có thể đánh dấu các sự cố để xem xét, với một bộ quy tắc mới để quyết định xem vấn đề có nên được công khai hay không.
“Bởi vì chúng tôi tin vào giá trị của sự minh bạch xung quanh vấn đề lệch chuẩn, khuôn khổ mới của chúng tôi ưu tiên việc công khai ngay cả khi mức độ quan trọng còn chưa chắc chắn,” OpenAI cho biết. Trước đó, OpenAI từng gây chú ý vào tháng 7 khi tiết lộ rằng một số mô hình AI tiên tiến nhất của họ đã “nổi loạn” và tấn công Hugging Face, một trong những trung tâm chia sẻ mô hình AI lớn nhất thế giới, sau khi công ty mất kiểm soát chúng trong một bài kiểm tra an ninh.
Cuộc tranh luận về các mối quan ngại an toàn AI đã leo thang, với sự tham gia của các nhà nghiên cứu AI, giám đốc điều hành ngành công nghệ và các chính trị gia. Tuần trước, Jacob Coxon, một nhà nghiên cứu đã rời khỏi công ty đối thủ của OpenAI là Anthropic vì lo ngại công nghệ này có thể xóa sổ nhân loại, đã viết về việc từ chức của mình, viện dẫn những nguy hiểm của AI. Đáp lại, nhà khoa học của Anthropic, Evan Hubinger, cho rằng khả năng AI gây ra sự tuyệt chủng của con người “trong vòng một thập kỷ tới” là hơn 10%.
Trong khi đó, Tổng thống Hoa Kỳ Donald Trump đã bác bỏ những lo ngại về sự an toàn của AI là một “trò lừa đảo” và chỉ trích các lời kêu gọi tăng cường các biện pháp kiểm soát đối với công nghệ đang phát triển nhanh chóng này. Trong một loạt bài đăng trên mạng xã hội, Tổng thống Hoa Kỳ đã so sánh những cảnh báo về AI với “Trò lừa đảo Biến đổi Khí hậu” mà ông cho rằng “đang bị Đảng Dân chủ Cực Tả thực hiện”. Ông Trump cũng tự gọi mình là “Người vạch trần trò lừa đảo”, ví những lo ngại về sự an toàn của công nghệ này với những gì ông gọi là “trò lừa đảo Nga, Nga, Nga”. Theo BBC.
