Một khám phá thú vị từ công ty khởi nghiệp GPTZero đã hé lộ một vấn đề đáng ngạc nhiên trong giới nghiên cứu trí tuệ nhân tạo (AI). GPTZero đã tiến hành rà soát 4.841 bài báo được chấp nhận tại Hội nghị về Hệ thống Xử lý Thông tin Thần kinh (NeurIPS), một sự kiện danh giá trong lĩnh vực AI. Kết quả cho thấy, có đến 100 trích dẫn “ảo” xuất hiện trong 51 bài báo, một con số đáng chú ý.
Việc một bài báo được chấp nhận tại NeurIPS được xem là một thành tựu đáng kể trong sự nghiệp của các nhà nghiên cứu AI. Tuy nhiên, GPTZero phát hiện ra rằng, các nhà nghiên cứu đã sử dụng các công cụ trí tuệ nhân tạo (LLMs) để tạo ra những trích dẫn này.
Mặc dù tỷ lệ các trích dẫn sai sót không cao, nhưng phát hiện này đặt ra câu hỏi về độ tin cậy của các nghiên cứu AI hiện nay. Các trích dẫn là một phần quan trọng trong đánh giá một bài báo khoa học, và việc AI tự tạo ra chúng làm giảm giá trị của công trình nghiên cứu.
GPTZero nhấn mạnh rằng, mục đích của nghiên cứu này là để chỉ ra cách các “lỗi” do AI tạo ra có thể xâm nhập vào các hội nghị khoa học. Điều này cho thấy áp lực ngày càng tăng lên đối với các nhà nghiên cứu và ban tổ chức hội nghị trong việc kiểm soát chất lượng các bài báo. Theo TechCrunch, phát hiện này là một lời nhắc nhở rằng, ngay cả các chuyên gia hàng đầu về AI cũng cần cẩn trọng khi sử dụng các công cụ này.
Trong bối cảnh đó, vấn đề về tính minh bạch và độ tin cậy của nghiên cứu AI càng trở nên quan trọng hơn bao giờ hết.
Tin tức được đưa bởi TechCrunch.
