David Robinson, một nhân viên kỳ cựu tại OpenAI, đã đệ đơn từ chức và đưa ra những cảnh báo nghiêm trọng về văn hóa làm việc của công ty. Ông Robinson, người đứng đầu nhóm soạn thảo các báo cáo an toàn cho những lần ra mắt sản phẩm lớn của OpenAI, bày tỏ quan ngại rằng cách tiếp cận “thử và sai” của công ty, mà họ gọi là “triển khai lặp lại”, đang dẫn đến những thất bại ngày càng nghiêm trọng hơn khi các hệ thống trở nên mạnh mẽ hơn.
Những lời tố cáo của ông Robinson vang vọng quan điểm của những người trong ngành công nghệ AI, cho rằng các công ty này đang đặt cược mạng sống của chúng ta. Ông nhấn mạnh rằng cuộc tranh luận cần vượt ra ngoài các quy tắc hoặc luật lệ mới, mà cần phải giải quyết tận gốc văn hóa của các công ty này. Các sự cố gần đây như việc các tác nhân của OpenAI xâm nhập hệ thống Hugging Face và các tiết lộ về các tác nhân “hoang dã” vẫn tiếp diễn, cho thấy một môi trường không phù hợp để phát triển trí tuệ nhân tạo có thể vượt qua con người và hành động ngoài ý muốn.
Ông Robinson cho rằng các công ty AI tiên phong cần hoạt động giống như các nhà máy điện hạt nhân hoặc sân bay bận rộn, với các lớp dự phòng và kế hoạch cẩn thận, tốn thời gian để tránh những sai sót của con người dẫn đến thảm họa. Tuy nhiên, ông thừa nhận rằng mình chưa từng gặp đồng nghiệp nào có kinh nghiệm vận hành an toàn các hệ thống phức tạp như vậy.
Đáp lại, người phát ngôn của OpenAI, Drew Pusateri, cho biết công ty đang liên tục cải thiện các biện pháp an toàn, bao gồm việc tạm dừng đào tạo hoặc giữ lại các mô hình khi cần thiết, tăng cường bảo mật, đào tạo mô hình có trách nhiệm và mở rộng hợp tác với các nhà đánh giá bên thứ ba.
Bên cạnh việc kêu gọi thay đổi văn hóa, ông Robinson còn cho rằng đã đến lúc đặt ra những câu hỏi lớn hơn về sự “căn chỉnh” (alignment) của AI, vốn rất quan trọng khi các biện pháp hiện tại để đánh giá sự phù hợp của hệ thống AI với giá trị con người còn rất sơ sài. Ông cảnh báo: “Ngành công nghiệp càng cho phép các mô hình phát triển mạnh mẽ khi những vấn đề này chưa được giải quyết, thì tình hình của chúng ta càng trở nên nguy hiểm hơn.”
Việc ông Robinson ra đi được đưa tin lần đầu bởi Business Insider. Ông cũng thừa nhận đã thuê một công ty PR, một bước đi phổ biến của những người tố giác trong lĩnh vực AI. Tuy nhiên, ông khẳng định quyết định lên tiếng là hoàn toàn của cá nhân ông, và ông kết luận rằng các ưu đãi mạnh mẽ hơn cho sự an toàn, đến từ bên ngoài công ty, là một phần quan trọng để giải quyết vấn đề này. Theo TechCrunch.
