Một nhóm các Tổng Chưởng lý (AG) từ nhiều tiểu bang tại Hoa Kỳ đã gửi thư cảnh báo đến các công ty hàng đầu trong ngành trí tuệ nhân tạo (AI), bao gồm Microsoft, OpenAI và Google, về việc khắc phục các kết quả ‘ảo tưởng’ do AI tạo ra. Động thái này diễn ra sau một loạt các sự cố liên quan đến sức khỏe tâm thần, theo tin từ TechCrunch.
Bức thư, được ký bởi các AG từ nhiều tiểu bang và vùng lãnh thổ của Hoa Kỳ, cùng với Hiệp hội Tổng Chưởng lý Quốc gia, yêu cầu các công ty phải thực hiện các biện pháp bảo vệ nội bộ mới nhằm bảo vệ người dùng của họ. Các công ty khác như Anthropic, Apple, và Meta cũng nằm trong diện được yêu cầu.
Các biện pháp bảo vệ này bao gồm việc kiểm toán độc lập đối với các mô hình ngôn ngữ lớn để phát hiện các dấu hiệu của sự ảo tưởng hoặc xu hướng nịnh bợ. Đồng thời, cần có các quy trình báo cáo sự cố mới để thông báo cho người dùng khi chatbot tạo ra các kết quả gây tổn hại về mặt tâm lý.
Các AG cũng đề xuất rằng các công ty nên xử lý các sự cố liên quan đến sức khỏe tâm thần theo cách tương tự như cách các công ty công nghệ xử lý các sự cố an ninh mạng, với các chính sách và thủ tục báo cáo sự cố rõ ràng và minh bạch. Họ cũng yêu cầu các công ty phải phát triển và công bố ‘thời gian biểu phát hiện và ứng phó với các kết quả nịnh bợ và ảo tưởng’.
Trong khi đó, Tổng Thống Donald Trump dự kiến sẽ ban hành một sắc lệnh hành pháp vào tuần tới để hạn chế khả năng của các tiểu bang trong việc quản lý AI, mặc dù điều này đang vấp phải sự phản đối từ lưỡng đảng. Theo ABC News.
