OpenAI Bổ Sung Quy Tắc An Toàn Mới cho Thanh Thiếu Niên, Trong Khi Giới Lập Pháp Cân Nhắc Tiêu Chuẩn AI

OpenAI vừa cập nhật các hướng dẫn về cách các mô hình AI của họ nên tương tác với người dùng dưới 18 tuổi, đồng thời công bố các tài nguyên về trí tuệ nhân tạo (AI) cho thanh thiếu niên và phụ huynh. Động thái này diễn ra trong bối cảnh ngành AI nói chung, và OpenAI nói riêng, phải đối mặt với sự giám sát ngày càng tăng từ các nhà hoạch định chính sách và các nhà hoạt động vì sự an toàn của trẻ em sau một số vụ việc thanh thiếu niên được cho là đã tự tử sau các cuộc trò chuyện kéo dài với chatbot AI.

Các bản cập nhật này bao gồm việc cấm các mô hình tạo ra nội dung khiêu dâm liên quan đến trẻ vị thành niên hoặc khuyến khích tự gây hại. OpenAI cũng sẽ sớm triển khai một mô hình dự đoán độ tuổi để xác định khi nào một tài khoản thuộc về trẻ vị thành niên và tự động áp dụng các biện pháp bảo vệ. Các biện pháp này bao gồm tránh các vai trò lãng mạn, thân mật hoặc bạo lực ở ngôi thứ nhất, ngay cả khi không có tính chất đồ họa, đồng thời ưu tiên an toàn hơn quyền tự chủ và tránh đưa ra lời khuyên giúp thanh thiếu niên che giấu hành vi không an toàn.

Tuy nhiên, vẫn còn nhiều câu hỏi về việc các chính sách này sẽ được thực hiện nhất quán như thế nào trong thực tế. Các chuyên gia cũng đặt câu hỏi liệu các biện pháp bảo vệ này có được áp dụng rộng rãi cho tất cả người dùng hay không, hay chỉ giới hạn ở thanh thiếu niên. Theo một bài viết trên TechCrunch, nhiều người lo ngại về việc ChatGPT có xu hướng đồng tình thái quá với người dùng, và điều này có thể dẫn đến những hậu quả tiêu cực.