OpenAI đang đối mặt với sự phản đối từ cộng đồng sau thông báo của Giám đốc điều hành Sam Altman về kế hoạch nới lỏng các hạn chế nội dung dành cho người trưởng thành trên chatbot của họ, bao gồm cả các nội dung như “erotica”.
Quyết định này được đưa ra chỉ một ngày sau khi Thống đốc California Gavin Newsom phủ quyết một dự luật nhằm hạn chế quyền truy cập của trẻ vị thành niên vào các chatbot AI. Đại diện từ Tech Oversight California, một nhóm giám sát các công ty công nghệ, bày tỏ lo ngại rằng OpenAI chưa chứng minh được khả năng ngăn chặn trẻ em tiếp cận các nội dung nhạy cảm. Bà Sacha Haworth, giám đốc điều hành của tổ chức này, nhấn mạnh: “Việc đăng tweet không làm cho điều đó trở thành sự thật”.
OpenAI trước đó đã bị kiện bởi một gia đình, cáo buộc ChatGPT có liên quan đến việc con trai họ tự tử. Những lo ngại về tác động tiêu cực đến sức khỏe tâm thần của người dùng cũng gia tăng, đặc biệt khi các công ty công nghệ thường ưu tiên giữ chân người dùng càng lâu càng tốt trên nền tảng của họ.
Trung tâm Quốc gia về Bóc lột Tình dục cũng kêu gọi OpenAI hủy bỏ quyết định này, khẳng định rằng các chatbot AI được tình dục hóa tiềm ẩn rủi ro gây hại sức khỏe tâm thần thông qua sự thân mật tổng hợp, trong bối cảnh các tiêu chuẩn an toàn của ngành còn chưa rõ ràng.
Ông Altman đã làm rõ rằng công ty sẽ không nới lỏng các chính sách liên quan đến sức khỏe tâm thần và trẻ vị thành niên vẫn cần được bảo vệ nghiêm ngặt khi sử dụng chatbot. Tuy nhiên, ông cũng cho rằng OpenAI không thể trở thành “cảnh sát đạo đức của thế giới”.
Một số chuyên gia công nghệ nhận định đây là một động thái nhằm mục đích kinh doanh, khi các nội dung người lớn có thể mang lại nguồn doanh thu hấp dẫn cho ngành công nghệ. Theo tin từ NBC Bay Area, OpenAI dự kiến sẽ triển khai những thay đổi này vào tháng 12 tới.
