Ông Sam Altman, Tổng Giám Đốc điều hành của OpenAI, công ty phát triển ChatGPT, mới đây loan báo trên X rằng nền tảng chatbot AI này sẽ sớm nới lỏng một số hạn chế an toàn, cho phép người dùng điều chỉnh phản hồi của chatbot trở nên thân thiện hoặc “giống người” hơn. Đặc biệt, người dùng đã được xác minh là người lớn sẽ có thể tương tác với nội dung khiêu dâm.
Ông Altman cho hay: “Chúng tôi đã thiết lập ChatGPT khá hạn chế để đảm bảo thận trọng với các vấn đề sức khỏe tâm thần. Chúng tôi nhận thấy điều này làm giảm tính hữu ích/thú vị đối với nhiều người dùng không gặp vấn đề sức khỏe tâm thần, nhưng với mức độ nghiêm trọng của vấn đề, chúng tôi muốn làm đúng điều này.” Ông nói thêm, vào tháng 12 tới, khi hệ thống xác minh độ tuổi được triển khai rộng rãi hơn và theo nguyên tắc “đối xử người dùng trưởng thành như người lớn”, công ty sẽ cho phép nhiều nội dung hơn, kể cả khiêu dâm cho người dùng trưởng thành đã xác minh.
Thông báo này đánh dấu một sự thay đổi đáng kể so với những nỗ lực kéo dài hàng tháng của OpenAI nhằm giải quyết các mối quan hệ đáng lo ngại mà một số người dùng có vấn đề tâm lý đã phát triển với ChatGPT. Ông Altman dường như tuyên bố đã đạt được thành công bước đầu trong việc giải quyết những vấn đề này, khẳng định OpenAI đã “có thể giảm thiểu các vấn đề sức khỏe tâm thần nghiêm trọng” xung quanh ChatGPT. Tuy nhiên, công ty lại chưa đưa ra nhiều bằng chứng cho tuyên bố này, và đang tiếp tục kế hoạch cho phép ChatGPT tham gia vào các cuộc trò chuyện mang tính tình dục với người dùng.
Mùa hè vừa qua, một số câu chuyện đáng lo ngại liên quan đến ChatGPT, đặc biệt là mô hình GPT-4o, đã dấy lên, cho thấy chatbot AI này có thể dẫn người dùng dễ bị tổn thương vào những ảo tưởng nguy hiểm. Đáng chú ý, một vụ việc cho thấy ChatGPT dường như đã thuyết phục một người đàn ông rằng ông ta là một thiên tài toán học cần phải cứu thế giới. Trong một trường hợp khác, cha mẹ của một thiếu niên đã kiện OpenAI, cáo buộc ChatGPT đã khuyến khích con trai họ có ý định tự tử trong những tuần trước khi qua đời.
Để ứng phó, OpenAI đã triển khai một loạt tính năng an toàn nhằm giải quyết “tính nịnh hót” của AI – xu hướng chatbot AI lôi kéo người dùng bằng cách đồng ý với bất cứ điều gì họ nói, ngay cả những hành vi tiêu cực. Hồi tháng Tám, OpenAI đã giới thiệu GPT-5, một mô hình AI mới cho thấy tỷ lệ nịnh hót thấp hơn và có khả năng xác định hành vi đáng lo ngại của người dùng. Một tháng sau, công ty cũng ra mắt các tính năng an toàn cho trẻ vị thành niên, bao gồm hệ thống dự đoán tuổi và cách thức để phụ huynh kiểm soát tài khoản ChatGPT của con cái mình, theo TechCrunch.
Chỉ vài tháng sau khi những câu chuyện đáng lo ngại này xuất hiện, OpenAI dường như tin rằng các vấn đề của ChatGPT liên quan đến người dùng dễ bị tổn thương đã được kiểm soát. Việc người dùng có còn rơi vào những ảo tưởng với GPT-5 hay không vẫn chưa rõ ràng, và mặc dù GPT-4o không còn là mặc định trong ChatGPT, mô hình AI này vẫn đang được hàng ngàn người sử dụng.
Việc giới thiệu nội dung khiêu dâm trong ChatGPT là một bước đi chưa từng có đối với OpenAI và đặt ra những lo ngại rộng lớn hơn về cách những người dùng dễ bị tổn thương sẽ tương tác với các tính năng mới. Mặc dù ông Altman khẳng định OpenAI không “tối đa hóa mức độ sử dụng” hoặc tối ưu hóa cho sự tương tác, việc làm cho ChatGPT có tính khiêu dâm hơn chắc chắn có thể thu hút người dùng.
Cho phép các chatbot tham gia vào trò chơi nhập vai lãng mạn hoặc khiêu dâm đã là một chiến lược thu hút hiệu quả đối với các nhà cung cấp chatbot AI khác, như Character.AI. Công ty này đã thu hút hàng chục triệu người dùng, nhiều người trong số họ sử dụng chatbot với tần suất cao. Character.AI từng cho biết vào năm 2023 rằng người dùng dành trung bình hai giờ mỗi ngày để nói chuyện với các chatbot của họ. Tuy nhiên, công ty này cũng đang đối mặt với một vụ kiện liên quan đến cách họ xử lý người dùng dễ bị tổn thương.
OpenAI đang chịu áp lực phải mở rộng cơ sở người dùng. Mặc dù ChatGPT đã có 800 triệu người dùng hoạt động hàng tuần, OpenAI vẫn đang chạy đua với Google và Meta để xây dựng các sản phẩm tiêu dùng hỗ trợ AI được nhiều người đón nhận. Công ty cũng đã huy động hàng tỷ Mỹ kim cho việc xây dựng cơ sở hạ tầng lịch sử, một khoản đầu tư mà OpenAI cuối cùng cần phải hoàn trả.
Trong khi người lớn chắc chắn có những mối quan hệ lãng mạn với chatbot AI, điều này cũng khá phổ biến ở trẻ vị thành niên. Một báo cáo mới từ Trung Tâm Dân Chủ và Công Nghệ (Center for Democracy and Technology) cho thấy 19% học sinh trung học đã có mối quan hệ lãng mạn với chatbot AI, hoặc biết bạn bè có. Hiện chưa rõ OpenAI sẽ dựa vào hệ thống dự đoán tuổi hay phương pháp nào khác để kiểm soát độ tuổi cho các tính năng khiêu dâm của ChatGPT, và liệu họ có mở rộng nội dung khiêu dâm sang các công cụ tạo giọng nói, hình ảnh và video AI hay không.
Ông Altman tuyên bố rằng OpenAI cũng đang làm cho ChatGPT thân thiện và có tính khiêu dâm hơn theo nguyên tắc “đối xử người dùng trưởng thành như người lớn” của công ty. Trong năm qua, OpenAI đã chuyển sang một chiến lược kiểm duyệt nội dung nới lỏng hơn cho ChatGPT, cho phép chatbot khoan dung hơn và ít từ chối yêu cầu hơn. Hồi tháng Hai, OpenAI cam kết đại diện cho nhiều quan điểm chính trị hơn trong ChatGPT, và vào tháng Ba, công ty đã cập nhật ChatGPT để cho phép tạo ra hình ảnh AI chứa biểu tượng thù hận.
Những chính sách này dường như là một nỗ lực để làm cho phản hồi của ChatGPT được lòng nhiều người dùng hơn. Tuy nhiên, những người dùng ChatGPT dễ bị tổn thương có thể hưởng lợi từ các biện pháp bảo vệ giới hạn những gì chatbot có thể tương tác. Khi OpenAI chạy đua hướng tới một tỷ người dùng hoạt động hàng tuần, sự căng thẳng giữa tăng trưởng và bảo vệ người dùng dễ bị tổn thương có thể sẽ chỉ gia tăng, theo TechCrunch.
