Nhiều thiếu niên ở South Bay (Vùng Vịnh San Francisco) đang bày tỏ quan ngại về việc sử dụng trí tuệ nhân tạo (AI) cho mục đích tư vấn và kết bạn, đặc biệt sau vụ tự tử của một thiếu niên liên quan đến AI. Họ cho rằng chi phí chăm sóc sức khỏe tâm thần cao là rào cản khiến nhiều người tìm đến AI như một giải pháp thay thế, dù biết rằng nó không thể thay thế hoàn toàn sự tương tác con người.
Nghiên cứu từ OpenAI và MIT cho thấy việc sử dụng chatbot AI nhiều có thể làm tăng cảm giác cô đơn và giảm tương tác xã hội thực tế. Các chuyên gia sức khỏe tâm thần cũng cảnh báo về sự nguy hiểm của việc phụ thuộc vào AI, có thể dẫn đến sự tách rời khỏi thực tế và làm mờ ranh giới với các mối quan hệ con người.
Vụ kiện tử vong đầu tiên chống lại OpenAI, do cha mẹ của một thiếu niên California đệ trình, đã đặt ra câu hỏi liệu ChatGPT có vai trò trong việc hỗ trợ kế hoạch tự tử của cậu bé hay không. Điều này làm dấy lên tranh luận về trách nhiệm của các công ty công nghệ trong việc bảo vệ người dùng trẻ tuổi.
Trước tình hình này, OpenAI đã giới thiệu tính năng kiểm soát của phụ huynh cho ChatGPT, cho phép cha mẹ giới hạn việc sử dụng của con em và nhận cảnh báo nếu AI phát hiện ra dấu hiệu suy sụp tinh thần. Tuy nhiên, một số ý kiến cho rằng các biện pháp này chưa đủ, và các chatbot AI không nên được phép thực hiện các cuộc trò chuyện về sức khỏe tâm thần với thanh thiếu niên.
Nhiều nhà lập pháp cũng đang chú ý đến vấn đề này. Giám đốc Tư pháp California, Rob Bonta, cùng với 12 tổng chưởng lý khác, đã yêu cầu các công ty AI áp dụng các biện pháp an toàn nghiêm ngặt hơn. Bài báo được đăng trên The Mercury News vào ngày 30 tháng 9 năm 2025, nhấn mạnh sự cần thiết phải cân bằng giữa tiềm năng hữu ích của AI và những rủi ro tiềm ẩn mà nó mang lại cho giới trẻ.
