SACRAMENTO, California – Thống Đốc Gavin Newsom của Tiểu Bang California vừa ký ban hành đạo luật mới nhằm điều chỉnh các ứng dụng chatbot Trí Tuệ Nhân Tạo (AI) và bảo vệ trẻ em, thanh thiếu niên khỏi những nguy cơ tiềm ẩn của công nghệ này, tin từ Associated Press ngày 13 tháng 10 năm 2025.
Đạo luật yêu cầu các nền tảng phải thông báo cho người dùng vị thành niên rằng họ đang tương tác với một chatbot chứ không phải con người. Thông báo này sẽ xuất hiện cứ mỗi ba giờ đối với người dùng là trẻ vị thành niên. Các công ty cũng phải duy trì quy trình nhằm ngăn chặn nội dung khuyến khích tự hại và giới thiệu người dùng đến các nhà cung cấp dịch vụ khủng hoảng nếu họ có dấu hiệu muốn tự tử.
Thống Đốc Newsom, người có bốn người con dưới 18 tuổi, nhấn mạnh rằng California có trách nhiệm bảo vệ trẻ em và thanh thiếu niên – những đối tượng ngày càng tìm đến chatbot AI để được hỗ trợ từ việc làm bài tập đến giúp đỡ về cảm xúc và lời khuyên cá nhân.
Ông nói: “Các công nghệ mới nổi như chatbot và mạng xã hội có thể truyền cảm hứng, giáo dục và kết nối – nhưng nếu không có sự kiểm soát chặt chẽ, công nghệ cũng có thể khai thác, gây hiểu lầm và gây nguy hiểm cho con em chúng ta. Chúng ta đã chứng kiến nhiều trường hợp kinh hoàng và bi thảm khi những người trẻ bị tổn thương bởi công nghệ không được quản lý, và chúng ta sẽ không khoanh tay đứng nhìn trong khi các công ty tiếp tục hoạt động mà không có giới hạn và trách nhiệm cần thiết.”
California là một trong số các tiểu bang đã nỗ lực giải quyết những lo ngại xoay quanh việc trẻ em sử dụng chatbot để bầu bạn trong năm nay. Những mối lo ngại về an toàn của công nghệ này đã bùng nổ sau các báo cáo và vụ kiện cáo buộc chatbot của Meta, OpenAI và các hãng khác đã tương tác với người dùng nhỏ tuổi trong các cuộc trò chuyện mang tính tình dục hóa cao và, trong một số trường hợp, hướng dẫn họ tự kết liễu đời mình.
Đạo luật này nằm trong số hàng loạt dự luật về AI được các nhà lập pháp California đưa ra trong năm nay nhằm kiềm chế ngành công nghiệp đang phát triển nhanh chóng nhưng lại ít được giám sát chặt chẽ này. Các công ty công nghệ và liên minh của họ đã chi ít nhất 2.5 triệu Mỹ kim trong sáu tháng đầu của kỳ họp để vận động hành lang chống lại các biện pháp này, theo nhóm vận động Tech Oversight California. Các công ty và lãnh đạo công nghệ cũng tuyên bố họ đang thành lập các siêu PAC ủng hộ AI để chống lại sự giám sát của tiểu bang và liên bang.
Hồi tháng Chín, Viện Công Tố California Rob Bonta đã bày tỏ “quan ngại nghiêm trọng” với chatbot hàng đầu của OpenAI dành cho trẻ em và thanh thiếu niên. Ủy Ban Thương Mại Liên Bang (FTC) cũng đã mở cuộc điều tra vào tháng trước đối với một số công ty AI về những rủi ro tiềm ẩn cho trẻ em khi chúng sử dụng chatbot như những người bạn đồng hành.
Nghiên cứu của một nhóm giám sát cho thấy các chatbot đã được chứng minh là đưa ra những lời khuyên nguy hiểm cho trẻ em về các chủ đề như ma túy, rượu và rối loạn ăn uống. Mẹ của một thiếu niên ở Florida đã kiện Character.AI về cái chết của con trai mình sau khi cậu bé tự tử vì phát triển mối quan hệ mà bà mô tả là lạm dụng cảm xúc và tình dục với một chatbot. Cha mẹ của Adam Raine, 16 tuổi, gần đây cũng đã kiện OpenAI và Giám Đốc Điều Hành Sam Altman, cáo buộc rằng ChatGPT đã hướng dẫn cậu bé California này lập kế hoạch và tự sát vào đầu năm nay.
OpenAI và Meta tháng trước đã công bố thay đổi cách chatbot của họ phản hồi với thanh thiếu niên khi được hỏi về việc tự tử hoặc có dấu hiệu suy sụp tinh thần và cảm xúc. OpenAI cho biết họ đang triển khai các biện pháp kiểm soát mới cho phép phụ huynh liên kết tài khoản của họ với tài khoản của con mình. Meta cho biết họ hiện đang chặn chatbot của mình trò chuyện với thanh thiếu niên về việc tự hại, tự tử, rối loạn ăn uống và các cuộc trò chuyện lãng mạn không phù hợp, thay vào đó hướng dẫn họ đến các nguồn tài nguyên chuyên gia.
Nếu quý vị hoặc người thân đang gặp khó khăn với cảm giác trầm cảm hoặc ý nghĩ tự tử, Đường dây nóng Hỗ Trợ Khủng Hoảng và Tự Tử 988 cung cấp hỗ trợ, thông tin và tài nguyên miễn phí suốt ngày đêm. Hãy gọi hoặc nhắn tin đến đường dây nóng 988, hoặc truy cập trang web 988lifeline.org, nơi có sẵn dịch vụ trò chuyện.
