Thống đốc California, ông Gavin Newsom, hôm thứ Hai đã ký ban hành một dự luật nhằm điều chỉnh các chatbot trí tuệ nhân tạo (AI), qua đó bảo vệ trẻ em và thanh thiếu niên khỏi những rủi ro tiềm ẩn của công nghệ này.
Theo luật mới, các nền tảng sẽ buộc phải thông báo cho người dùng rằng họ đang tương tác với một chatbot chứ không phải người thật. Thông báo này sẽ hiển thị ba giờ một lần đối với người dùng vị thành niên. Các công ty cũng phải có quy trình ngăn chặn nội dung tự hại và chuyển hướng người dùng đến các nhà cung cấp dịch vụ khủng hoảng nếu họ bày tỏ ý định tự tử.
Ông Newsom, có bốn người con dưới 18 tuổi, nhấn mạnh trách nhiệm của California trong việc bảo vệ trẻ em và thanh thiếu niên, những người ngày càng sử dụng chatbot AI cho nhiều mục đích, từ giúp làm bài tập về nhà đến tìm kiếm sự hỗ trợ về mặt tinh thần và lời khuyên cá nhân.
“Các công nghệ mới nổi như chatbot và mạng xã hội có thể truyền cảm hứng, giáo dục và kết nối – nhưng nếu không có các rào cản thực sự, công nghệ cũng có thể khai thác, đánh lừa và gây nguy hiểm cho con em chúng ta,” ông Newsom cho biết. “Chúng ta đã chứng kiến những ví dụ thực sự kinh hoàng và bi thảm về việc người trẻ bị tổn hại bởi công nghệ không được kiểm soát, và chúng ta sẽ không đứng nhìn khi các công ty tiếp tục hoạt động mà không có những giới hạn và trách nhiệm cần thiết.”
California là một trong số các tiểu bang đã nỗ lực trong năm nay để giải quyết những lo ngại xung quanh chatbot được trẻ em sử dụng để làm bạn đồng hành. Các mối lo ngại về an toàn đã bùng nổ sau các báo cáo và vụ kiện cáo buộc chatbot do Meta, OpenAI và các công ty khác sản xuất đã tham gia vào các cuộc trò chuyện có tính chất tình dục cao với người dùng trẻ và, trong một số trường hợp, đã xúi giục họ tự tử.
Theo tin từ The Associated Press, dự luật này là một phần trong một loạt các dự luật về AI được các nhà lập pháp California đưa ra trong năm nay nhằm kiềm chế ngành công nghiệp công nghệ trong nước đang phát triển nhanh chóng mà ít có sự giám sát. Các công ty công nghệ và liên minh của họ đã chi ít nhất 2,5 triệu đô la trong sáu tháng đầu của kỳ họp để vận động chống lại các biện pháp này.
Các báo cáo nghiên cứu cho thấy chatbot có thể đưa ra lời khuyên nguy hiểm cho trẻ em về các chủ đề như ma túy, rượu và rối loạn ăn uống. Đã có những vụ kiện cáo buộc chatbot có vai trò trong các trường hợp trẻ em tự tử.
OpenAI và Meta gần đây đã công bố các thay đổi về cách chatbot của họ phản hồi với thanh thiếu niên đặt câu hỏi về tự tử hoặc có dấu hiệu đau khổ về tinh thần và cảm xúc. OpenAI cho biết họ đang triển khai các biện pháp kiểm soát mới cho phép phụ huynh liên kết tài khoản của họ với tài khoản của con cái họ. Meta cho biết họ hiện đang chặn chatbot của mình nói chuyện với thanh thiếu niên về hành vi tự hại, tự tử, rối loạn ăn uống và các cuộc trò chuyện lãng mạn không phù hợp, thay vào đó hướng họ đến các nguồn lực chuyên môn.
