LOS ANGELES – Thống Đốc California Gavin Newsom vừa ký ban hành một đạo luật mới nhằm điều chỉnh các chatbot Trí Tuệ Nhân Tạo (AI), với mục tiêu bảo vệ trẻ em và thanh thiếu niên khỏi những rủi ro tiềm ẩn từ công nghệ này.
Luật mới của California yêu cầu các nền tảng chatbot AI phải áp dụng các biện pháp bảo vệ cụ thể cho người dùng vị thành niên. Theo đó, một thông báo pop-up sẽ hiện ra cứ mỗi ba giờ để nhắc nhở người dùng vị thành niên rằng họ đang trò chuyện với một chatbot chứ không phải một người thật. Ngoài ra, đạo luật còn quy định các nền tảng phải có một quy trình để ngăn chặn nội dung tự làm hại bản thân và giới thiệu người dùng đến các dịch vụ hỗ trợ khủng hoảng nếu họ có dấu hiệu muốn tự tử.
Đạo luật này ra đời nhằm đáp lại những lo ngại ngày càng tăng về an toàn trực tuyến và một số vụ việc đau lòng gần đây. Nhiều vụ kiện đã được đệ trình, cáo buộc các chatbot khuyến khích người dùng trẻ tuổi tự làm hại mình, điển hình là một vụ kiện đòi bồi thường vì cái chết oan uổng đã được mẹ của một cậu bé tự tử đệ đơn chống lại Character.AI. Nghiên cứu cũng chỉ ra rằng các chatbot đã đưa ra những lời khuyên nguy hiểm về các chủ đề như ma túy, rối loạn ăn uống và rượu bia. Luật mới này hướng đến việc thiết lập các hàng rào bảo vệ cho một công nghệ đang phát triển nhanh chóng, vốn trước nay hoạt động mà ít có sự giám sát.
California là một trong số nhiều tiểu bang đang nỗ lực điều chỉnh AI, dẫn đến các nỗ lực vận động hành lang đáng kể từ các công ty công nghệ. Các công ty này và các liên minh của họ được cho là đã chi ít nhất 2.5 triệu Mỹ kim trong nửa đầu kỳ họp lập pháp để chống lại các biện pháp này. Tuy nhiên, trước các sự cố gần đây, các công ty như OpenAI và Meta đã thực hiện thay đổi đối với cách phản hồi của chatbot dành cho thanh thiếu niên, với các tính năng mới như kiểm soát của phụ huynh và chặn các cuộc trò chuyện về việc tự làm hại bản thân.
Theo tin từ FOX 11, thông tin trong bài viết này được tổng hợp từ đạo luật do Thống Đốc California Gavin Newsom ký, một tuyên bố từ văn phòng thống đốc, và chi tiết từ các vụ kiện do phụ huynh của thanh thiếu niên bị hại bởi AI đệ trình. Nội dung cũng trích dẫn nghiên cứu từ một nhóm giám sát, cũng như các hành động đã được Tổng Biện Lý California Rob Bonta và Ủy Ban Thương Mại Liên Bang thực hiện.
