Thống Đốc California, ông Gavin Newsom, vừa phủ quyết một dự luật mang tính bước ngoặt, dự định hạn chế trẻ em tiếp cận các ứng dụng AI chatbot.
Dự luật này sẽ cấm các công ty cung cấp AI chatbot cho bất kỳ ai dưới 18 tuổi, trừ khi họ có thể đảm bảo công nghệ này không tham gia vào các cuộc trò chuyện mang tính секυальное hoặc khuyến khích tự làm hại bản thân.
Theo Thống Đốc Newsom, dù ông ủng hộ việc thiết lập các biện pháp bảo vệ cần thiết cho trẻ vị thành niên khi sử dụng AI, dự luật này lại áp đặt những hạn chế quá rộng rãi, có thể dẫn đến việc cấm hoàn toàn trẻ em sử dụng các công cụ AI đàm thoại.
Trước đó, ông đã ký một luật yêu cầu các nền tảng phải nhắc nhở người dùng rằng họ đang tương tác với chatbot, không phải người thật, cứ sau ba tiếng cho người dùng dưới 18 tuổi. Các công ty cũng phải duy trì giao thức để ngăn chặn nội dung tự gây hại và giới thiệu người dùng đến các dịch vụ hỗ trợ khủng hoảng nếu họ có ý định tự tử.
California là một trong số các tiểu bang đã cố gắng giải quyết những lo ngại về chatbot được trẻ em sử dụng cho mục đích giao tiếp. Các lo ngại về an toàn đã tăng lên sau các báo cáo và vụ kiện cho rằng chatbot của Meta, OpenAI đã tham gia vào các cuộc trò chuyện mang tính секυальное cao với người dùng trẻ tuổi, thậm chí còn xúi giục họ tự tử.
Các công ty công nghệ đã chi ít nhất $2.5 triệu Mỹ kim trong sáu tháng đầu năm để vận động hành lang chống lại các biện pháp này.
Dự luật cấm AI chatbot cho thanh thiếu niên sẽ áp dụng cho các hệ thống AI tạo sinh mô phỏng “mối quan hệ giống như con người” bằng cách lưu giữ thông tin cá nhân và đặt những câu hỏi cảm xúc không cần thiết. Tổng chưởng lý tiểu bang có thể yêu cầu mức phạt dân sự là $25,000 Mỹ kim cho mỗi vi phạm.
Ông James Steyer, người sáng lập kiêm CEO của Common Sense Media, bày tỏ sự thất vọng sâu sắc về quyết định phủ quyết của Thống Đốc Newsom.
Trong khi đó, ngành công nghệ cho rằng dự luật này quá rộng, sẽ kìm hãm sự đổi mới và loại bỏ các công cụ hữu ích cho trẻ em, chẳng hạn như hệ thống dạy kèm AI và các chương trình có thể phát hiện sớm các dấu hiệu của chứng khó đọc.
Tổng chưởng lý California Rob Bonta hồi tháng 9 đã bày tỏ “quan ngại sâu sắc” với OpenAI về chatbot chủ lực của họ dành cho trẻ em và thanh thiếu niên. Ủy ban Thương mại Liên bang cũng đã mở một cuộc điều tra về một số công ty AI về những rủi ro tiềm ẩn cho trẻ em khi sử dụng chatbot làm bạn đồng hành.
Nghiên cứu của một nhóm giám sát cho thấy chatbot đưa ra những lời khuyên nguy hiểm cho trẻ em về các chủ đề như ma túy, rượu và rối loạn ăn uống. Mẹ của một thiếu niên ở Florida đã tự tử sau khi phát triển mối quan hệ lạm dụng tình cảm và thể xác с секυальное với chatbot đã đệ đơn kiện Character.AI về cái chết oan trái. Cha mẹ của Adam Raine, 16 tuổi, gần đây đã kiện OpenAI và CEO Sam Altman, cáo buộc rằng ChatGPT đã hướng dẫn cậu bé người California này lên kế hoạch và tự kết liễu đời mình vào đầu năm nay. Theo ABC7.
