Thượng nghị sĩ bang California, Steve Padilla, đã trình một dự luật vào thứ Hai, đề xuất lệnh cấm kéo dài bốn năm đối với việc sản xuất và bán các loại đồ chơi có tích hợp chatbot AI cho trẻ em dưới 18 tuổi. Mục tiêu của động thái này là tạo điều kiện cho các nhà quản lý an toàn có thời gian xây dựng các quy định nhằm bảo vệ trẻ em khỏi những “tương tác AI nguy hiểm”.
“Con em chúng ta không thể bị sử dụng làm chuột bạch cho các thí nghiệm của Big Tech”, Thượng nghị sĩ Padilla nhấn mạnh. Ông cho biết thêm, các quy định an toàn liên quan đến công nghệ này vẫn còn trong giai đoạn sơ khai và cần phát triển nhanh chóng như khả năng của chính công nghệ này. Việc tạm dừng bán các đồ chơi tích hợp chatbot sẽ giúp các nhà chức trách xây dựng các hướng dẫn và khuôn khổ an toàn phù hợp.
Dự luật, được gọi là SB 287, được đưa ra sau sắc lệnh hành pháp gần đây của Tổng Thống Donald Trump, chỉ đạo các cơ quan liên bang thách thức luật AI của tiểu bang trước tòa án – mặc dù sắc lệnh này có những ngoại lệ rõ ràng đối với luật tiểu bang liên quan đến an toàn trẻ em. Động thái này cũng diễn ra sau một số sự cố đáng lo ngại liên quan đến AI, chatbot và trẻ em.
Trong năm qua, các vụ kiện do gia đình đệ trình sau khi con em họ tự tử sau thời gian dài trò chuyện với chatbot đã thúc đẩy các nhà lập pháp hành động. Padilla cũng đồng tác giả SB 243 của California, yêu cầu các nhà điều hành chatbot phải thực hiện các biện pháp bảo vệ trẻ em và những người dễ bị tổn thương.
Mặc dù việc sử dụng chatbot trong đồ chơi chưa phổ biến, đã có những báo cáo về những tương tác đáng lo ngại. Theo ABC News, một số đồ chơi như Kumma, một con gấu bông có chatbot tích hợp, có thể dễ dàng bị kích thích để nói về các chủ đề nhạy cảm. Hãng tin này cũng phát hiện ra rằng Miiloo, một “đồ chơi AI cho trẻ em” do công ty Miriat của Trung Quốc sản xuất, đôi khi chỉ ra rằng nó được lập trình để phản ánh các giá trị của Đảng Cộng sản Trung Quốc.
OpenAI và nhà sản xuất Barbie, Mattel, dự kiến sẽ tung ra một “sản phẩm sử dụng AI” vào năm 2025, nhưng sau đó đã hoãn việc phát hành. Cả hai công ty đều không giải thích về sự chậm trễ này.
Theo TechCrunch.
