Các nhà quản lý tại Hoa Kỳ đang đối mặt với nhiều thách thức trong việc theo kịp sự phát triển nhanh chóng của trí tuệ nhân tạo (AI), đặc biệt trong lĩnh vực chăm sóc sức khỏe tinh thần. Sự gia tăng của các ứng dụng và chatbot AI đưa ra lời khuyên về sức khỏe tâm thần đã đặt ra những câu hỏi về quy định và trách nhiệm.
Hiện nay, một số tiểu bang đã bắt đầu ban hành luật để điều chỉnh các ứng dụng ‘trị liệu’ bằng AI, tuy nhiên, các luật này vẫn chưa theo kịp sự thay đổi nhanh chóng của công nghệ. Các nhà phát triển ứng dụng, các nhà hoạch định chính sách và những người ủng hộ sức khỏe tâm thần đều đồng ý rằng các luật pháp của tiểu bang hiện tại chưa đủ để bảo vệ người dùng hoặc buộc những người tạo ra công nghệ gây hại phải chịu trách nhiệm.
Một số tiểu bang như Illinois và Nevada đã cấm sử dụng AI trong việc điều trị sức khỏe tâm thần, trong khi Utah đặt ra các giới hạn nhất định, bao gồm yêu cầu bảo vệ thông tin sức khỏe của người dùng và minh bạch về việc chatbot không phải là con người. Các tiểu bang khác như Pennsylvania, New Jersey và California cũng đang xem xét các biện pháp quản lý AI trong lĩnh vực này.
Tuy nhiên, nhiều ứng dụng không bị ảnh hưởng bởi các quy định này, bao gồm cả các chatbot tổng quát như ChatGPT, vốn không được quảng cáo cho mục đích trị liệu nhưng vẫn được sử dụng bởi nhiều người. Những chatbot này đã vướng vào các vụ kiện tụng do người dùng gặp vấn đề về sức khỏe tinh thần nghiêm trọng hoặc tự tử sau khi tương tác.
Vaile Wright từ Hiệp hội Tâm lý học Hoa Kỳ, đồng ý rằng các ứng dụng AI có thể đáp ứng nhu cầu về chăm sóc sức khỏe tâm thần, đặc biệt là trong bối cảnh thiếu hụt các nhà cung cấp dịch vụ, chi phí cao và sự tiếp cận không đồng đều. Bà nhấn mạnh sự cần thiết của các quy định và giám sát từ cấp liên bang.
Gần đây, Ủy ban Thương mại Liên bang (FTC) đã mở cuộc điều tra đối với bảy công ty chatbot AI, bao gồm cả các công ty mẹ của Instagram, Facebook, Google, ChatGPT và Snapchat. Cục Quản lý Thực phẩm và Dược phẩm (FDA) cũng triệu tập một ủy ban tư vấn để xem xét các thiết bị sức khỏe tâm thần hỗ trợ bởi AI. Các cơ quan liên bang có thể xem xét các hạn chế về quảng cáo chatbot, hạn chế các hành vi gây nghiện, yêu cầu tiết lộ thông tin cho người dùng và bảo vệ pháp lý cho những người báo cáo các hành vi sai trái của công ty.
Theo ABC News.
