Nhiều trường học tại Hoa Kỳ đang áp dụng hệ thống giám sát bằng trí tuệ nhân tạo (AI) để bảo vệ học sinh, tuy nhiên, công nghệ này cũng gây ra không ít báo động giả, thậm chí dẫn đến việc bắt giữ oan uổng, theo tin từ AP.
Một phụ huynh ở Tennessee chia sẻ câu chuyện con gái 13 tuổi của mình bị bắt giữ, thẩm vấn và khám xét người sau khi sử dụng phần mềm giám sát của trường để lại một lời lẽ đùa cợt trên mạng. Lời lẽ này, dù được cho là không có ý đe dọa, đã bị hệ thống AI của trường diễn giải sai, dẫn đến hậu quả nghiêm trọng cho cô bé.
Nhiều chuyên gia cho rằng, trong bối cảnh các vụ xả súng trường học ngày càng gia tăng, các tiểu bang như Tennessee đã ban hành luật siết chặt các quy định về việc báo cáo các mối đe dọa bạo lực. Tuy nhiên, các nhà phê bình lại lo ngại rằng công nghệ này có thể vô tình hình sự hóa những lời nói bất cẩn của giới trẻ, gây ảnh hưởng tiêu cực đến tâm lý và tương lai của các em.
Phần mềm giám sát như Gaggle và Lightspeed Alert đang được hàng ngàn học khu trên toàn quốc sử dụng để theo dõi hoạt động trực tuyến của học sinh, nhằm phát hiện sớm các dấu hiệu tự hại hoặc bạo lực. Các nhà cung cấp công nghệ khẳng định rằng hệ thống này đã cứu được nhiều sinh mạng, nhưng các tổ chức bảo vệ quyền công dân lại cảnh báo về việc gia tăng sự hiện diện của lực lượng thực thi pháp luật trong đời sống của học sinh, ngay cả trong môi trường gia đình.
Một phân tích cho thấy tỷ lệ báo động giả từ các hệ thống này là khá cao. Ví dụ, tại học khu Lawrence, Kansas, gần 2/3 trong số hơn 1.200 cảnh báo từ Gaggle trong 10 tháng đã được các quan chức trường học xác định là không có vấn đề, bao gồm cả báo động giả từ bài tập về nhà của học sinh. Điều này đặt ra câu hỏi về tính hiệu quả và sự công bằng của việc sử dụng AI trong môi trường học đường.
Vụ việc này làm dấy lên những tranh luận gay gắt về sự cân bằng giữa an ninh trường học và quyền riêng tư của học sinh, cũng như tác động của công nghệ AI đến hệ thống giáo dục và tư pháp hình sự đối với giới trẻ.
