Một phụ nữ ở Philadelphia, Melissa Sims, đã bị bắt giữ và trải qua hai ngày trong nhà giam ở Florida vì những tin nhắn giả mạo do trí tuệ nhân tạo (AI) tạo ra. Sims cho biết, bạn trai cũ của cô đã tạo ra những tin nhắn này, khiến cô bị buộc tội vi phạm lệnh cấm, sau khi cô gọi cảnh sát vì một cuộc cãi vã. Vụ việc của Sims làm dấy lên hồi chuông cảnh báo về mối đe dọa ngày càng tăng từ các công cụ AI, đặc biệt trong bối cảnh pháp lý.
Thẩm phán Herbert Dixon, một thẩm phán cao cấp của Tòa án Tối cao Quận Columbia, nhận thấy sự gia tăng về tần suất các vụ việc liên quan đến bằng chứng giả mạo do AI tạo ra. Ông cho biết các cơ quan thực thi pháp luật cần xem xét kỹ lưỡng hơn trước khi đưa ra các cáo buộc. Giáo sư Rob D’Ovidio, một chuyên gia về pháp y AI, cảnh báo rằng chúng ta có thể không còn tin tưởng vào những gì mình thấy. Ông nhấn mạnh rằng các công cụ phát hiện hiện tại không theo kịp sự phát triển của công nghệ AI.
May mắn, sau tám tháng tranh cãi pháp lý, cáo buộc vi phạm lệnh cấm đã bị hủy bỏ, và Sims sau đó được trắng án trong phiên tòa liên quan đến cáo buộc hành hung. Sims hiện đang vận động hành lang để ban hành luật mới, thiết lập các tiêu chuẩn và hình phạt liên quan đến bằng chứng AI.
Gần đây, Thống đốc Pennsylvania Josh Shapiro đã ký một đạo luật chống giả mạo kỹ thuật số, coi việc tạo ra các deepfake AI gây tổn hại là một tội hình sự. Theo ABC News.
