Bang California đã ban hành một khoản tiền phạt lịch sử, được cho là lớn nhất từ trước đến nay, đối với một luật sư vì sử dụng các thông tin bịa đặt do AI tạo ra trong hồ sơ pháp lý. Tòa án Phúc thẩm Cấp II của California đã ra phán quyết, nhấn mạnh rằng 21 trong số 23 trích dẫn pháp lý trong bản tóm tắt mở đầu của luật sư Amir Mostafavi đều là bịa đặt.
Trong một ý kiến pháp lý đầy gay gắt, tòa án tuyên bố: “Chỉ nói đơn giản là, không có bản tóm tắt, kiến nghị, động thái, hay bất kỳ giấy tờ nào khác được nộp lên tòa án nào được phép chứa bất kỳ trích dẫn nào — cho dù được cung cấp bởi AI tạo sinh hay bất kỳ nguồn nào khác — mà luật sư chịu trách nhiệm nộp giấy tờ đó chưa tự mình đọc và xác minh.”
Ông Mostafavi thừa nhận đã sử dụng ChatGPT để cải thiện bản tóm tắt kháng cáo của mình và không biết rằng AI sẽ thêm các trích dẫn vụ án giả mạo. Ông bị phạt vì nộp một đơn kháng cáo vô căn cứ, vi phạm quy tắc tòa án, trích dẫn các vụ án giả mạo, và lãng phí thời gian của tòa án cũng như tiền thuế của dân.
Khoản phạt này được coi là hình thức kỷ luật tốn kém nhất đối với một luật sư bởi một tòa án tiểu bang California và nằm trong số những khoản tiền phạt cao nhất từng được đưa ra liên quan đến việc luật sư sử dụng AI. Các chuyên gia pháp lý và theo dõi các trường hợp AI trong ngành luật cho rằng số vụ việc luật sư trích dẫn các nguồn tin pháp lý giả mạo do AI tạo ra đang gia tăng nhanh chóng. Stanford University đã chỉ ra rằng một số dạng AI tạo ra thông tin sai lệch trong khoảng một phần ba các truy vấn. Có nhiều lo ngại rằng tình trạng này sẽ trở nên tồi tệ hơn khi công nghệ AI phát triển nhanh chóng, vượt xa sự đào tạo về đạo đức nghề nghiệp cho các luật sư.
Theo CalMatters.
