Các nhà nghiên cứu đã phát hiện ra cách thao túng tính năng Trí tuệ Nhân tạo (AI) của Apple, có tên gọi Apple Intelligence, bằng các kỹ thuật tấn công tinh vi, làm dấy lên lo ngại về an toàn dữ liệu cá nhân trên thiết bị.
Theo báo cáo từ RSAC Research, các kỹ thuật như ‘prompt injection’ (tiêm lệnh), ‘adversarial prompts’ (lệnh đối nghịch) và các thủ thuật sử dụng ký tự Unicode có thể khiến Trí tuệ Nhân tạo của Apple thực hiện các hành động không mong muốn. Trong 100 thử nghiệm, các nhà nghiên cứu đã đạt được tỷ lệ thành công lên tới 76% đối với mô hình AI chạy trên thiết bị của Apple Intelligence. Mặc dù Apple đã vá lỗ hổng này trong các bản cập nhật iOS 17.5 và macOS 17.5, nhưng cách thức tấn công này cho thấy nguy cơ tiềm ẩn, không cần kẻ xấu phải chiếm quyền truy cập vật lý vào iPhone hay bẻ khóa máy chủ của Apple.
Trí tuệ Nhân tạo trên iPhone có khả năng đọc, tóm tắt, viết lại nội dung và tương tác với các ứng dụng. Kẻ tấn công có thể lợi dụng điều này bằng cách tạo ra các văn bản chứa lệnh ẩn, đánh lừa AI thực hiện những hành động mà người dùng không hề yêu cầu. Điều này đặc biệt nguy hiểm khi AI có quyền truy cập vào các ứng dụng chứa thông tin nhạy cảm.
Chuyên gia công nghệ Kurt Knutsson khuyến cáo người dùng nên thường xuyên cập nhật phần mềm cho các thiết bị của mình, xem xét lại các cài đặt liên quan đến Apple Intelligence và Siri, hạn chế cấp quyền cho các ứng dụng AI, và thận trọng khi yêu cầu AI tóm tắt các nội dung không rõ nguồn gốc. Việc giữ cho thiết bị được cập nhật thường xuyên là biện pháp phòng ngừa quan trọng nhất.
Bên cạnh đó, việc xem xét quyền truy cập của các ứng dụng vào dữ liệu cá nhân, tránh dán thông tin nhạy cảm vào các công cụ AI, xóa các ứng dụng không còn sử dụng, cài đặt phần mềm diệt virus mạnh mẽ và cân nhắc sử dụng dịch vụ bảo vệ danh tính là những biện pháp bổ sung để tăng cường an ninh mạng.
Theo tin từ Fox News.
