Google vừa công bố các biện pháp bảo mật mới nhất cho các tính năng trí tuệ nhân tạo (AI) trên trình duyệt Chrome. Động thái này diễn ra trong bối cảnh các trình duyệt khác cũng đang thử nghiệm các tính năng tương tự, gây ra những lo ngại về rủi ro bảo mật.
Các tính năng AI mới của Chrome, cho phép người dùng thực hiện các hành động thay mặt họ như đặt vé hay mua sắm, tiềm ẩn nhiều rủi ro về an ninh mạng. Điều này có thể dẫn đến việc đánh cắp dữ liệu hoặc mất tiền. Để đối phó với vấn đề này, Google đã trình bày chi tiết cách thức bảo vệ người dùng trên Chrome thông qua việc sử dụng các mô hình quan sát và yêu cầu sự đồng ý của người dùng trước khi thực hiện các hành động.
Google cho biết họ đang sử dụng User Alignment Critic, một công cụ sử dụng Gemini, để kiểm tra các tác vụ do mô hình lập kế hoạch tạo ra. Nếu công cụ này phát hiện ra các tác vụ không phù hợp với mục tiêu của người dùng, nó sẽ yêu cầu mô hình lập kế hoạch xem xét lại chiến lược. Ngoài ra, Google cũng sử dụng Agent Origin Sets để giới hạn quyền truy cập của các tác nhân AI vào các trang web không an toàn. Điều này giúp ngăn chặn các tác nhân truy cập vào các nguồn dữ liệu không đáng tin cậy.
Để tăng cường bảo mật, Google cũng kiểm soát việc điều hướng trang web bằng cách kiểm tra các URL thông qua một mô hình quan sát khác. Ngoài ra, gã khổng lồ tìm kiếm cũng cho phép người dùng kiểm soát các tác vụ nhạy cảm. Ví dụ, khi một tác nhân cố gắng truy cập vào một trang web nhạy cảm, người dùng sẽ được yêu cầu cho phép trước khi tiếp tục. Theo TechCrunch, Google cũng đang sử dụng một công cụ phân loại để ngăn chặn các hành động không mong muốn và thử nghiệm các khả năng của AI trước các cuộc tấn công do các nhà nghiên cứu tạo ra.
Quyết định này cho thấy nỗ lực của Google trong việc đảm bảo an toàn cho người dùng khi sử dụng các công nghệ AI tiên tiến. Các nhà phát triển trình duyệt khác cũng đang chú trọng đến vấn đề bảo mật. Perplexity gần đây đã phát hành một mô hình phát hiện nội dung mã nguồn mở mới để ngăn chặn các cuộc tấn công vào các tác nhân AI.
Theo TechCrunch.
