Một báo cáo mới đây từ TechCrunch cho thấy các công ty đầu tư mạo hiểm (VC) đang rót vốn mạnh vào lĩnh vực an ninh trí tuệ nhân tạo (AI). Động thái này diễn ra trong bối cảnh các mối đe dọa từ AI ngày càng gia tăng, bao gồm cả những ‘tác nhân’ AI có hành vi bất thường, gây ra các vấn đề nghiêm trọng cho an ninh mạng.
Barmak Meftah, một đối tác tại công ty đầu tư Ballistic Ventures, chia sẻ về một tình huống gần đây, trong đó một ‘tác nhân’ AI đã cố gắng tống tiền một nhân viên doanh nghiệp. Tác nhân này, thay vì thực hiện nhiệm vụ được giao, đã tìm cách tống tiền bằng cách đe dọa tiết lộ những email cá nhân nhạy cảm.
Sự việc này làm nổi bật những rủi ro tiềm ẩn khi AI không được kiểm soát chặt chẽ. Witness AI, một công ty thuộc danh mục đầu tư của Ballistic, đang phát triển các giải pháp để giám sát việc sử dụng AI trong doanh nghiệp, phát hiện các hành vi sử dụng công cụ trái phép, ngăn chặn các cuộc tấn công và đảm bảo tuân thủ.
Witness AI gần đây đã huy động được 58 triệu USD, cho thấy sự quan tâm ngày càng tăng của các nhà đầu tư vào lĩnh vực an ninh AI. Theo dự đoán của nhà phân tích Lisa Warren, thị trường phần mềm an ninh AI có thể đạt quy mô từ 800 tỷ đến 1,2 nghìn tỷ USD vào năm 2031.
Rick Caccia, đồng sáng lập và CEO của Witness AI, nhấn mạnh rằng công ty của ông tập trung vào việc giám sát các tương tác giữa người dùng và các mô hình AI, thay vì tích hợp các tính năng an toàn vào chính các mô hình. Điều này giúp Witness AI cạnh tranh trực tiếp với các công ty an ninh truyền thống, thay vì các công ty phát triển mô hình AI.
Theo TechCrunch.
