Sự trỗi dậy của các trợ lý ảo AI khiến nhiều người lo ngại về vấn đề bảo mật. Việc sử dụng những ứng dụng này thường đi kèm với việc chia sẻ thông tin cá nhân, và dữ liệu này có thể bị công ty chủ quản lưu trữ. Với việc OpenAI đang thử nghiệm quảng cáo, nhiều người lo ngại rằng việc thu thập dữ liệu sẽ tương tự như Facebook và Google, len lỏi vào các cuộc trò chuyện trên chatbot.
Một dự án mới, ra mắt vào tháng 12 bởi đồng sáng lập Signal Moxie Marlinspike, đang cho thấy một dịch vụ AI tôn trọng quyền riêng tư có thể hoạt động như thế nào. Confer được thiết kế với giao diện tương tự ChatGPT hoặc Claude, nhưng hệ thống backend được xây dựng để tránh việc thu thập dữ liệu, với sự nghiêm ngặt của mã nguồn mở đã tạo nên sự tin cậy cho Signal. Các cuộc trò chuyện trên Confer không thể được sử dụng để huấn luyện mô hình hoặc nhắm mục tiêu quảng cáo, đơn giản vì nhà cung cấp sẽ không bao giờ có quyền truy cập vào chúng.
Marlinspike cho biết, những biện pháp bảo vệ này là phản hồi trước tính chất riêng tư của dịch vụ. Ông chia sẻ, “Đây là một dạng công nghệ chủ động mời gọi sự chia sẻ. Các giao diện chat như ChatGPT biết nhiều về mọi người hơn bất kỳ công nghệ nào trước đây. Khi bạn kết hợp điều đó với quảng cáo, nó giống như việc ai đó trả tiền cho nhà trị liệu của bạn để thuyết phục bạn mua thứ gì đó”.
Để đảm bảo quyền riêng tư, Confer sử dụng nhiều hệ thống khác nhau hoạt động song song. Đầu tiên, Confer mã hóa tin nhắn đến và đi từ hệ thống bằng hệ thống mật khẩu WebAuthn. Ở phía máy chủ, tất cả quá trình xử lý suy luận của Confer được thực hiện trong Môi trường Thực thi Tin cậy (TEE), với các hệ thống chứng thực từ xa để xác minh hệ thống không bị xâm phạm. Bên trong đó, có một loạt các mô hình nền tảng trọng số mở để xử lý mọi truy vấn được đưa vào.
Kết quả phức tạp hơn nhiều so với thiết lập suy luận tiêu chuẩn, nhưng nó đáp ứng được lời hứa cơ bản của Confer với người dùng. Miễn là các biện pháp bảo vệ này được thực hiện, bạn có thể có những cuộc trò chuyện nhạy cảm với mô hình mà không có bất kỳ thông tin nào bị rò rỉ.
Theo TechCrunch.
