Khuyến cáo của Gartner

Một khuyến cáo gần đây của Gartner cảnh báo rằng: sự kết hợp giữa các chức năng của AI và các hoạt động tự động đặt ra vấn đề lo ngại về an ninh, bảo mật và quyền riêng tư đối với người dùng trình duyệt. Trong đó, các nhà phân tích lưu ý rằng trình duyệt AI được thiết kế với ưu tiên dễ sử dụng. Trong khi bảo mật chỉ là yếu tố thứ yếu, điều này có nghĩa là các trình duyệt này đi lệch khỏi những gì các tổ chức cố gắng thực thi thông qua chính sách bảo mật của họ. Việc trình duyệt AI tự động truy cập trang web, điền vào các biểu mẫu và thực hiện các hành động trong phiên đăng nhập làm tăng đáng kể bề mặt tấn công.

Trình duyệt AI biến từ một công cụ tìm kiếm và dịch thuật thụ động thành một trợ lý ảo chủ động có thể tự mình điều khiển trình duyệt để hoàn thành các mục tiêu phức tạp của người dùng. Trên thực tế, điều này có nghĩa là một lượng lớn dữ liệu người dùng, chẳng hạn như các tab đang mở, phiên hoạt động và lịch sử duyệt web, được gửi đến các dịch vụ AI dựa trên đám mây. Theo Gartner, nếu không có cấu hình trung tâm nghiêm ngặt, nó có thể dẫn đến việc lộ thông tin nhạy cảm không mong muốn.

Về lý thuyết, các tổ chức có thể hạn chế rủi ro bằng cách đánh giá kỹ lưỡng các trình duyệt AI và xác định xem bảo mật của chúng có đáp ứng các tiêu chuẩn nội bộ hay không. Tuy nhiên, ngay cả khi đánh giá đó là tích cực, Gartner cho biết vẫn cần phải hết sức thận trọng. Nhân viên cần lưu ý rằng nội dung mà họ xem trên trình duyệt có thể xuất hiện trên các nền tảng AI bên ngoài mà họ không hề hay biết. Điều này khiến việc sử dụng trình duyệt AI trở nên khó khăn trong các tình huống xử lý dữ liệu bí mật hoặc được quản lý.

Khi các tổ chức kết luận rằng hệ thống AI được sử dụng chưa đủ tin cậy, Gartner khuyến nghị không nên cho phép các trình duyệt AI hoạt động trong môi trường công nghệ thông tin. Rủi ro không chỉ nằm ở việc rò rỉ dữ liệu mà còn ở hành vi của các tác nhân tự động. Các tác nhân này dễ bị thao túng thông qua các lệnh gián tiếp, có thể đưa ra kết luận sai lệch hoặc bị dẫn đến việc điều hướng đến các trang lừa đảo, có khả năng dẫn đến mất thông tin đăng nhập.

Mặc dù một số biện pháp kỹ thuật có thể hạn chế rủi ro, chẳng hạn như chặn chức năng tự động gửi email, ngăn chặn lưu trữ,... Gartner cho rằng những biện pháp như vậy là chưa đủ để đảm bảo trình duyệt AI an toàn tuyệt đối khi sử dụng. Theo các nhà phân tích, việc sử dụng chúng đòi hỏi phải phân tích rủi ro sâu rộng, chính sách chặt chẽ và giám sát liên tục.