DeepSeek-R1 là một trong những mô hình ngôn ngữ lớn (LLM) phổ biến nhất hiện nay, tuy nhiên cũng chính vì điều này mà các tác nhân đe dọa đã lợi dụng DeepSeek để thực hiện cài cắm mã độc. Thời gian qua, các tin tặc bắt đầu sử dụng quảng cáo độc hại để khai thác nhu cầu về chatbot. Các nhà nghiên cứu của hãng bảo mật Kaspersky vừa phát hiện một chiến dịch độc hại mới phân phối mã độc thông qua trình cài đặt môi trường LLM DeepSeek-R1 giả mạo. Phần mềm độc hại được phân phối thông qua một trang web lừa đảo ngụy trang thành trang chủ chính thức của DeepSeek. Các cuộc tấn công cuối cùng nhằm mục đích cài đặt BrowserVenom, một phần mềm độc hại có khả năng cấu hình lại tất cả các phiên bản duyệt web, chuyển hướng lưu lượng truy cập thông qua một proxy do các tác nhân đe dọa kiểm soát. Điều này cho phép chúng thao túng lưu lượng truy cập mạng của nạn nhân và thu thập dữ liệu. Dựa trên báo cáo của Kaspersky, bài viết này sẽ cùng phân tích và khám phá DeepSeek-R1.

Công ty bảo mật AI HiddenLayer (Mỹ) mới đây đã phát hiện ra một kỹ thuật tấn công mới có tên là TokenBreak, có thể được sử dụng để vượt qua các rào cản kiểm duyệt nội dung và an toàn của mô hình ngôn ngữ lớn (LLM) chỉ bằng một thay đổi ký tự.

Trong thời đại phát triển của công nghệ thông tin (CNTT) và trí tuệ nhân tạo (AI), sự bùng nổ của “Đại dịch thông tin sai lệch” đang diễn ra với tốc độ chóng mặt, gây hậu quả vô cùng nghiêm trọng cho chính trị, kinh tế, cũng như an toàn, an ninh thông tin của mọi quốc gia. Công cụ công nghệ hiệu quả, kết hợp với chính sách quản lý của Nhà nước đối với ngành công nghệ thông tin cần được nâng cấp kịp thời, phù hợp với xu thế của tình hình biến động, thay đổi nhanh chóng như hiện nay, hướng tới tương lai phát triển bền vững, an toàn.

Google vừa xác nhận sẽ chính thức chuyển đổi từ Google Assistant sang Gemini trong những tháng tới. Đây là bước đi đánh dấu sự thay đổi lớn trong chiến lược AI của Google, đồng thời đặt dấu chấm hết cho một trong những trợ lý ảo phổ biến nhất kể từ năm 2016.    

OpenAI đã xóa các tài khoản được sử dụng bởi các nhóm tin tặc do nhà nước bảo trợ từ Iran, Triều Tiên, Trung Quốc và Nga, những tài khoản được cho là đang lạm dụng ChatGPT nhằm thực hiện các hành vi độc hại.

ChatGPT và các mô hình ngôn ngữ lớn (LLM) tương tự đã làm tăng thêm độ phức tạp trong bối cảnh mối đe dọa trực tuyến ngày càng gia tăng. Tội phạm mạng không còn cần các kỹ năng mã hóa nâng cao để thực hiện gian lận và các cuộc tấn công gây thiệt hại khác chống lại các doanh nghiệp và khách hàng trực tuyến nhờ vào bot dưới dạng dịch vụ, residential proxy, CAPTCHA và các công cụ dễ tiếp cận khác. Giờ đây, ChatGPT, OpenAI và các LLM khác không chỉ đặt ra các vấn đề đạo đức bằng cách đào tạo các mô hình của họ về dữ liệu thu thập trên Internet mà LLM còn đang tác động tiêu cực đến lưu lượng truy cập web của doanh nghiệp, điều này có thể gây tổn hại lớn đến doanh nghiệp đó.