Công nghệ Deepfake với khả năng tạo video, âm thanh giả mạo như thật đang trở thành công cụ nguy hiểm cho kẻ xấu. Lợi dụng sự tinh vi của Deepfake, các hình thức lừa đảo mới xuất hiện ngày càng phổ biến, nhắm vào tài sản và uy tín của cá nhân, tổ chức, khiến việc phân biệt thật giả trên không gian mạng trở nên khó khăn hơn bao giờ hết.

Microsoft cáo buộc nhóm tin tặc đã tạo ra các công cụ độc hại để tạo ra video Deepfake của người nổi tiếng và nhiều nội dung bất hợp pháp khác. Danh tính các cá nhân có liên quan bao gồm Arian Yadegarnia từ Iran (biệt danh Fiz), Alan Krysiak từ Vương quốc Anh (biệt danh Drago), Ricky Yuen từ Hồng Kông (biệt danh cg-dot) và Phát Phùng Tấn từ Việt Nam (biệt danh Asakuri).

Deepfake là một công nghệ mới nổi trong lĩnh vực xử lý hình ảnh và video. Bằng cách sử dụng các kỹ thuật học máy và trí tuệ nhân tạo, Deepfake có thể biến đổi hình ảnh và video, tạo ra những nội dung giả mạo với độ chân thực cao, khó phân biệt được thật và giả. Mặc dù công nghệ này mang lại nhiều ứng dụng trong giải trí và sáng tạo, nhưng nó cũng ẩn chứa những mối nguy tiềm tàng gây mất an toàn, an ninh thông tin.

Ngày 19/9, cơ quan cảnh sát quốc gia Hàn Quốc cho biết sẽ đầu tư 9,1 tỷ won (6,8 triệu USD) trong 3 năm tới để phát triển công nghệ phát hiện các loại hình tội phạm Deepfake, sao chép giọng nói và các nội dung bịa đặt khác.

Nhóm các nước công nghiệp phát triển (G7) mới đây đã nhất trí về bản dự thảo nguyên tắc phát triển trí tuệ nhân tạo, cho thấy một bước đi tích cực trong nỗ lực giảm rủi ro liên quan công nghệ mới nổi này. Việc xây dựng chiến lược để quản lý và sử dụng AI một cách hiệu quả, an toàn, có trách nhiệm đang là nhiệm vụ cấp bách của mọi quốc gia.