Hiếu PC: 'Trong kỷ nguyên AI, mắt thấy tai nghe chưa chắc đã là thật'

Trong phần tham luận về an ninh mạng, anh Ngô Minh Hiếu - Giám đốc dự án Chống lừa đảo nhận định, mức độ nguy hiểm của các cuộc tấn công ứng dụng Deepfake và Deepvoice hiện nay không hoàn toàn xuất phát từ sự phức tạp của công nghệ. Trên thực tế, các công cụ hoán đổi khuôn mặt và sao chép giọng nói theo thời gian thực (real-time) đang ngày càng dễ tiếp cận với chi phí thấp. Yếu tố then chốt giúp tội phạm thực hiện thành công các kịch bản lừa đảo chính là nguồn dữ liệu đầu vào dồi dào, được thu thập trực tiếp từ các nền tảng mạng xã hội của nạn nhân.

Rủi ro từ việc công khai hình ảnh và thông tin đời tư

Theo anh Ngô Minh Hiếu, thói quen cập nhật hình ảnh, video và ghi âm giọng nói ở chế độ công khai là nguyên nhân chính dẫn đến việc lộ lọt dữ liệu định danh số. Đáng chú ý, việc các bậc phụ huynh thường xuyên đăng tải hình ảnh, lịch trình sinh hoạt và thông tin trường lớp của con cái lên mạng xã hội đang tạo ra những rủi ro an ninh nghiêm trọng.

Từ những dữ liệu này, các nhóm tội phạm sử dụng công nghệ AI để trích xuất âm thanh, hình ảnh, sau đó cắt ghép thành các đoạn video hoặc đoạn ghi âm giả mạo tiếng khóc và lời kêu cứu của trẻ. Những sản phẩm giả mạo này được sử dụng làm công cụ gây áp lực tâm lý trong các cuộc gọi tống tiền, khiến phụ huynh dễ dàng mất bình tĩnh và thực hiện việc chuyển tiền theo yêu cầu trước khi kịp tiến hành các bước xác minh.

Bên cạnh đó, rủi ro lộ lọt dữ liệu còn đến từ các yếu tố khách quan, ngay cả khi người dùng chủ động thiết lập bảo mật trang cá nhân. Chuyên gia an ninh mạng chỉ ra rằng, thông tin và hình ảnh cá nhân có thể bị thu thập thông qua các nền tảng của bên thứ ba, điển hình như việc được bạn bè gắn thẻ (tag) trong các bức ảnh chụp chung tại sự kiện hoặc địa điểm công cộng. Do đó, người dùng được khuyến nghị cần thường xuyên rà soát lại cài đặt quyền riêng tư, chọn lọc danh sách bạn bè và kiểm soát chặt chẽ phạm vi chia sẻ thông tin trên không gian mạng.

Cơ chế xây dựng kịch bản lừa đảo cá nhân hóa

Dựa trên khối lượng dữ liệu thu thập được, tội phạm mạng tiến hành xây dựng các kịch bản thao túng tâm lý có tính cá nhân hóa cao. Một trong những phương thức phổ biến nhất là chiếm đoạt tài khoản mạng xã hội để lừa đảo tài chính. Kẻ gian thường mua lại các tài khoản bị đánh cắp, sau đó phân tích lịch sử tin nhắn để mô phỏng văn phong và nắm bắt sơ đồ các mối quan hệ của nạn nhân. Ở bước tiếp theo, chúng sử dụng công cụ Deepfake để thực hiện các cuộc gọi video qua Zalo hoặc Messenger với khuôn mặt và giọng nói đã được can thiệp, đưa ra các lý do khẩn cấp nhằm mục đích vay mượn tiền.

Ở quy mô phức tạp hơn, tội phạm còn nhắm mục tiêu vào các doanh nghiệp thông qua việc mạo danh ban lãnh đạo. Các đối tượng thu thập hình ảnh của nhân sự cấp cao từ website công ty hoặc báo chí, sau đó thiết lập các phòng họp trực tuyến giả mạo.

Một trường hợp điển hình đã được ghi nhận vào năm 2024, khi một nhân viên tài chính tại Hồng Kông (TQ) thực hiện lệnh chuyển khoản 25 triệu đô la Mỹ (khoảng 600 tỷ đồng) sau khi tham gia một cuộc họp qua Zoom, nơi toàn bộ thành viên ban giám đốc tham gia đều là hình ảnh mô phỏng do AI tạo ra. Ngoài ra, hình thức mạo danh các cơ quan thực thi pháp luật như công an, cán bộ thuế qua cuộc gọi video cũng liên tục được sử dụng nhằm đe dọa, yêu cầu nạn nhân cài đặt các ứng dụng chứa mã độc để chiếm quyền kiểm soát thiết bị và tài khoản ngân hàng.

Nguyên tắc 5 giây và giải pháp phòng vệ

Về mặt kỹ thuật, anh Ngô Minh Hiếu cho biết, các sản phẩm Deepfake hiện tại vẫn tồn tại một số dấu hiệu nhận biết như sự bất thường ở cử động hàm răng, kết cấu da quá mịn màng, thiếu tự nhiên, sự thiếu đồng bộ giữa khẩu hình và âm thanh, hoặc sai lệch về ánh sáng và bóng đổ. Tuy nhiên, cùng với tốc độ phát triển của AI, các lỗ hổng thị giác này sẽ sớm được khắc phục. Do vậy, việc phụ thuộc vào khả năng quan sát để phân biệt thật - giả sẽ không còn là phương án phòng vệ hiệu quả trong tương lai.

Chuyên gia đề xuất, người dùng cần áp dụng "Quy tắc 5 giây" trong mọi giao dịch trên môi trường số. Cụ thể, trước bất kỳ yêu cầu chuyển tiền hay truy cập đường dẫn lạ nào đi kèm yếu tố thúc giục, người dùng cần tạo ra một khoảng lùi thời gian ít nhất 5 giây để đánh giá lại tính hợp lý của sự việc. Sau đó, cần chủ động ngắt kết nối và tiến hành xác minh chéo thông qua một kênh liên lạc độc lập (như mạng viễn thông truyền thống).

Đối với những cá nhân có sức ảnh hưởng (KOL), anh Hiếu cũng đưa ra khuyến nghị về trách nhiệm minh bạch thông tin. Theo đó, KOL cần chủ động gắn nhãn cảnh báo nếu sử dụng công nghệ AI để tạo nội dung, đồng thời phải có phương án phản ứng nhanh, thông báo kịp thời trên các kênh chính thức khi phát hiện hình ảnh cá nhân bị lợi dụng cho mục đích lừa đảo để bảo vệ cộng đồng.