LC SEC, công ty tư vấn chuyên về an ninh mạng và tuân thủ pháp luật, cảnh báo về việc sử dụng ngày càng nhiều nội dung tổng hợp trong các vụ lừa đảo kỹ thuật số. Hình ảnh, video và giọng nói được tạo ra hoặc chỉnh sửa bởi trí tuệ nhân tạo đã được tích hợp vào các chiến lược gian lận, quảng cáo lừa đảo và tung tin sai lệch. Tại Brazil, việc lan truyền nội dung sai sự thật được tạo ra bằng AI đã tăng hơn gấp ba lần từ năm 2024 đến năm 2025, với mức tăng trưởng 308%, theo báo cáo Toàn cảnh về Thông tin sai lệch đầu tiên tại Brazil của Đài quan sát Lupa, chuyên lập bản đồ các xu hướng, mục tiêu và chiến thuật chính của thông tin sai lệch. Tình hình này cũng được phân tích bởi Cơ quan Bảo vệ Dữ liệu Quốc gia (ANPD) trong Báo cáo Radar Công nghệ số 6 – Deepfakes, một nghiên cứu dài 163 trang nêu chi tiết cách thức nội dung tổng hợp được sử dụng trong các loại hình lừa đảo và vi phạm quyền khác nhau.
Một trong những vấn đề đáng lo ngại được cơ quan chức năng nêu bật là việc sử dụng deepfake trong quảng cáo được tài trợ và các chiến dịch quảng bá trên mạng xã hội. Theo tài liệu này, tội phạm có thể sử dụng hình ảnh hoặc giọng nói của những người nổi tiếng để tạo ra các ưu đãi giả mạo, quảng bá nội dung đến các đối tượng mục tiêu và hướng nạn nhân đến các trang web giả mạo hoặc các nền tảng lừa đảo, nơi yêu cầu thanh toán hoặc thông tin cá nhân.
Việc ANPD công bố báo cáo này diễn ra trong bối cảnh các cuộc thảo luận về trách nhiệm của các nền tảng kỹ thuật số và nhu cầu về các cơ chế có khả năng giảm thiểu sự lan truyền của nội dung bất hợp pháp đang được đẩy mạnh. Báo cáo cũng đề cập đến các ứng dụng của deepfake liên quan đến các vụ lừa đảo tài chính, quảng cáo gây hiểu nhầm, thông tin sai lệch về bầu cử, bạo lực chính trị dựa trên giới tính, phân biệt chủng tộc và sử dụng hình ảnh trái phép, cho thấy rủi ro vượt ra ngoài lĩnh vực an ninh mạng và chạm đến các vấn đề về quyền riêng tư, danh tiếng và lòng tin.
Một trong những trường hợp ở Brazil được cơ quan chức năng phân tích liên quan đến deepfake của người nổi tiếng được sử dụng để quảng bá các sản phẩm không tồn tại. Theo báo cáo, cuộc điều tra băng nhóm chịu trách nhiệm đã xác định các giao dịch vượt quá 20 triệu reais. Cơ quan Bảo vệ Dữ liệu Quốc gia Brazil (ANPD) cũng lưu ý đến khả năng hoạt động trên quy mô lớn của các vụ lừa đảo này, với những thiệt hại riêng lẻ tương đối nhỏ, nhưng khi cộng lại có thể tạo ra lợi nhuận cao cho tội phạm.
Ví dụ, FBI đã nhận được 22.364 khiếu nại liên quan đến việc sử dụng trí tuệ nhân tạo trong gian lận vào năm 2025, với tổng thiệt hại ước tính vượt quá 893,3 triệu đô la Mỹ. Các công ty đã báo cáo thiệt hại hơn 30 triệu đô la Mỹ liên quan đến các vụ lừa đảo chiếm đoạt email doanh nghiệp sử dụng một số thành phần AI. Báo cáo Triển vọng An ninh mạng Toàn cầu năm 2026 của Diễn đàn Kinh tế Thế giới chỉ ra rằng 73% người được hỏi bị ảnh hưởng trực tiếp hoặc biết ai đó bị ảnh hưởng bởi gian lận kỹ thuật số vào năm 2025, trong khi 87% nhận thấy sự gia tăng các lỗ hổng liên quan đến AI.
Đối với Luiz Claudio, Giám đốc điều hành và người sáng lập LC SEC, sự phát triển của deepfake đòi hỏi các công ty phải coi danh tính và xác thực là các yếu tố bảo mật không thể chỉ dựa vào ngoại hình hoặc giọng nói của một người. “Vấn đề là các quy trình xác thực danh tính truyền thống được xây dựng trong bối cảnh giọng nói, hình ảnh và sự hiện diện trong cuộc họp video được coi là những tín hiệu tương đối đáng tin cậy. Với sự phát triển của trí tuệ nhân tạo, những yếu tố này có thể được sao chép. Các công ty cần tạo ra các cơ chế xác nhận độc lập cho các quyết định quan trọng, đặc biệt là khi chúng liên quan đến tiền bạc, quyền truy cập vào hệ thống hoặc thông tin nhạy cảm,” ông cho biết.
Quảng cáo kỹ thuật số và lĩnh vực tài chính là những lĩnh vực dễ bị tổn thương nhất trước loại gian lận này. Ngoài việc xác minh nguồn gốc và quyền sử dụng hình ảnh và giọng nói, các công ty cần áp dụng thêm các cơ chế xác nhận danh tính trong các hoạt động nhạy cảm. Rủi ro này đã trở nên rõ ràng trong một trường hợp liên quan đến Arup, khi tội phạm sử dụng hình ảnh giả mạo của các giám đốc điều hành trong một cuộc họp video và thuyết phục một nhân viên chuyển khoảng 25 triệu đô la Mỹ.
Theo chuyên gia, việc áp dụng thêm các lớp xác minh là điều cơ bản để ngăn chặn việc sử dụng nội dung giả mạo làm hình thức xác thực duy nhất trong các hoạt động nhạy cảm. “Các tổ chức có thể áp dụng các cơ chế xác nhận thông qua các kênh độc lập cho các hoạt động có rủi ro cao hơn. Yêu cầu thanh toán, thay đổi thông tin ngân hàng, chia sẻ tài liệu hoặc cấp quyền truy cập có thể yêu cầu xác thực lần thứ hai thông qua một kênh đã biết trước đó, ngoài việc phê duyệt kép, phân tách nhiệm vụ, xác thực mạnh mẽ và nhật ký kiểm toán. Sự kết hợp của các biện pháp kiểm soát này làm giảm khả năng một hình ảnh giả mạo duy nhất đủ để cho phép một hành động quan trọng,” ông Luiz Claudio.
Các nghị định số 12.975 và số 12.976, được ban hành vào tháng 5 năm 2026, đã mở rộng thẩm quyền của ANPD liên quan đến quản trị, tính minh bạch, phòng chống gian lận và nội dung bất hợp pháp trên các nền tảng. Trong môi trường bầu cử, Nghị quyết số 23.755/2026 của TSE cũng đã thiết lập các quy tắc về việc sử dụng nội dung giả mạo trong quảng cáo, bao gồm các yêu cầu nhận dạng và hạn chế việc sử dụng hình ảnh và giọng nói của các ứng cử viên và nhân vật công chúng.
Theo ông Luiz Claudio, việc chống lại deepfake đòi hỏi một chiến lược bảo vệ kết hợp công nghệ, quy trình nội bộ và nhận thức của nhân viên. "Công nghệ tạo nội dung giả mạo đang phát triển nhanh chóng, và việc chỉ dựa vào một công cụ duy nhất để xác định tất cả các deepfake là không thực tế. Việc bảo vệ cần được phân bổ trên nhiều yếu tố như con người, quy trình và công nghệ. Khi một công ty thiết lập các quy tắc rõ ràng cho các quyết định nhạy cảm, giám sát việc lạm dụng thương hiệu của mình và chuẩn bị cho nhân viên đặt câu hỏi về các yêu cầu ngoài các kênh thông thường, điều đó sẽ tạo ra một lớp bảo vệ khác chống lại loại gian lận này," ông kết luận.
