사이버 보안 및 규정 준수 전문 컨설팅 회사인 LC SEC 는 디지털 사기에서 합성 콘텐츠 사용이 증가하고 있다고 경고합니다. 인공지능(AI)으로 제작되거나 조작된 이미지, 비디오, 음성이 사기, 기만적인 광고, 허위 정보 유포 전략에 통합되고 있습니다. 브라질에서는 AI로 제작된 허위 콘텐츠 유포가 2024년과 2025년 사이에 3배 이상 증가하여 308%의 성장률을 기록했다고 루파 관측소(Lupa Observatory)의 브라질 허위 정보 현황 보고서(Fanorama of Disinformation in Brazil)에서 밝혔습니다. 이 보고서는 허위 정보의 추세, 목표, 주요 전술을 분석합니다. 브라질 국가 데이터 보호국(ANPD) 또한 163페이지 분량의 연구 보고서인 '기술 레이더 6호 - 딥페이크(Technological Radar No. 6 – Deepfakes)'에서 합성 콘텐츠가 다양한 유형의 사기 및 권리 침해에 어떻게 사용되는지 분석했습니다.
당국이 우려 사항으로 지적한 것 중 하나는 소셜 미디어의 스폰서 광고 및 부스트 캠페인에 딥페이크가 사용되는 것입니다. 보고서에 따르면 범죄자들은 유명인의 이미지나 목소리를 이용하여 가짜 상품을 홍보하고, 특정 고객층을 대상으로 콘텐츠를 판매하며, 피해자들을 가짜 웹사이트나 사기 플랫폼으로 유도하여 결제나 개인 정보를 요구할 수 있습니다. 브라질 경찰청(ANPD)의 이번 발표는 디지털 플랫폼의 책임과 불법 콘텐츠 유포를 줄일 수 있는 메커니즘의 필요성에 대한 논의가 활발해지는 시점에 나왔습니다. 보고서는 또한 금융 사기, 허위 광고, 선거 관련 허위 정보, 젠더 기반 정치적 폭력, 인종 차별, 동의 없는 이미지 사용과 관련된 딥페이크 사례를 다루며, 이러한 위험이 사이버 보안 영역을 넘어 개인 정보 보호, 평판, 신뢰 문제까지 확장됨을 보여줍니다. 당국 이 분석한 브라질 사례 중 하나는 유명인의 딥페이크를 이용하여 존재하지 않는 제품을 홍보한 사건입니다. 보고서에 따르면, 관련 조직에 대한 수사 결과 2천만 헤알(R$)이 넘는 거래가 적발되었습니다. 브라질 국가 데이터 보호 당국(ANPD)은 이러한 사기가 개별 손실액은 비교적 적지만, 이를 합산하면 범죄자들에게 막대한 수익을 가져다줄 수 있다는 점에 주목합니다. 예를 들어, FBI는 2025년에 인공지능을 이용한 사기 관련 신고를 22,364건 접수했으며, 조정된 손실액은 8억 9,330만 달러를 넘어섰습니다. 기업들은 인공지능 요소를 이용한 기업 이메일 침해 사기로 3천만 달러 이상의 손실을 입었다고 보고했습니다. 세계경제포럼(WEF)의 '2026년 글로벌 사이버보안 전망'에 따르면 응답자의 73%가 2025년에 디지털 사기의 직접적인 피해를 입었거나 피해를 입은 사람을 알고 있으며, 87%는 인공지능 관련 취약점이 증가했다고 인식했습니다. LC SEC의 CEO이자 설립자 인 루이스 클라우디오 는 딥페이크 기술의 발전으로 기업들이 신원 및 인증을 단순히 외모나 목소리에만 의존할 수 없는 보안 요소로 다뤄야 한다고 강조합니다. "문제는 기존의 신원 확인 프로세스가 음성, 이미지, 화상 회의 참여 여부가 비교적 신뢰할 수 있는 신호였던 시나리오를 기반으로 구축되었다는 점입니다. 인공지능의 발전으로 이러한 요소들을 복제할 수 있게 되었습니다. 기업은 특히 금전, 시스템 접근, 또는 민감한 정보와 관련된 중요한 결정을 내릴 때 독립적인 확인 메커니즘을 구축해야 합니다."라고 그는 말합니다. 디지털 광고와 금융 부문은 이러한 유형의 사기에 가장 취약한 분야 중 하나입니다. 기업은 이미지와 음성의 출처 및 사용 권한을 확인하는 것 외에도 민감한 정보 관련 업무에 추가적인 신원 확인 메커니즘을 도입해야 합니다. 아럽(Arup) 사건에서 범죄자들이 화상 회의에서 임원들의 합성 이미지를 사용하여 직원을 속여 약 2,500만 달러를 송금하게 한 사례가 이를 명확히 보여줍니다. 전문가에 따르면, 합성 콘텐츠가 민감한 정보 관련 업무에서 유일한 인증 수단으로 사용되는 것을 막기 위해서는 추가적인 검증 계층을 도입하는 것이 필수적입니다. 루이스 클라우디오는 “조직은 위험도가 높은 운영에 대해 독립적인 채널을 통한 확인 메커니즘을 도입할 수 있습니다. 결제 요청, 은행 정보 변경, 문서 공유 또는 접근 권한 부여는 이중 승인, 직무 분리, 강력한 인증 및 감사 로그 외에도 기존에 알려진 채널을 통한 2차 검증을 요구할 수 있습니다. 이러한 통제 조치들을 결합하면 단일 합성 이미지만으로 중요한 조치를 승인할 가능성을 줄일 수 있습니다.”라고 강조합니다 . 2026년 5월에 발표된 법령 제12,975호와 제12,976호는 거버넌스, 투명성, 사기 방지 및 플랫폼상의 불법 콘텐츠와 관련하여 ANPD( 국가 정보 보호청) 의 권한을 확대했습니다. 선거 환경에서는 선거관리위원회 결의안 제23,755/2026호가 후보자 및 공인의 이미지와 음성 사용에 대한 신원 확인 요건 및 제한 사항을 포함하여 광고에서 합성 콘텐츠 사용에 대한 규칙을 정립했습니다. 루이스 클라우디오 에 따르면 딥페이크에 대응하기 위해서는 기술, 내부 프로세스 및 직원 인식 제고를 결합한 보호 전략이 필요합니다. "합성 콘텐츠 생성 기술은 빠르게 발전하고 있으며, 단 하나의 도구로 모든 딥페이크를 식별하는 것은 비현실적입니다. 보호는 사람, 프로세스, 기술 전반에 걸쳐 이루어져야 합니다. 기업이 중요한 결정에 대한 명확한 규칙을 수립하고, 브랜드 오용을 감시하며, 직원들이 일반적인 채널을 벗어난 요청에 대해 의문을 제기하도록 교육한다면, 이러한 유형의 사기에 대한 또 다른 보호 장치를 마련할 수 있습니다."라고 그는 결론지었습니다.
