サイバーセキュリティとコンプライアンスを専門とするコンサルティング会社LC SECは、デジタル詐欺における合成コンテンツの使用増加について警告を発している。人工知能によって生成または操作された画像、動画、音声は、詐欺、欺瞞的な広告、偽情報戦略に組み込まれている。ブラジルでは、AIで作成された偽コンテンツの拡散が2024年から2025年の間に3倍以上に増加し、308%の成長を遂げた。これは、偽情報の傾向、ターゲット、主な戦術をマッピングしたLupa Observatoryによるブラジル初の偽情報パノラマによるものだ。このシナリオは、国家データ保護局（ANPD）がテクノロジーレーダー第6号「ディープフェイク」で分析している。これは、合成コンテンツがさまざまな種類の詐欺や権利侵害でどのように使用されているかを詳述した163ページの調査である。
当局が懸念している点の1つは、ソーシャルメディア上のスポンサー広告やブーストキャンペーンにおけるディープフェイクの使用です。この文書によると、犯罪者は有名人の画像や声を使って偽のオファーを作成したり、セグメント化されたオーディエンスにコンテンツを宣伝したり、被害者を支払いまたは個人情報を要求するクローンウェブサイトや不正なプラットフォームに誘導したりすることができます。ANPDのこの発表は、デジタルプラットフォームの責任と違法コンテンツの流通を減らすことができるメカニズムの必要性についての議論が進展している時期に行われました。この報告書はまた、金融詐欺、誤解を招く広告、選挙偽情報、ジェンダーに基づく政治的暴力、人種差別、画像の無断使用に関連するディープフェイクの応用についても取り上げており、リスクはサイバーセキュリティの分野を超え、プライバシー、評判、信頼の問題にまで及ぶことを示しています。当局が分析したブラジルの事例の1つは、存在しない製品を宣伝するために使用された有名人のディープフェイクに関するものです。報告書によると、責任のあるギャングの捜査により、2,000万レアルを超える取引が確認されました。ブラジル国家データ保護局（ANPD）も、これらの詐欺が大規模に展開できる能力に注目している。個々の損失は比較的小さいが、それらを合計すると犯罪者にとって大きな利益を生み出す可能性がある。たとえば、FBIは2025年に人工知能を使用した詐欺に関する苦情を22,364件受け付け、調整後の損失は8億9,330万米ドルを超えた。企業は、AIコンポーネントを使用した企業メール侵害詐欺に関連して3,000万米ドル以上の損失を報告している。世界経済フォーラムのグローバルサイバーセキュリティ展望2026によると、回答者の73%が2025年にデジタル詐欺に直接影響を受けたか、影響を受けた人を知っており、87%がAIに関連する脆弱性の増加を認識している。LC SECのCEO兼創設者であるルイス・クラウディオは、ディープフェイクの進歩により、企業は本人確認と認証を、人の外見や声だけに頼ることはできないセキュリティ要素として扱う必要があると述べている。 「問題は、従来の本人確認プロセスが、ビデオ会議における音声、画像、プレゼンスが比較的信頼できる信号であるというシナリオに基づいて構築されていたことです。人工知能の進化により、これらの要素は再現可能になりました。企業は、特に金銭、システムへのアクセス、機密情報に関わる重要な意思決定については、独立した確認メカニズムを構築する必要があります」と彼は述べています。デジタル広告と金融セクターは、この種の詐欺に最も晒されている分野の一つです。企業は、画像と音声の使用の出所と承認を確認することに加えて、機密性の高い業務において追加の本人確認メカニズムを採用する必要があります。このリスクは、Arupの事例で明らかになりました。犯罪者がビデオ会議で役員の合成画像を使用し、従業員を説得して約2500万米ドルを送金させたのです。専門家によると、機密性の高い業務において合成コンテンツが唯一の認証手段として使用されるのを防ぐには、追加の検証レイヤーを採用することが不可欠です。 「組織は、リスクの高い操作に対して独立したチャネルを通じて確認メカニズムを採用することができます。支払い要求、銀行口座情報の変更、文書の共有、またはアクセス権の付与には、二重承認、職務分掌、強力な認証、監査ログに加えて、既知のチャネルを通じた2回目の検証が必要になる場合があります。これらの制御の組み合わせにより、単一の合成表現で重要なアクションを承認できる可能性が低くなります」とLuiz Claudio氏は強調しています。 2026年5月に公布された政令第12,975号および第12,976号は、ガバナンス、透明性、不正防止、プラットフォーム上の違法コンテンツに関するANPDの権限を拡大しました。選挙環境において、TSE決議第23,755/2026号は、候補者や著名人の画像や音声の使用に関する識別要件や制限を含む、広告における合成コンテンツの使用に関する規則も確立しました。Luiz Claudio氏によると、ディープフェイク対策には、テクノロジー、内部プロセス、従業員の意識を組み合わせた保護戦略が必要です。 「合成コンテンツを生成する技術は急速に進化しており、すべてのディープフェイクを識別するために単一のツールに頼るのは非現実的です。保護は、人、プロセス、テクノロジーに分散させる必要があります。企業が機密性の高い意思決定に関する明確なルールを定め、ブランドの不正使用を監視し、従業員が通常のチャネル以外からの要求に疑問を持つように準備することで、この種の詐欺に対する保護層をさらに強化することができます」と彼は結論付けています。
