साइबर सुरक्षा और अनुपालन में विशेषज्ञता रखने वाली परामर्श फर्म LC SEC ने डिजिटल घोटालों में कृत्रिम सामग्री के बढ़ते उपयोग के बारे में चेतावनी दी है। कृत्रिम बुद्धिमत्ता द्वारा निर्मित या हेरफेर की गई छवियां, वीडियो और आवाजें धोखाधड़ी, भ्रामक विज्ञापन और दुष्प्रचार की रणनीतियों में एकीकृत हो गई हैं। ब्राजील में, लूपा ऑब्जर्वेटरी द्वारा किए गए दुष्प्रचार के पहले पैनोरमा के अनुसार, जो दुष्प्रचार के रुझानों, लक्ष्यों और मुख्य युक्तियों का मानचित्रण करता है, 2024 और 2025 के बीच AI द्वारा निर्मित झूठी सामग्री का प्रसार तीन गुना से अधिक बढ़कर 308% हो गया। इस परिदृश्य का विश्लेषण राष्ट्रीय डेटा संरक्षण प्राधिकरण (ANPD) ने टेक्नोलॉजिकल रडार नंबर 6 - डीपफेक नामक 163-पृष्ठ के अध्ययन में भी किया है, जिसमें विस्तार से बताया गया है कि कृत्रिम सामग्री का उपयोग विभिन्न प्रकार के घोटालों और मानवाधिकारों के उल्लंघन में कैसे किया जा रहा है।
प्राधिकरण द्वारा उजागर किए गए चिंता के बिंदुओं में से एक सोशल मीडिया पर प्रायोजित विज्ञापनों और प्रचार अभियानों में डीपफेक का उपयोग है। दस्तावेज़ के अनुसार, अपराधी प्रसिद्ध व्यक्तियों की छवि या आवाज़ का उपयोग करके फर्जी ऑफ़र बना सकते हैं, लक्षित दर्शकों तक सामग्री पहुंचा सकते हैं और पीड़ितों को नकली वेबसाइटों या धोखाधड़ी वाले प्लेटफार्मों पर भेज सकते हैं जहां भुगतान या व्यक्तिगत जानकारी मांगी जाती है। एएनपीडी का यह प्रकाशन ऐसे समय में आया है जब डिजिटल प्लेटफार्मों की जिम्मेदारियों और अवैध सामग्री के प्रसार को कम करने में सक्षम तंत्रों की आवश्यकता पर चर्चाएँ तेज़ हो रही हैं। रिपोर्ट में वित्तीय घोटालों, भ्रामक विज्ञापन, चुनावी दुष्प्रचार, लिंग आधारित राजनीतिक हिंसा, नस्लवाद और छवियों के गैर-सहमतिपूर्ण उपयोग से संबंधित डीपफेक के अनुप्रयोगों पर भी चर्चा की गई है, जिससे पता चलता है कि जोखिम साइबर सुरक्षा के क्षेत्र से परे जाकर गोपनीयता, प्रतिष्ठा और विश्वास के मुद्दों तक पहुँचते हैं। प्राधिकरण द्वारा विश्लेषण किए गए ब्राज़ीलियाई मामलों में से एक में मशहूर हस्तियों के डीपफेक का उपयोग करके काल्पनिक उत्पादों का प्रचार किया गया था। रिपोर्ट के अनुसार, जिम्मेदार गिरोह की जांच में 20 मिलियन रब्बी से अधिक के लेनदेन का पता चला। ब्राज़ीलियाई राष्ट्रीय डेटा संरक्षण प्राधिकरण (एएनपीडी) भी इन घोटालों की बड़े पैमाने पर संचालन करने की क्षमता की ओर ध्यान दिलाता है, जिसमें व्यक्तिगत नुकसान अपेक्षाकृत कम होता है, लेकिन जब इन्हें एक साथ जोड़ा जाता है, तो अपराधियों को भारी मुनाफा हो सकता है। उदाहरण के लिए, एफबीआई को 2025 में धोखाधड़ी में कृत्रिम बुद्धिमत्ता के उपयोग से संबंधित 22,364 शिकायतें प्राप्त हुईं, जिनमें समायोजित नुकसान 893.3 मिलियन अमेरिकी डॉलर से अधिक था। कंपनियों ने कॉर्पोरेट ईमेल समझौता घोटालों से संबंधित 30 मिलियन अमेरिकी डॉलर से अधिक के नुकसान की सूचना दी, जिनमें किसी न किसी प्रकार के एआई घटक का उपयोग किया गया था। विश्व आर्थिक मंच के ग्लोबल साइबरसिक्योरिटी आउटलुक 2026 से पता चलता है कि 2025 में 73% उत्तरदाता डिजिटल धोखाधड़ी से प्रत्यक्ष रूप से प्रभावित हुए थे या किसी ऐसे व्यक्ति को जानते थे जो इससे प्रभावित हुआ था, जबकि 87% ने एआई से जुड़ी कमजोरियों में वृद्धि महसूस की। एलसी एसईसी के सीईओ और संस्थापक लुइज़ क्लाउडियो के अनुसार , डीपफेक के विकास के लिए कंपनियों को पहचान और प्रमाणीकरण को सुरक्षा तत्वों के रूप में मानना आवश्यक है जो केवल किसी व्यक्ति की उपस्थिति या आवाज पर निर्भर नहीं हो सकते। “समस्या यह है कि पारंपरिक पहचान सत्यापन प्रक्रियाएं ऐसे परिदृश्य में बनाई गई थीं जहां आवाज, छवि और वीडियो कॉन्फ्रेंस में उपस्थिति अपेक्षाकृत विश्वसनीय संकेत थे। कृत्रिम बुद्धिमत्ता के विकास के साथ, इन तत्वों को दोहराया जा सकता है। कंपनियों को महत्वपूर्ण निर्णयों के लिए स्वतंत्र पुष्टिकरण तंत्र बनाने की आवश्यकता है, खासकर जब उनमें धन, सिस्टम तक पहुंच या संवेदनशील जानकारी शामिल हो,” वे कहते हैं। डिजिटल विज्ञापन और वित्तीय क्षेत्र इस प्रकार की धोखाधड़ी के सबसे अधिक शिकार हैं। छवियों और आवाजों के स्रोत और उपयोग के लिए प्राधिकरण को सत्यापित करने के अलावा, कंपनियों को संवेदनशील कार्यों में अतिरिक्त पहचान सत्यापन तंत्र अपनाने की आवश्यकता है। अरूप से जुड़े एक मामले में यह जोखिम स्पष्ट हो गया, जब अपराधियों ने वीडियो कॉन्फ्रेंस में अधिकारियों के कृत्रिम प्रतिनिधित्व का उपयोग किया और एक कर्मचारी को लगभग 25 मिलियन अमेरिकी डॉलर स्थानांतरित करने के लिए राजी कर लिया। विशेषज्ञ के अनुसार, संवेदनशील कार्यों में कृत्रिम सामग्री को प्रमाणीकरण के एकमात्र रूप के रूप में उपयोग होने से रोकने के लिए सत्यापन की अतिरिक्त परतों को अपनाना मौलिक है। “संगठन उच्च जोखिम वाले कार्यों के लिए स्वतंत्र चैनलों के माध्यम से पुष्टिकरण तंत्र अपना सकते हैं। भुगतान अनुरोध, बैंक विवरण में परिवर्तन, दस्तावेज़ साझा करना या पहुँच प्रदान करना, दोहरी स्वीकृति, कर्तव्यों का पृथक्करण, सशक्त प्रमाणीकरण और ऑडिट लॉग के अलावा, पहले से ज्ञात चैनल के माध्यम से दूसरे सत्यापन की आवश्यकता हो सकती है। इन नियंत्रणों का संयोजन इस संभावना को कम करता है कि किसी महत्वपूर्ण कार्रवाई को अधिकृत करने के लिए केवल एक कृत्रिम प्रतिनिधित्व पर्याप्त होगा,” लुइज़ क्लाउडियो ने बताया । मई 2026 में प्रकाशित डिक्री संख्या 12,975 और 12,976 ने प्लेटफार्मों पर शासन, पारदर्शिता, धोखाधड़ी की रोकथाम और अवैध सामग्री के संबंध में ANPD की दक्षताओं का विस्तार किया। चुनावी माहौल में, TSE संकल्प संख्या 23,755/2026 ने विज्ञापन में कृत्रिम सामग्री के उपयोग के लिए नियम भी स्थापित किए, जिसमें पहचान संबंधी आवश्यकताएं और उम्मीदवारों और सार्वजनिक हस्तियों की छवियों और आवाजों के उपयोग पर प्रतिबंध शामिल हैं। लुइज़ क्लाउडियो के अनुसार , डीपफेक से निपटने के लिए एक ऐसी सुरक्षा रणनीति की आवश्यकता है जो प्रौद्योगिकी, आंतरिक प्रक्रियाओं और कर्मचारियों की जागरूकता को जोड़ती हो। "कृत्रिम सामग्री बनाने की तकनीक तेजी से विकसित हो रही है, और सभी डीपफेक की पहचान करने के लिए किसी एक उपकरण पर निर्भर रहना अव्यावहारिक है। सुरक्षा को लोगों, प्रक्रियाओं और तकनीक में समान रूप से वितरित करने की आवश्यकता है। जब कोई कंपनी संवेदनशील निर्णयों के लिए स्पष्ट नियम स्थापित करती है, अपने ब्रांड के दुरुपयोग की निगरानी करती है, और कर्मचारियों को सामान्य चैनलों के बाहर से आने वाले अनुरोधों पर सवाल उठाने के लिए तैयार करती है, तो वह इस प्रकार की धोखाधड़ी के खिलाफ सुरक्षा की एक अतिरिक्त परत तैयार करती है," उन्होंने निष्कर्ष निकाला।
