సైబర్ సెక్యూరిటీ మరియు కంప్లయెన్స్లో నైపుణ్యం కలిగిన కన్సల్టింగ్ సంస్థ అయిన ఎల్సి ఎస్ఇసి , డిజిటల్ మోసాలలో సింథటిక్ కంటెంట్ వాడకం పెరుగుతోందని హెచ్చరిస్తోంది. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ద్వారా ఉత్పత్తి చేయబడిన లేదా తారుమారు చేయబడిన చిత్రాలు, వీడియోలు మరియు స్వరాలు మోసం, మోసపూరిత ప్రకటనలు మరియు తప్పుడు సమాచారం వ్యాప్తి చేసే వ్యూహాలలో కలిసిపోయాయి. తప్పుడు సమాచారం యొక్క పోకడలు, లక్ష్యాలు మరియు ప్రధాన వ్యూహాలను వివరించే లూపా అబ్జర్వేటరీ వారి 'బ్రెజిల్లో తప్పుడు సమాచారం యొక్క మొదటి పనోరమా' ప్రకారం, బ్రెజిల్లో 2024 మరియు 2025 మధ్య ఏఐతో సృష్టించిన తప్పుడు కంటెంట్ వ్యాప్తి 308% వృద్ధితో మూడు రెట్లకు పైగా పెరిగింది. ఈ పరిస్థితిని నేషనల్ డేటా ప్రొటెక్షన్ అథారిటీ (ANPD) కూడా 'టెక్నలాజికల్ రాడార్ నెం. 6 – డీప్ఫేక్స్' అనే 163 పేజీల అధ్యయనంలో విశ్లేషించింది. ఈ అధ్యయనం వివిధ రకాల మోసాలు మరియు హక్కుల ఉల్లంఘనలలో సింథటిక్ కంటెంట్ ఎలా ఉపయోగించబడుతుందో వివరిస్తుంది.
సోషల్ మీడియాలో స్పాన్సర్డ్ ప్రకటనలు మరియు బూస్టెడ్ ప్రచారాలలో డీప్ఫేక్ల వాడకం అనేది అధికార సంస్థ హైలైట్ చేసిన ఆందోళన అంశాలలో ఒకటి. ఈ పత్రం ప్రకారం, నేరగాళ్లు ప్రసిద్ధ వ్యక్తుల చిత్రం లేదా స్వరాన్ని ఉపయోగించి నకిలీ ఆఫర్లను సృష్టించడం, నిర్దిష్ట వర్గాల ప్రేక్షకులకు కంటెంట్ను ప్రచారం చేయడం, మరియు బాధితులను క్లోన్ చేసిన వెబ్సైట్లకు లేదా చెల్లింపులు లేదా వ్యక్తిగత సమాచారాన్ని కోరే మోసపూరిత ప్లాట్ఫారమ్లకు మళ్లించడం వంటివి చేయగలరు. డిజిటల్ ప్లాట్ఫారమ్ల బాధ్యతలు మరియు అక్రమ కంటెంట్ వ్యాప్తిని తగ్గించగల యంత్రాంగాల ఆవశ్యకతపై చర్చలు ముమ్మరమవుతున్న తరుణంలో ANPD ఈ ప్రచురణను వెలువరించింది. ఈ నివేదిక ఆర్థిక మోసాలు, తప్పుదారి పట్టించే ప్రకటనలు, ఎన్నికల తప్పుడు సమాచారం, లింగ-ఆధారిత రాజకీయ హింస, జాత్యహంకారం, మరియు అంగీకారం లేకుండా చిత్రాలను ఉపయోగించడం వంటి వాటికి సంబంధించిన డీప్ఫేక్ల అనువర్తనాలను కూడా ప్రస్తావిస్తుంది. ఈ ప్రమాదాలు సైబర్ సెక్యూరిటీ రంగాన్ని దాటి గోప్యత, ప్రతిష్ట మరియు విశ్వాసం వంటి సమస్యల వరకు విస్తరిస్తాయని ఇది చూపిస్తుంది. అధికార సంస్థ విశ్లేషించిన బ్రెజిలియన్ కేసులలో ఒకటి, ఉనికిలో లేని ఉత్పత్తులను ప్రచారం చేయడానికి ప్రముఖుల డీప్ఫేక్లను ఉపయోగించడం. నివేదిక ప్రకారం, బాధ్యత వహించిన ముఠాపై జరిపిన దర్యాప్తులో R$ 20 మిలియన్లకు పైగా లావాదేవీలు జరిగినట్లు గుర్తించారు. బ్రెజిలియన్ నేషనల్ డేటా ప్రొటెక్షన్ అథారిటీ (ANPD) కూడా ఈ మోసాలు పెద్ద ఎత్తున పనిచేయగల సామర్థ్యంపై దృష్టిని ఆకర్షిస్తోంది. వీటిలో వ్యక్తిగతంగా కలిగే చిన్న నష్టాలే, అన్నీ కలిపినప్పుడు నేరస్థులకు అధిక లాభాలను తెచ్చిపెట్టగలవు. ఉదాహరణకు, 2025లో మోసాలలో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ వాడకానికి సంబంధించి FBIకి 22,364 ఫిర్యాదులు అందాయి, వీటి వల్ల సర్దుబాటు చేయబడిన నష్టాలు US$893.3 మిలియన్లను మించిపోయాయి. కొన్ని AI భాగాలను ఉపయోగించిన కార్పొరేట్ ఈమెయిల్ కాంప్రమైజ్ మోసాలకు సంబంధించి కంపెనీలు US$30 మిలియన్లకు పైగా నష్టాలను నివేదించాయి. వరల్డ్ ఎకనామిక్ ఫోరమ్ యొక్క గ్లోబల్ సైబర్సెక్యూరిటీ అవుట్లుక్ 2026 ప్రకారం, 2025లో ప్రతిస్పందించిన వారిలో 73% మంది డిజిటల్ మోసం వల్ల నేరుగా ప్రభావితమయ్యారు లేదా ప్రభావితమైన వారిని ఎరిగినవారే ఉన్నారు, అయితే 87% మంది AIకి సంబంధించిన బలహీనతలు పెరిగాయని భావించారు. LC SEC యొక్క CEO మరియు వ్యవస్థాపకుడైన లూయిజ్ క్లాడియో ప్రకారం , డీప్ఫేక్ల పురోగతి కారణంగా, కంపెనీలు గుర్తింపు మరియు ప్రామాణీకరణను కేవలం ఒక వ్యక్తి యొక్క రూపం లేదా స్వరంపై ఆధారపడలేని భద్రతా అంశాలుగా పరిగణించాల్సిన అవసరం ఉంది. సమస్య ఏమిటంటే, సాంప్రదాయ గుర్తింపు ధృవీకరణ ప్రక్రియలు, వాయిస్, ఇమేజ్ మరియు వీడియో కాన్ఫరెన్స్లో హాజరు కావడం వంటివి సాపేక్షంగా నమ్మదగిన సంకేతాలుగా పరిగణించబడే దృష్టాంతంలో నిర్మించబడ్డాయి. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అభివృద్ధితో, ఈ అంశాలను పునరుత్పత్తి చేయవచ్చు. కంపెనీలు కీలక నిర్ణయాల కోసం, ముఖ్యంగా అవి డబ్బు, సిస్టమ్లకు యాక్సెస్ లేదా సున్నితమైన సమాచారానికి సంబంధించినవి అయినప్పుడు, స్వతంత్ర నిర్ధారణ యంత్రాంగాలను సృష్టించుకోవాలి," అని ఆయన పేర్కొన్నారు. డిజిటల్ ప్రకటనలు మరియు ఆర్థిక రంగం ఈ రకమైన మోసానికి ఎక్కువగా గురయ్యే రంగాలలో ఉన్నాయి. చిత్రాలు మరియు వాయిస్ల వినియోగానికి మూలం మరియు అధికారాన్ని ధృవీకరించడంతో పాటు, కంపెనీలు సున్నితమైన కార్యకలాపాలలో అదనపు గుర్తింపు నిర్ధారణ యంత్రాంగాలను అవలంబించాల్సిన అవసరం ఉంది. అరుప్కు సంబంధించిన ఒక కేసులో ఈ ప్రమాదం స్పష్టమైంది, ఆ కేసులో నేరగాళ్లు వీడియో కాన్ఫరెన్స్లో ఎగ్జిక్యూటివ్ల సింథటిక్ ప్రాతినిధ్యాలను ఉపయోగించి, ఒక ఉద్యోగిని సుమారు US$25 మిలియన్లను బదిలీ చేసేలా ఒప్పించారు. నిపుణుడి ప్రకారం, సున్నితమైన కార్యకలాపాలలో సింథటిక్ కంటెంట్ను ఏకైక ప్రమాణీకరణ రూపంగా ఉపయోగించకుండా నిరోధించడానికి, అదనపు ధృవీకరణ పొరలను అవలంబించడం చాలా ప్రాథమికమైనది. "అధిక-ప్రమాదకర కార్యకలాపాల కోసం సంస్థలు స్వతంత్ర మార్గాల ద్వారా ధృవీకరణ యంత్రాంగాలను అవలంబించవచ్చు. చెల్లింపు అభ్యర్థనలు, బ్యాంకు వివరాలలో మార్పులు, పత్రాలను పంచుకోవడం లేదా యాక్సెస్ మంజూరు చేయడం వంటి వాటికి, ద్వంద్వ ఆమోదం, విధుల విభజన, పటిష్టమైన ప్రామాణీకరణ మరియు ఆడిట్ లాగ్లతో పాటు, ముందుగా తెలిసిన మార్గం ద్వారా రెండవ ధృవీకరణ అవసరం కావచ్చు. ఈ నియంత్రణల కలయిక, ఒకే ఒక్క కృత్రిమ ప్రాతినిధ్యం ఒక కీలకమైన చర్యకు అధికారం ఇవ్వడానికి సరిపోతుందనే అవకాశాన్ని తగ్గిస్తుంది," అని లూయిజ్ క్లాడియో నొక్కిచెప్పారు . మే 2026లో ప్రచురించబడిన డిక్రీలు నెం. 12,975 మరియు నెం. 12,976, పాలన, పారదర్శకత, మోసాల నివారణ మరియు ప్లాట్ఫారమ్లపై అక్రమ కంటెంట్కు సంబంధించి ANPD యొక్క అధికారాలను విస్తరించాయి. ఎన్నికల వాతావరణంలో, TSE తీర్మానం నెం. 23,755/2026, అభ్యర్థులు మరియు ప్రజా ప్రముఖుల చిత్రాలు మరియు స్వరాల వినియోగంపై గుర్తింపు అవసరాలు మరియు పరిమితులతో సహా, ప్రకటనలలో కృత్రిమ కంటెంట్ వినియోగానికి నియమాలను కూడా ఏర్పాటు చేసింది. లూయిజ్ క్లాడియో ప్రకారం , డీప్ఫేక్లను ఎదుర్కోవడానికి సాంకేతికత, అంతర్గత ప్రక్రియలు మరియు ఉద్యోగుల అవగాహనను మిళితం చేసే రక్షణ వ్యూహం అవసరం. కృత్రిమ కంటెంట్ను రూపొందించే సాంకేతికత వేగంగా అభివృద్ధి చెందుతోంది, మరియు అన్ని డీప్ఫేక్లను గుర్తించడానికి ఒకే సాధనంపై ఆధారపడటం అవాస్తవికం. రక్షణను వ్యక్తులు, ప్రక్రియలు మరియు సాంకేతికత అంతటా విస్తరించాలి. ఒక సంస్థ సున్నితమైన నిర్ణయాల కోసం స్పష్టమైన నియమాలను ఏర్పాటు చేసినప్పుడు, దాని బ్రాండ్ దుర్వినియోగాన్ని పర్యవేక్షించినప్పుడు, మరియు సాధారణ మార్గాలకు వెలుపల వచ్చే అభ్యర్థనలను ప్రశ్నించడానికి ఉద్యోగులను సిద్ధం చేసినప్పుడు, అది ఈ రకమైన మోసానికి వ్యతిరేకంగా మరో రక్షణ పొరను సృష్టిస్తుంది," అని ఆయన ముగించారు.
