డీప్ఫేక్లు (‘‘డీప్‌ లెర్నింగ్‌’’ మరియు ‘‘ఫేక్‌’’) అనేవి ఒక వ్యక్తి యొక్క పోలికను మరొకరితో నమ్మదగిన విధంగా భర్తీ చేయడానికి డిజిటల్గా మార్చబడ్డాయి. డీప్ఫేక్లు లోతైన ఉత్పాదక పద్ధతుల ద్వారా ముఖ రూపాన్ని మార్చడం, నకిలీ కంటెంట్ను సృష్టించే చర్య కొత్తది కానప్పటికీ, డీప్ఫేక్లు మెషిన్‌ లెర్నింగ్‌, ఆర్టిఫిషియల్‌ ఇంటెలిజెన్స్‌ నుండి శక్తివంతమైన సాంకేతికతలను ప్రభావితం చేస్తాయి, తద్వారా దృశ్య, ఆడియో కంటెంట్ను సులభంగా మోసగించవచ్చు. డీప్ఫేక్లను రూపొందించడానికి ఉపయోగించే ప్రధాన మెషిన్‌ లెర్నింగ్‌ పద్ధతులు లోతైన అభ్యాసంపై ఆధారపడి ఉంటాయి, ఆటోఎన్కోడర్లు, ఉత్పాదక వ్యతిరేక నెట్వర్క్లు వంటి ఉత్పాదక నాడీ నెట్వర్క్‌ ఆర్కిటెక్చర్లకు శిక్షణ ఇస్తాయి. ప్రతిగా ఇమేజ్‌ ఫోరెన్సిక్స్‌ రంగం తారుమారు చేయబడిన చిత్రాలను గుర్తించే పద్ధతులను అభివృద్ధి చేస్తుంది. పిల్లల లైంగిక వేధింపుల మెటీరియల్‌, సెలబ్రిటీల అశ్లీల వీడియోలు, రివెంజ్‌ పోర్న్‌, ఫేక్‌ న్యూస్‌, బూటకపు మాటలు, బెదిరింపులు ఆర్థిక మోసాలను రూపొందించడంలో డీప్ఫేక్లు దృష్టిని ఆకర్షించాయి. డీప్ఫేక్ల ద్వారా తప్పుడు సమాచారం ద్వేషపూరిత ప్రసంగం వ్యాప్తి చెందడం వల్ల ప్రజాస్వామ్య వ్యవస్థల ప్రధాన విధులు నిబంధనలను అణగదొక్కే అవకాశం ఉంది, వ్యక్తులను ప్రభావితం చేసే నిర్ణయాలలో పాల్గొనడం, సామూహిక ఎజెండాలను నిర్ణయించడం రాజకీయ సంకల్పాన్ని తెలియజేసే నిర్ణయం తీసుకోవడం ద్వారా జోక్యం చేసుకోవడం.
డీప్ఫేక్‌ అంటే ఏమిటి? What is deepfake?
బరాక్‌ ఒబామా డొనాల్డ్‌ ట్రంప్ను ‘‘డిప్షిట్‌’’ అని పిలవడం లేదా ‘‘బిలియన్ల కొద్దీ ప్రజల దొంగిలించబడిన డేటాపై పూర్తి నియంత్రణ’’ ఉందని మార్క్‌ జుకర్బర్గ్‌ గొప్పగా చెప్పుకోవడం, గేమ్‌ ఆఫ్‌ థ్రోన్స్కు దుర్భరమైన ముగింపు కోసం జోన్‌ స్నో కదిలే క్షమాపణలను చూశారా? ఈ సంఘటనలు చూసి ఉంటే మీరు డీప్ఫేక్ని చూశారు. ఫోటోషాపింగ్కి 21వ శతాబ్దపు సమాధానం, డీప్ఫేక్లు నకిలీ సంఘటనల చిత్రాలను రూపొందించడానికి డీప్‌ లెర్నింగ్‌ అనే కృత్రిమ మేధస్సును ఉపయోగిస్తాయి, అందుకే డీప్ఫేక్‌ అని పేరు వచ్చింది. రాజకీయ నాయకుడి నోటిలో కొత్త పదాలు పెట్టాలనుకుంటున్నారా, మీకు ఇష్టమైన సినిమాలో నటించాలనుకుంటున్నారా లేదా ప్రో లాగా డ్యాన్స్‌ చేయాలనుకుంటున్నారా? డీప్ఫేక్‌ మీకు ఉపయోగపడుతుంది. డీప్‌ ట్రేస్‌ సంస్థ సెప్టెంబరు 2019లో ఆన్లైన్లో 15,000 డీప్ఫేక్‌ వీడియోలను కనుగొంది, ఇది తొమ్మిది నెలల్లో దాదాపు రెట్టింపు అయింది. 96% అశ్లీలమైనవి 99% మంది మహిళా ప్రముఖుల నుండి పోర్న్‌ స్టార్ల వరకు మ్యాప్‌ చేసిన ముఖాలు. నైపుణ్యం లేని వ్యక్తులు కొన్ని ఫోటోలతో డీప్ఫేక్లను రూపొందించడానికి కొత్త టెక్నిక్లు అనుమతిస్తాయి కాబట్టి, ఫేక్‌ వీడియోలు సెలబ్రిటీ ప్రపంచం దాటి పోర్న్కు ఆజ్యం పోసే అవకాశం ఉంది. మహిళలకు వ్యతిరేకంగా అసభ్యకరంగా డీప్‌ ఫెక్‌ ఉంటున్నది.’’ పోర్న్కు మించి స్పూఫ్‌, సెటైర్‌ మరియు అల్లర్లు పుష్కలంగా ఉన్నాయి. డీప్ఫేక్‌ టెక్నాలజీ మొదటి నుండి నమ్మదగిన కానీ పూర్తిగా కల్పిత ఫోటోలను సృష్టించగలదు. ఉనికిలో లేని బ్లూమ్బెర్గ్‌ జర్నలిస్ట్‌, ‘‘మైసీ కిన్స్లీ’’, లింక్డ్‌ఇన్‌ ట్విటర్లో ప్రొఫైల్ను కలిగి ఉన్నాడు, బహుశా డీప్ఫేక్‌ కావచ్చు. మరొక లింక్డ్‌ఇన్‌ నకిలీ, ‘‘కేటీ జోన్స్‌’’, సెంటర్‌ ఫర్‌ స్ట్రాటజిక్‌ అండ్‌ ఇంటర్నేషనల్‌ స్టడీస్లో పనిచేస్తున్నట్లు పేర్కొంది, అయితే ఇది విదేశీ గూఢచర్యం కోసం సృష్టించబడిన డీప్ఫేక్‌ అని భావిస్తున్నారు.
పబ్లిక్‌ వ్యక్తుల ‘‘వాయిస్‌ స్కిన్లు’’ లేదా ‘‘వాయిస్‌ క్లోన్లు’’ సృష్టించడానికి ఆడియోను డీప్ఫేక్‌ చేయవచ్చు. గత మార్చిలో, జర్మన్‌ సీఈఓ స్వరాన్ని అనుకరిస్తూ మోసగాడు ఫోన్‌ చేయడంతో ఒక జర్మన్‌ ఇంధన సంస్థ యుకే అనుబంధ సంస్థ చీఫ్‌ దాదాపు 200,000ని హంగేరియన్‌ బ్యాంక్‌ ఖాతాలోకి చెల్లించాడు. కంపెనీ బీమా సంస్థలు వాయిస్‌ డీప్ఫేక్‌ అని నమ్ముతారు, అయితే సాక్ష్యం అస్పష్టంగా ఉంది. ఇలాంటి స్కామ్లు రికార్డ్‌ చేసిన వాట్సాప్‌ వాయిస్‌ మెసేజ్లను ఉపయోగించినట్లు నివేదించబడిరది. యూనివర్శిటీ పరిశోధకులు, స్పెషల్‌ ఎఫెక్ట్స్‌ స్టూడియోలు చాలా కాలంగా వీడియో ఇమేజ్‌ మానిప్యులేషన్తో సాధ్యమయ్యే సరిహద్దులను తెచ్చాయి. అయితే 2017లో అదే పేరుతో ఉన్న రెడ్డిట్‌ యూజర్‌ డాక్టరేటెడ్‌ పోర్న్‌ క్లిప్లను సైట్లో పోస్ట్‌ చేయడంతో డీప్ఫేక్లు పుట్టుకొచ్చాయి. ఈ వీడియోలు సెలబ్రిటీల ముఖాలను – గాల్‌ గడోట్‌, టేలర్‌ స్విఫ్ట్‌, స్కార్లెట్‌ జాన్సన్‌ ఇతరుల ముఖాలను అశ్లీల ప్రదర్శనకారులకు మార్చాయి. విద్యా పారిశ్రామిక పరిశోధకుల నుండి ఔత్సాహిక ఔత్సాహికులు, విజువల్‌ ఎఫెక్ట్స్‌ స్టూడియోలు మరియు పోర్న్‌ నిర్మాతల వరకు అందరూ. ప్రభుత్వాలు కూడా తమ ఆన్లైన్‌ వ్యూహాలలో భాగంగా తీవ్రవాద సమూహాలను అప్రతిష్టపాలు చేయడానికి లేదా అంతరాయం కలిగించడానికి లేదా లక్ష్యంగా చేసుకున్న వ్యక్తులతో సంబంధాలు ఏర్పరచుకోవడానికి సాంకేతికతను ఉపయోగించుకోవచ్చు. విద్యా పారిశ్రామిక పరిశోధకుల నుండి ఔత్సాహికులు, విజువల్‌ ఎఫెక్ట్స్‌ స్టూడియో, పోర్న్‌ నిర్మాతల వరకు అందరూ. ప్రభుత్వాలు కూడా తమ ఆన్లైన్‌ వ్యూహాలలో భాగంగా తీవ్రవాద సమూహాలను అప్రతిష్టపాలు చేయడానికి లేదా అంతరాయం కలిగించడానికి లేదా లక్ష్యంగా చేసుకున్న వ్యక్తులతో సంబంధాలు ఏర్పరచుకోవడానికి సాంకేతికతను ఉపయోగించుకోవచ్చు.
ఫేస్‌-స్వాప్‌ వీడియో చేయడానికి ఇది కొన్ని దశలను తీసుకుంటుంది. ఎన్కోడర్‌ అని పిలువబడే ఏఐ అల్గారిథమ్‌ ద్వారా ఇద్దరు వ్యక్తుల యొక్క వేలకొద్దీ ఫేస్‌ షాట్లను చేస్తారు. ఎన్కోడర్‌ రెండు ముఖాల మధ్య సారూప్యతలను కనుగొంది మరియు నేర్చుకుంటుంది మరియు ప్రక్రియలో ఉన్న చిత్రాలను కుదించడం ద్వారా వారి భాగస్వామ్య సాధారణ లక్షణాలకు వాటిని తగ్గిస్తుంది. డీకోడర్‌ అని పిలువబడే రెండవ ఏఐ అల్గోరిథం కంప్రెస్‌ చేయబడిన చిత్రం నుండి ముఖాలను పునరుద్ధరించడానికి బోధించబడుతుంది. ముఖాలు భిన్నంగా ఉన్నందున, మొదటి వ్యక్తి ముఖాన్ని రికవర్‌ చేయడానికి ఒక డీకోడర్కి మరియు రెండవ వ్యక్తి ముఖాన్ని పునరుద్ధరించడానికి మరొక డీకోడర్కు శిక్షణ ఇస్తారు. ఫేస్‌ స్వాప్‌ చేయడానికి, చిత్రాలను ‘‘తప్పు’’ డీకోడర్లోకి ఫీడ్‌ చేస్తారు. డీప్ఫేక్‌ కంటెంట్‌ సమస్యను పరిష్కరించడంలో సోషల్‌ మీడియా ప్లాట్ఫారమ్లు చురుకుగా ఉండటం ప్రాముఖ్యతను మంత్రి వైష్ణవ్‌ నొక్కిచెప్పారు. అటువంటి కంటెంట్‌ వ్యాప్తి వలన కలిగే నష్టాన్ని నివారించడానికి వేగవంతమైన సమర్థవంతమైన డీప్ఫేక్‌ టెక్నాలజీ వల్ల కలిగే హాని గురించి పెరుగుతున్న అవగాహనను ప్రతి పౌరుడికి తెలియజేయాలి. తప్పుడు సమాచారం పరంగా మాత్రమే కాకుండా సమాజం ప్రజాస్వామ్య సంస్థలపై నమ్మకంపై కూడా దాని ప్రభావం ఉంటుంది.
-డా. ముచ్చుకోట సురేష్‌బాబు, అధ్యక్షులు, ప్రజా సైన్స్‌ వేదిక
