చాట్‌జీపీటీతో ప్రభావిత ప్రచారం.. రష్యా, ఇరాన్‌కు చెందిన ఖాతాలను నిషేధించిన ఓపెన్‌ఏఐ

టెక్నాలజీ డెస్క్, అక్టోబర్ 9: చాట్‌జీపీటీ వంటి జనరేటివ్ ఏఐ సాధనాలను ఉపయోగించి ప్రభావిత ప్రచారం, నకిలీ గుర్తింపులు, మాయ సంస్థలు, నకిలీ మీడియా కంటెంట్ రూపొందిస్తున్న రెండు అంతర్జాతీయ ఆపరేషన్లను అడ్డుకున్నట్లు ఓపెన్‌ఏఐ వెల్లడించింది. ఒకటి రష్యా మూలాలున్న ఆపరేషన్ కాగా, మరొకటి ఇరాన్ నుంచి నడిచిన ప్రభావిత ప్రచారం అని సంస్థ తెలిపింది. అక్టోబర్ 8న విడుదల చేసిన తాజా భద్రతా నివేదికలో ఈ వివరాలను వెల్లడించింది. ఓపెన్‌ఏఐ ప్రకారం, ఈ రెండు ఆపరేషన్లు కేవలం సోషల్ మీడియా పోస్టులు తయారు చేయడానికే ఏఐని ఉపయోగించలేదు. అంతకంటే ముందుకు వెళ్లి నకిలీ “ఫ్రంట్” సంస్థలు, జర్నలిస్టు వ్యక్తిత్వాలు, పరిశోధన వేదికలు, అంతర్గత నివేదికలు, నకిలీ లీక్ పత్రాలు, ఆడియో స్క్రిప్టులు తయారు చేయడంలో కూడా మోడళ్లను ఉపయోగించాయి. ఈ కార్యకలాపాల ప్రధాన ఉద్దేశం అసలు మూలాన్ని దాచిపెట్టి, భౌగోళిక రాజకీయ సందేశాలను నిజమైన సంస్థలు లేదా వ్యక్తుల అభిప్రాయాల్లా కనిపించేలా చేయడమని ఓపెన్‌ఏఐ పేర్కొంది. ఇరాన్‌కు చెందిన ఆపరేషన్‌ను ఓపెన్‌ఏఐ “Bogus Bylines” అని పేర్కొంది. ఈ ఆపరేషన్‌లో ఏడు నకిలీ జర్నలిస్టు పేర్లను ఉపయోగించి దీర్ఘ వ్యాసాలు, ఎడిటోరియల్ పిచ్‌లు, సోషల్ మీడియా కామెంట్లు తయారు చేసినట్లు వెల్లడించింది. ఈ ఖాతాలు ప్రధానంగా పర్షియన్, ఇంగ్లీష్ భాషల్లో కంటెంట్ రూపొందించాయని తెలిపింది. వీరు తమ అసలు లొకేషన్‌ను దాచేందుకు VPNలను ఉపయోగించినట్లు సంస్థ పేర్కొంది. ఈ ఇరాన్ ఆపరేషన్‌లో అత్యంత దృష్టి ఆకర్షించిన అంశం మీడియా సంస్థల్లో కంటెంట్ ప్రచురింపజేయడమే. ఓపెన్‌ఏఐ ప్రకారం, ఈ నకిలీ పేర్లతో దాదాపు 100 వ్యాసాలు ప్రపంచంలోని డజను వరకూ చిన్న, మధ్యస్థాయి ఆన్‌లైన్ పబ్లికేషన్లలో ప్రచురించబడ్డాయి లేదా సిండికేట్ అయ్యాయి. ఈ పత్రికలు ప్రధానంగా అంతర్జాతీయ వ్యవహారాలు, భౌగోళిక రాజకీయాలు, మధ్యప్రాచ్య అంశాలపై కేంద్రీకృతమై ఉన్నాయి. ఈ వ్యాసాల్లో ఎక్కువ భాగం అమెరికా-ఇరాన్ ఘర్షణ, ప్రాంతీయ రాజకీయాలు, సంబంధిత విదేశాంగ అంశాలపై కేంద్రీకృతమై ఉన్నట్లు ఓపెన్‌ఏఐ తెలిపింది. సోషల్ మీడియాలో కూడా “US-Iran war updates” వంటి అంశాలపై స్పందనలు, కామెంట్లు తయారు చేసినట్లు గుర్తించింది. అయితే ఈ సోషల్ మీడియా పోస్టులకు పెద్దగా సహజమైన ఎంగేజ్‌మెంట్ రాలేదని సంస్థ స్పష్టం చేసింది. OpenAI ఇక్కడ ఒక ముఖ్యమైన విషయం ఏమిటంటే, ఈ ఆపరేషన్‌కు సంబంధించిన అన్ని వ్యాసాలు లేదా పోస్టులు చాట్‌జీపీటీ పూర్తిగా మొదటి నుంచి రాసినవే కావని ఓపెన్‌ఏఐ స్పష్టం చేసింది. కొన్ని సందర్భాల్లో ఇప్పటికే ఉన్న డ్రాఫ్టులను మెరుగుపరచడం, నిర్దిష్ట పబ్లికేషన్‌కు సరిపోయేలా మార్చడం, పిచ్‌లను రూపొందించడం, భాషను సవరించడం వంటి పనులకు మోడళ్లను ఉపయోగించారు. OpenAI రష్యా మూలాలున్న ఆపరేషన్‌ను ఓపెన్‌ఏఐ “Dark Clark”గా పేర్కొంది. ఈ నెట్‌వర్క్‌ నకిలీ లేదా తప్పుదారి పట్టించే “థింక్ ట్యాంక్” తరహా సంస్థలు, పరిశోధన వేదికలు, నకిలీ పత్రాలు, ఆడియో స్క్రిప్టులు తయారు చేయడంలో ఏఐని ఉపయోగించినట్లు తెలిపింది. లాటిన్ అమెరికాలో తెలియకుండా భాగస్వాములైన వ్యక్తులను ఉపయోగించి ఒక పరిశోధన వేదికను నడిపించే ప్రయత్నం కూడా జరిగినట్లు వెల్లడించింది. ఈ రష్యా ఆపరేషన్‌కు సంబంధించిన గత దర్యాప్తులో “International Burke Institute” అనే స్వయంఘోషిత “expert community”ను ప్రచారం చేయడానికి చాట్‌జీపీటీ ఖాతాలు ఉపయోగించినట్లు ఓపెన్‌ఏఐ ఇప్పటికే వెల్లడించింది. రష్యా మూలాలున్న ఆపరేటర్లు రష్యన్ భాషలో ప్రాంప్ట్‌లు ఇచ్చి, ఇంగ్లీష్‌లో సోషల్ మీడియా కంటెంట్ తయారు చేయించేవారని సంస్థ తెలిపింది. ఈ ఆపరేషన్‌లో ఒక “sovereignty index”, కాపీ చేసిన లేదా తప్పుగా ఆపాదించిన అకడమిక్ కంటెంట్, ఫేక్ పరిశోధన నివేదికలు వంటి అంశాలను ఉపయోగించి రష్యాకు అనుకూలమైన కథనాలను ప్రచారం చేయడానికి ప్రయత్నించినట్లు ఓపెన్‌ఏఐ పేర్కొంది. ఈ ఖాతాలు రష్యా నుంచి నేరుగా సేవలను యాక్సెస్ చేయకుండా VPNలను ఉపయోగించినట్లు కూడా తెలిపింది. తాజా నివేదికలో ఈ రష్యా ఆపరేషన్‌ను ఓపెన్‌ఏఐ తన Influence Operations Breakout Scaleలో Category 5గా వర్గీకరించింది. సంస్థ ఇప్పటివరకు అడ్డుకున్న ప్రభావిత ప్రచారాల్లో ఇది అత్యధిక ప్రభావ సామర్థ్యం కలిగిన కేసులలో ఒకటని పేర్కొంది. ఇరాన్ ఆపరేషన్‌కు Category 4 రేటింగ్ ఇచ్చింది. ఈ రేటింగ్‌ను “ఎంతమంది నిజంగా ప్రభావితమయ్యారు” అన్న నిర్ధారణగా చూడకూడదు. ఓపెన్‌ఏఐ ప్రకారం, ఈ స్కేలు ఒక ఆపరేషన్ సాధించిన చేరుకోలు, మీడియా ప్రవేశం, విస్తరణ సామర్థ్యం, ఉపయోగించిన పద్ధతుల స్థాయిని అంచనా వేయడానికి ఉపయోగపడుతుంది. ముఖ్యంగా ప్రధాన మీడియా లేదా నిజమైన పబ్లికేషన్లలో కంటెంట్ ప్రవేశపెట్టే ఆపరేషన్లు సాధారణ సోషల్ మీడియా ఫేక్ అకౌంట్ల కంటే ఎక్కువ ప్రభావం చూపే అవకాశం ఉంటుందని సంస్థ పేర్కొంది. OpenAI ఇరాన్ ఆపరేషన్‌లో సోషల్ మీడియా కామెంట్లు పెద్దగా వైరల్ కాలేదని ఓపెన్‌ఏఐ స్పష్టం చేసింది. కొన్ని పోస్టులకు వచ్చిన లైకులు కూడా ఆ ఆపరేషన్‌కు చెందిన ఇతర ఖాతాల నుంచే వచ్చినట్లు కనిపించిందని తెలిపింది. అంటే కంటెంట్ తయారీ సామర్థ్యం పెరిగినా, అది తప్పనిసరిగా భారీ ప్రజాభిప్రాయ ప్రభావంగా మారలేదని ఈ కేసు సూచిస్తోంది. అదే సమయంలో నకిలీ జర్నలిస్టు పేర్లతో నిజమైన పబ్లికేషన్లలో వ్యాసాలు ప్రచురించబడటం మరింత తీవ్రమైన అంశంగా మారింది. ఎందుకంటే సాధారణ సోషల్ మీడియా ఫేక్ పోస్టుతో పోలిస్తే, నిజమైన వార్తా వెబ్‌సైట్‌లో ప్రచురితమైన వ్యాసానికి విశ్వసనీయత ఎక్కువగా కనిపించే అవకాశం ఉంటుంది. ఓపెన్‌ఏఐ కూడా ఇదే అంశాన్ని ప్రధాన ప్రమాదంగా పేర్కొంది. ఏఐ వల్ల కొత్తరకం ప్రభావిత ప్రచారం పూర్తిగా పుట్టలేదని, కానీ గతంలో మానవశక్తి ఎక్కువగా అవసరమైన కొన్ని ప్రక్రియలను వేగంగా, తక్కువ ఖర్చుతో చేయడం సాధ్యమైందని తెలిపింది. నకిలీ జర్నలిస్టు ప్రొఫైల్స్ సృష్టించడం, పెద్ద మొత్తంలో కంటెంట్ డ్రాఫ్ట్ చేయడం, ఒకే కథనాన్ని అనేక భాషల్లో మార్చడం, ఎడిటోరియల్ ప్రమాణాలకు సరిపోయేలా వ్యాసాలను మెరుగుపరచడం వంటి పనులు ఏఐతో వేగంగా చేయగలిగినప్పటికీ, పంపిణీ, విశ్వసనీయత నిర్మాణం, ప్రేక్షకులను నిజంగా ప్రభావితం చేయడం వంటి అంశాలకు ఇంకా సాంప్రదాయ పద్ధతులే అవసరమవుతున్నాయని నివేదిక సూచిస్తుంది. ఈ రెండు కేసుల్లో సంబంధిత ChatGPT ఖాతాలను నిషేధించినట్లు ఓపెన్‌ఏఐ తెలిపింది. ఇరాన్‌కు సంబంధించిన కేసు వివరాలను సంబంధిత అధికారులతో, పరిశ్రమ భాగస్వాములతో పంచుకున్నట్లు కూడా పేర్కొంది. ఈ నివేదిక ఏఐ భద్రతపై మరో కీలక ప్రశ్నను తెరపైకి తెస్తోంది. జనరేటివ్ ఏఐ సాధనాలు సాధారణ వినియోగదారులకు రచన, అనువాదం, పరిశోధన, కోడింగ్, విద్య వంటి అనేక ప్రయోజనాలు అందిస్తున్నప్పటికీ, అదే సామర్థ్యాలను ప్రభావిత ప్రచారం, మోసపూరిత గుర్తింపులు, నకిలీ కంటెంట్ కోసం కూడా ఉపయోగించే ప్రయత్నాలు జరుగుతున్నాయి. అందుకే కేవలం కంటెంట్‌లో తప్పు ఉందా లేదా అన్నది చూడటం సరిపోదు. దాని వెనుక ఎవరు ఉన్నారు, వారు తమ అసలు గుర్తింపును దాచుతున్నారా, కంటెంట్‌ను సమన్వయంతో పంపిణీ చేస్తున్నారా, నకిలీ వ్యక్తులు లేదా సంస్థలను ఉపయోగిస్తున్నారా వంటి అంశాలు కూడా కీలకంగా మారుతున్నాయి. మీడియా సంస్థలకూ ఇది హెచ్చరికే. రచయిత బయో, సోషల్ మీడియా ప్రొఫైల్, ఇమెయిల్ చిరునామా, గత రచనలు, సంస్థ అనుబంధం వంటి అంశాలను ధృవీకరించకుండా అతిథి వ్యాసాలు ప్రచురించడం ప్రమాదకరం. ఈ తాజా కేసుల్లో నకిలీ జర్నలిస్టు పేర్లు చిన్న, మధ్యస్థాయి పబ్లికేషన్లలో స్థానం సంపాదించడం అదే లోపాన్ని చూపిస్తోంది. సోషల్ మీడియా వినియోగదారులు కూడా వార్త లేదా అభిప్రాయాన్ని పంచుకునే ముందు మూలాన్ని పరిశీలించడం అవసరం. ఒక ఖాతా విదేశీ పేరుతో కనిపించడం, ప్రొఫెషనల్ బయో ఉండటం, కొన్ని మీడియా లింకులు షేర్ చేయడం మాత్రమేతో అది నిజమైన జర్నలిస్టు లేదా పరిశోధకుడని నిర్ధారించలేం. ఓపెన్‌ఏఐ తాజా నివేదికలో మరో స్పష్టమైన సందేశం ఉంది: ఏఐ ప్రభావిత ప్రచారాన్ని “మాయాజాలం”లా చూడాల్సిన అవసరం లేదు. ఈ టెక్నాలజీ పాత పద్ధతులకు వేగం, పరిమాణం, భాషా సామర్థ్యం జోడిస్తోంది. కానీ ప్రభావం సాధించడానికి ఇంకా మానవ నెట్‌వర్క్‌లు, నిజమైన మీడియా సంస్థల్లో ప్రవేశం, సోషల్ ప్లాట్‌ఫారమ్ పంపిణీ వంటి పాత విధానాలు కీలకంగానే ఉన్నాయి. రష్యా, ఇరాన్‌కు చెందిన ఈ రెండు ఆపరేషన్లు అదే విషయాన్ని చూపిస్తున్నాయి. ఒకవైపు ఏఐతో కంటెంట్ తయారీ సామర్థ్యం పెరిగింది; మరోవైపు నిజమైన ప్రభావం కోసం ఆ కంటెంట్‌ను విశ్వసనీయ వేదికల్లోకి చొప్పించే ప్రయత్నాలు జరిగాయి. మొత్తంగా, ఓపెన్‌ఏఐ చర్య కేవలం కొన్ని ఖాతాల నిషేధానికి పరిమితం కాదు. జనరేటివ్ ఏఐని ఉపయోగించి నకిలీ గుర్తింపులు, ఫ్రంట్ సంస్థలు, మీడియా ప్రచారం నిర్వహించే కొత్త తరహా ప్రభావిత ఆపరేషన్లపై ప్లాట్‌ఫారమ్‌లు మరింత పర్యవేక్షణ పెంచుతున్నాయని ఈ పరిణామం సూచిస్తోంది