భారతదేశం మరియు పాకిస్తాన్ మధ్య జరిగిన స్వల్ప వివాదం సమయంలో, తప్పుడు సమాచారం విపరీతంగా పెరిగింది, సోషల్ మీడియా వినియోగదారులు ధృవీకరణ కోసం AI చాట్‌బాట్‌లపై ఆధారపడటం ప్రారంభించారు. అయితే, ఈ చాట్‌బాట్‌లు మరింత తప్పుడు సమాచారాన్ని అందించాయి, ఇది వాస్తవ తనిఖీ సాధనాలుగా వాటి విశ్వసనీయతను ఎత్తి చూపుతుంది. ప్రధాన టెక్నాలజీ ప్లాట్‌ఫారమ్‌లు మానవ వాస్తవ తనిఖీ చేసేవారి సంఖ్యను తగ్గిస్తూ ఉండటంతో, వినియోగదారులు విశ్వసనీయ సమాచారం కోసం xAI యొక్క Grok, OpenAI యొక్క ChatGPT మరియు Google యొక్క Gemini వంటి AI ఆధారిత చాట్‌బాట్‌లపై ఎక్కువగా ఆధారపడుతున్నారు.
AI చాట్‌బాట్ వాస్తవ తనిఖీ పెరుగుదల
ఎలోన్ మస్క్ (Elon Musk) యొక్క X ప్లాట్‌ఫారమ్ (గతంలో ట్విట్టర్)లో, “@Grok, ఇది నిజమా?” అనేది వినియోగదారులకు సాధారణ ప్రశ్నగా మారింది. Grok అనేది X ప్లాట్‌ఫారమ్‌లో నిర్మించబడిన AI సహాయకుడు, సోషల్ మీడియాలో తక్షణమే అవాస్తవాలను తొలగించే ధోరణిని ప్రతిబింబిస్తుంది. అయితే, ఈ AI చాట్‌బాట్‌ల సమాధానాలు తరచుగా తప్పుడు సమాచారంతో నిండి ఉన్నాయి.
Grok ఇటీవల చాలా శ్రద్ధ పొందింది, ఎందుకంటే ఇది సంబంధం లేని ప్రశ్నలలో “తెల్ల జాతి మరణశిక్ష" అనే తీవ్ర కుడి వైపు కుట్ర సిద్ధాంతాన్ని చొప్పించింది. Grok తప్పుగా సూడాన్‌లోని ఖార్టూమ్ విమానాశ్రయం నుండి వచ్చిన పాత వీడియో క్లిప్‌లను భారతదేశం-పాకిస్తాన్ వివాదం సమయంలో పాకిస్తాన్ నూర్ ఖాన్ ఎయిర్ ఫోర్స్ బేస్‌పై క్షిపణి దాడిగా గుర్తించింది. అదనంగా, నేపాల్‌లో మంటల్లో కాలిపోతున్న ఒక భవనం పాకిస్తాన్ భారతదేశంపై దాడికి సైనిక ప్రతిస్పందనను చూపుతుందని తప్పుగా గుర్తించబడింది.
AI వాస్తవ తనిఖీ పరిమితులు
సమాచార పర్యవేక్షణ సంస్థ న్యూస్‌గార్డ్ పరిశోధకుడు మెకంజీ సదేఘి AFPతో మాట్లాడుతూ, “X మరియు ఇతర పెద్ద టెక్ కంపెనీలు మానవ వాస్తవ తనిఖీ చేసేవారిపై పెట్టుబడులను తగ్గించడంతో, ప్రజలు వాస్తవ తనిఖీ చేసే వ్యక్తిగా Grokపై ఎక్కువగా ఆధారపడుతున్నారు.” “AI చాట్‌బాట్‌లు నమ్మదగిన వార్తలు మరియు సమాచార వనరులు కావు అని మా పరిశోధన పదే పదే కనుగొంది, ప్రత్యేకించి బ్రేకింగ్ న్యూస్ విషయానికి వస్తే” అని ఆమె హెచ్చరించారు.
Grokతో సహా 10 ప్రముఖ చాట్‌బాట్‌లు రష్యా యొక్క తప్పుడు ప్రచారాలు మరియు ఇటీవల జరిగిన ఆస్ట్రేలియా ఎన్నికలకు సంబంధించిన తప్పుడు లేదా తప్పుదోవ పట్టించే వాదనలతో సహా తప్పుడు సమాచారాన్ని సులభంగా పునరావృతం చేస్తాయని NewsGuard పరిశోధనలో తేలింది. కొలంబియా విశ్వవిద్యాలయంలోని డిజిటల్ జర్నలిజం యొక్క టౌ సెంటర్ ఇటీవల ఎనిమిది AI శోధన సాధనాలపై ఒక అధ్యయనం నిర్వహించింది మరియు చాట్‌బాట్‌లు “ఖచ్చితంగా సమాధానం చెప్పలేని ప్రశ్నలకు సమాధానం చెప్పడానికి నిరాకరించడంలో సాధారణంగా మంచివి కావు, బదులుగా సరికాని లేదా ఊహాజనిత సమాధానాలను అందిస్తున్నాయి.”
ఉరుగ్వేలోని AFP యొక్క వాస్తవ తనిఖీ చేసేవారు AI ద్వారా రూపొందించబడిన మహిళా చిత్రం గురించి జెమినిని ప్రశ్నించారు, జెమిని చిత్రం యొక్క ప్రామాణికతను ధృవీకరించడమే కాకుండా, ఆ మహిళ గుర్తింపు మరియు చిత్రం తీసి ఉండగల ప్రదేశం గురించి వివరాలను కల్పించింది.
అమెజాన్ నదిలో ఈదుతున్న భారీ కొండచిలువ యొక్క వీడియో అని చెప్పబడే ఒక వీడియోను Grok ఇటీవల “నిజమైనది”గా గుర్తించింది మరియు దాని తప్పుడు వాదనకు మద్దతుగా విశ్వసనీయంగా ఉన్న శాస్త్రీయ యాత్రను ఉదహరించింది. వాస్తవానికి, వీడియో AI ద్వారా రూపొందించబడింది మరియు లాటిన్ అమెరికాలోని AFP యొక్క వాస్తవ తనిఖీ చేసేవారు చాలా మంది వినియోగదారులు వీడియో నిజమని రుజువుగా Grok యొక్క మూల్యాంకనాన్ని ఉటంకిస్తున్నారని నివేదించారు.
AI వాస్తవ తనిఖీపై ఆందోళనలు
ఆన్‌లైన్ వినియోగదారులు ఎక్కువ మంది సమాచారాన్ని సేకరించడానికి మరియు ధృవీకరించడానికి సాంప్రదాయ శోధన ఇంజిన్‌ల నుండి AI చాట్‌బాట్‌లకు మారుతున్నారని సర్వేలు చూపిస్తున్నందున, ఈ ఫలితాలు ఆందోళనలను రేకెత్తించాయి. ఇంతలో, Meta ఈ సంవత్సరం ప్రారంభంలో USలో థర్డ్-పార్టీ వాస్తవ తనిఖీ కార్యక్రమాన్ని ముగించి, అవాస్తవాలను తొలగించే పనిని సాధారణ వినియోగదారులకు అప్పగిస్తామని ప్రకటించింది. X ప్లాట్‌ఫారమ్ ద్వారా ప్రోత్సహించబడిన “కమ్యూనిటీ నోట్స్” అనే నమూనాను ఉపయోగించుకుంటుంది. అయితే, పరిశోధకులు తప్పుడు సమాచారాన్ని ఎదుర్కోవడంలో “కమ్యూనిటీ నోట్స్” యొక్క ప్రభావాన్ని పదే పదే ప్రశ్నించారు.
మానవ వాస్తవ తనిఖీ చాలా కాలంగా ధ్రువణ రాజకీయ వాతావరణంలో ఒక వివాదాస్పద అంశంగా ఉంది, ముఖ్యంగా USలో, సంప్రదాయవాదులు ఇది వాక్ స్వాతంత్ర్యాన్ని అణిచివేస్తుందని మరియు కుడి-వింగ్ కంటెంట్‌ను సెన్సార్ చేస్తుందని వాదిస్తున్నారు, అయితే వృత్తిపరమైన వాస్తవ తనిఖీ చేసేవారు ఈ వాదనను తీవ్రంగా వ్యతిరేకిస్తున్నారు.
AFP ప్రస్తుతం ఆసియా, లాటిన్ అమెరికా మరియు EUతో సహా 26 భాషలలో Facebook యొక్క వాస్తవ తనిఖీ కార్యక్రమంలో భాగస్వామ్యం కలిగి ఉంది.
AI చాట్‌బాట్‌ల నాణ్యత మరియు ఖచ్చితత్వం వాటి శిక్షణ మరియు ప్రోగ్రామింగ్‌ను బట్టి మారవచ్చు, ఇది రాజకీయ ప్రభావం లేదా నియంత్రణకు లోబడి ఉండవచ్చు అనే ఆందోళనలను రేకెత్తిస్తోంది.
మస్క్ యొక్క xAI ఇటీవల దక్షిణాఫ్రికాలో “తెల్ల జాతి మరణశిక్ష" గురించి అభ్యర్థించని పోస్ట్‌లను Grok రూపొందించడానికి “అనధికార మార్పులకు" కారణమైంది. AI నిపుణుడు డేవిడ్ కాస్‌వెల్ Grok తన సిస్టమ్ ప్రాంప్ట్‌లను ఎవరు మార్చారో అడిగినప్పుడు, చాట్‌బాట్ మస్క్‌ను “అత్యంత вероятный” குற்றவாளியாக జాబితా చేసింది.
మస్క్ దక్షిణాఫ్రికాలో జన్మించిన బిలియనీర్ మరియు US అధ్యక్షుడు డొనాల్డ్ ట్రంప్‌కు మద్దతుదారు. అతను గతంలో దక్షిణాఫ్రికా నాయకులు “తెల్ల ప్రజలపై இனப்படுகொலைకి வெளிப்படையாக புணைகுத்துவதாக" ஆதாரமற்ற கூற்றுக்களை பரப்பியிருந்தார்.
అంతర్జాతీయ వాస్తవ తనిఖీ నెట్‌వర్క్ డైరెక్టర్ అంజీ హోలన్ AFPతో మాట్లాడుతూ, “మానవ కోడర్లు ప్రత్యేకంగా వాటి సూచనలను మార్చిన తర్వాత AI సహాయకులు ఫలితాలను ఎలా తయారు చేయగలరు లేదా పక్షపాత సమాధానాలను ఎలా ఇవ్వగలరో మేము చూశాము.” “ముందస్తుగా ఆమోదించబడిన సమాధానాలను అందించడానికి సూచనలు అందుకున్న తర్వాత Grok చాలా సున్నితమైన సమస్యల గురించి అభ్యర్థనలను ఎలా నిర్వహిస్తుందనే దాని గురించి నేను ప్రత్యేకంగా ఆందోళన చెందుతున్నాను.”
సమాచార రంగంలో AI చాట్‌బాట్‌ల ప్రమాదం
సమాచారాన్ని అందించడంలో AI చాట్‌బాట్‌ల యొక్క పెరుగుతున్న అప్లికేషన్ దాని సంభావ్య తప్పుదారి పట్టించే మరియు తారుమారు చేసే ప్రభావం గురించి ഗുരുതരമായ ఆందోళనలను లేవనెత్తుతుంది. ఈ సాంకేతికతలు సమాచారాన్ని త్వరగా యాక్సెస్ చేయడంలో మరియు పరిశోధనను క్రమబద్ధీకరించడంలో ప్రయోజనాలను కలిగి ఉన్నప్పటికీ, వాటి అంతర్గత పరిమితులు మరియు పక్షపాతాలు అనుకోకుండా లేదా ఉద్దేశపూర్వకంగా తప్పుడు సమాచారం లేదా ప్రచారం వ్యాప్తికి దారితీయవచ్చు.
AI చాట్‌బాట్‌ల అంతర్గత పరిమితులు
AI చాట్‌బాట్‌లు భారీ మొత్తంలో టెక్స్ట్ డేటాను విశ్లేషించడం ద్వారా నేర్చుకుంటాయి, కానీ వాటికి మానవ విమర్శనాత్మక ఆలోచనా సామర్థ్యం లేదు. అంటే అవి డేటా నుండి నమూనాలను సంగ్రహించి, సహేతుకంగా కనిపించే ప్రతిస్పందనలను రూపొందించగలవు, కానీ అంతర్లీన అర్థం లేదా సందర్భాన్ని నిజంగా అర్థం చేసుకోలేవు. జ్ఞానం లేకపోవడం వలన ఖచ్చితమైన, అసంపూర్ణమైన లేదా தப்புదోవ పట్టించే సమాచారం ఉత్పత్తి হতেచ్చు.
అదనంగా, AI చాట్‌బాట్‌ల శిక్షణ डेटा biases కలిగి ఉండవచ్చు, ఇవి ఉత్పత్తి చేయబడిన ప్రతిస్పందనలలో பிரதிபலிస్తాయి. ఉదాహరణకు, பயிற்சி డేటా ప్రధానంగా ఒక నిర్దిష్ట మూలం లేదా దృక్పథం నుండి ఉంటే, చాట్‌బాట్ ఆ మూలం లేదా దృక్పథத்திற்கு अनुकूलతను ప్రదర్శించవచ్చు, அதன் ద్వారా పక్షపాత సమాచారాన్ని వ్యాప్తి చేస్తుంది.
AI చాట్‌బాట్‌లు తెచ్చే ప్రమాదం
సమాచారం కోసం ఎక్కువ మంది ప్రజలు AI చాట్‌బాట్‌లపై ఆధారపడుతున్నందున, தவறான தகவல்களின் பரவல் ప్రమాదం పెరుగుతుంది. చాట్‌బాట్‌లు ఖచ్చితమైన లేదా தப்புదోవ పట్టించే సమాచారాన్ని ఉత్పత్తి చేస్తే, వినియోగదారులు తెలియకుండానే ఆ సమాచారాన్ని స్వీకరించి మరియు వ్యాప్తి చేయవచ్చు, இதன் மூலம் தவறான വിശ്വാసాల பரவலுக்கு வழிவகுస్తుంది.
అదనంగా, AI చాట్‌బాట్‌లను ದುರುದ್ದೇಶಪೂರಕ ఉద్దేశ్యాల కోసం ఉపయోగించవచ్చు, ఉదాహరణకు ప్రచారం వ్యాప్తి చేయడం లేదా பொது அபிப்ரಾಯத்தை దిశానిర్దేశம் చేయడం. శిక్షణ డేటాను జాగ్రత్తగా வடிவமைப்பதன் மூலம் அல்லது అల్గోరిథంలను சரிசெய்வதன் மூலம், தீய செய்பவர்கள் குறிப்பிட்ட வகை ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಉಂಟು ಮಾಡುವ చాట్‌బాట్‌లను маниపులేట్ చేయవచ్చు, அதன் மூலம் వినియోగదారు நம்பிக்கைகள் మరియు سلوக்குகளை প্রভাবিত शकतात.
ప్రమాదాన్ని తగ్గించడం ఎలా
AI చాట్‌బాట్‌లకు సంబంధించిన ప్రమాదాన్ని తగ్గించడానికి, కొన్ని చర్యలు అవసరం. మొదటగా, AI చాట్‌బాట్‌ల பயிற்சி డేటా వీలైనంత వరకు सम्पूर्णంగా మరియు ಪಕ್ಷಪಾತமற்றதாக ఉండేలా చేయడానికి டெவலப்பர்கள் కృషి చేయాలి. ఇది ಪಕ್ಷಪಾತದ ప్రభావವನ್ನು குறைക്കാന് വ്യത്യസ്ത ಮೂಲಗಳು மற்றும் பார்வையிலிருந்து વિવિધ வகையான ಡೇಟಾ ಮಾದರಿಗಳನ್ನು ಸೇರಿಸಲು అడగవచ్చు.
రెండవదిగా, ఏదైనా தப்பு మరియు పక్షపాత ధోరణులను గుర్తించడానికి మరియు సరిచేయడానికి AI చాట్‌బాಟ್లకు දැඩි పరీక్షలు మరియు மதிப்பீடுகள் అవసరం. இது చాట్‌బాట్‌లు ఉత్పత్తి చేసే ಪ್ರತಿಕ್ರಿಯೆలను கைဖြင့် சரிசெய்யడం అవసరం ಮತ್ತು அதனுடைய ఖచ్చితత్వం மற்றும் தர்மத்தை மதிப்பீடு చేయడానికి വിവിധ ಸೂಚிகలను ఉపయోగించవచ్చు.
మూడవదిగా, వినియోగదారులు விமர்சன சிந்தனையை కలిగి ఉండాలి மற்றும் AI చాట్‌బాಟ್లు అందించే సమాచారాన్ని குருட்டில் நம்பக்கூடாது. వినియోగదారులు எப்பொழுதும் வெவ்வேறு મૂળಗಳಿಂದ సమాచారాన్ని ஒப்பிட வேண்டும் మరియు చాట్‌பாట్‌களில் ఉన్న பாதிப்புகளை ಗಮನத்தில் கொள்ள வேண்டும்.
టెక్నాలజీ వేదికలు మరియు சமூகங்களின் பங்கு
టెక్నాలజీ వేదికలు మరియు சமூகங்கள் AI చాట్‌பாట్‌கள் தயாரிக்கும் સામગ్రి నియంత్రణ మరియు கண்காணிப்பில் ప్రముఖ பங்கு வகிக்கின்றன. వేదికలు 잘못ான விவரங்கள் அல்லது விளம்பரத்தை గుర్తించడానికి మరియు తొలగించడానికి கொள்கைಗಳನ್ನು செயல்படுத்த முடியும் மற்றும் சாట్‌பாಟ್கள் தயாரிக்கும் ಪ್ರತಿಕ್ರಿಯೆകളുടെ ఖచ్చితత్వాన్ని உறுதிಪಡಿಸಲು உண்மைகளை சரிபார்க்கும் సంస్థలతో تعاونிக்க முடியும். மேலும், சமூகங்கள் AI చాట్‌பாట్‌കളുടെ வரம்புகள் மற்றும் பாதிப்புகள் గురించి விமர்சன ചിಂತனையை ஊக்குவிப்பதன் மூலம் பயனர் சச்சேతనத்தை மேம்படுத்த உதவ முடியும்.
முடிவு
AI చాట్‌బాట్‌లు ఉపయోగకరమైన సాధనాలు, కానీ ಅವುಗಳ స్వಂತ வரம்புகள் மற்றும் அபாயங்கள் உள்ளன. ఈ தொழில்நுட்பங்கள் பொறுப்புள்ள வகையில் ಬಳಸப்படுவதை உறுதி செய்வதற்காக மற்றும் தவறான தகவல் మరియు கையை ஊழல் பரவுவதைக் குறைக்கவும், டெவலப்பர்கள், கட்டுப்பாட்டு நிறுவனங்கள் மற்றும் пользователи எச்சரிக்கையாக இருக்க வேண்டும். అవసరమైన చర్యలను తీసుకుக்கொள்வதன் மூலம், AI చాట్‌பாట్‌கள் தரும் நன்மைகளை அதிகமாக்கிக் கொள்ளலாம். అదే సమయంలో அதன் தீங்கு விளைவிக்கும் சாத்தியத்தைக் குறைக்கலாம்.