డీప్‌సీక్ AI మోడల్‌పై విమర్శలు

డీప్‌సీక్ AI మోడల్‌పై విమర్శలు: బైడు సీఈఓ ఆందోళనలు

ఈ సంవత్సరం ప్రారంభంలో గొప్ప పేరు ప్రఖ్యాతలు సంపాదించిన చైనీస్ AI మోడల్ అయిన డీప్‌సీక్ ఇటీవల బైడు చైర్మన్ మరియు సీఈఓ రాబిన్ లీ నుండి విమర్శలు ఎదుర్కొంది. ఏప్రిల్ 25న జరిగిన బైడు AI డెవలపర్ కాన్ఫరెన్స్‌లో లీ డీప్‌సీక్ సామర్థ్యాల గురించి సందేహాలు వ్యక్తం చేశారు. వివిధ మీడియా ఫార్మాట్‌లను ప్రాసెస్ చేయడంలో దాని పరిమితులు, నెమ్మదైన పనితీరు, అధిక ధరలు మరియు సరికాని సమాచారాన్ని ఉత్పత్తి చేసే ధోరణి వంటి కారణాల వల్ల విస్తృత ఉపయోగం కోసం ఇది నమ్మదగినది కాదని ఆయన పేర్కొన్నారు.

డీప్‌సీక్ వివాదాస్పద ఆరంభం

Guancha.cn మరియు Sina.com నుండి వచ్చిన నివేదికల ప్రకారం, లీ కాన్ఫరెన్స్‌లో పెద్ద ఎత్తున AI మోడళ్ల యొక్క హెచ్చుతగ్గుల గురించి ప్రస్తావించారు. మోడల్ డెవలపర్‌ల మధ్య తీవ్రమైన పోటీని, తరచుగా “ఎలుకల పరుగు”గా అభివర్ణిస్తారు. దీని ఫలితంగా డెవలపర్‌లు అనువర్తనాలను విశ్వాసంగా రూపొందించడానికి అయోమయానికి గురవుతున్నారు.

“అనువర్తనాలు లేకుండా చిప్స్ మరియు మోడల్స్ విలువలేనివి” అని లీ నొక్కి చెప్పారు. AI అనువర్తనాలను నిర్మించాలని లక్ష్యంగా పెట్టుకున్న డెవలపర్‌లకు ప్రస్తుత భారీ మోడళ్లను ఉపయోగించడం ప్రధాన అవరోధంగా మారింది.

చైనాలోని హాంగ్‌జౌ కేంద్రంగా పనిచేసే ఒక స్టార్టప్ డీప్‌సీక్, జనవరిలో తన ఓపెన్ సోర్స్ రీజనింగ్ మోడల్ R1ను విడుదల చేసింది. ఆ సమయంలో డీప్‌సీక్ OpenAI వంటి వాటిని అధిగమించిందని మీడియా ప్రశంసించింది. అయితే వినియోగదారులు మరియు పరిశోధకులు జరిపిన తదుపరి పరిశోధనలు లోపాలు, భద్రతా సమస్యలు మరియు సంభావ్య నష్టాలను వెల్లడించాయి. తైవాన్, జపాన్, దక్షిణ కొరియా, యునైటెడ్ స్టేట్స్, కెనడా, ఇటలీ, ఆస్ట్రేలియా మరియు నెదర్లాండ్స్‌తో సహా అనేక ప్రభుత్వాలు మరియు వందలాది కంపెనీలు ప్రభుత్వ మరియు కార్పొరేట్ పరికరాల్లో డీప్‌సీక్‌ను ఉపయోగించడాన్ని నిషేధించాయి.

ఫిబ్రవరి 8న AI భద్రతా నిపుణులు డీప్‌సీక్‌పై లోతైన భద్రతా పరీక్షల ఫలితాలను మీడియాకు అందించారు. ChatGPT, Gemini మరియు Claudeతో పోలిస్తే డీప్‌సీక్ ‘జైల్‌బ్రేకింగ్’కు గురయ్యే అవకాశం ఎక్కువగా ఉందని వారు కనుగొన్నారు. ఈ దుర్బలత్వం AI యొక్క అసలు భద్రతా పరిమితులను దాటవేయడానికి వినియోగదారులను అనుమతించింది. ఇది ప్రమాదకరమైన, హానికరమైన లేదా చట్టవిరుద్ధమైన కంటెంట్‌ను పొందడాన్ని సులభతరం చేస్తుంది.

మార్చిలో Tsinghua విశ్వవిద్యాలయంతో సంబంధాలున్న AI మౌలిక సదుపాయాల సంస్థ అయిన ‘లుచెన్ టెక్నాలజీ’, API మరియు క్లౌడ్ మిర్రర్ సేవలను అందించడానికి డీప్‌సీక్ మోడల్‌లను ఏకీకృతం చేసిన మొదటి సంస్థలలో ఒకటి. ఇది సంబంధిత సేవలను నిలిపివేస్తున్నట్లు ప్రకటించింది. డీప్‌సీక్‌తో సంబంధం ఉన్న వాస్తవ వ్యయాలు సైద్ధాంతిక వ్యయాల కంటే గణనీయంగా ఎక్కువగా ఉన్నాయని కంపెనీ వ్యవస్థాపకుడు యూ యాంగ్ ఒక పోస్ట్‌లో వెల్లడించారు. ఆన్‌లైన్ ప్రతిచర్య తరువాత అమెరికన్ సాంకేతిక పరిజ్ఞానాన్ని ఉపయోగించకుండా డీప్‌సీక్ పనిచేయలేదని ఆయన బహిరంగంగా పేర్కొన్నారు. ఈ వాస్తవికతను బహిరంగంగా ఎందుకు అంగీకరించలేకపోతున్నారని ప్రశ్నించారు.

మార్చి 4న సినా టెక్నాలజీ నివేదిక ప్రకారం మార్చి 1న 17:02 గంటలకు డీప్‌సీక్ తన ఆన్‌లైన్ సిస్టమ్ కోసం 545% సైద్ధాంతిక వ్యయ లాభ మార్జిన్‌ను ప్రకటించింది. తరువాత లుచెన్ టెక్నాలజీ వారం రోజుల్లో డీప్‌సీక్ API సేవలను నిలిపివేస్తున్నట్లు ప్రకటించింది. వినియోగదారులు వారి మిగిలిన బ్యాలెన్స్‌లను ఉపయోగించాలని కోరింది.

డీప్‌సీక్ API సేవను నిలిపివేయడానికి గల నిర్దిష్ట కారణాలను లుచెన్ టెక్నాలజీ బహిరంగంగా వెల్లడించలేదు. అయితే Zhihu వంటి వేదికలపై డీప్‌సీక్ ఖర్చుల గురించి వ్యవస్థాపకుడు చేసిన విశ్లేషణ API సేవను నిలిపివేయడానికి వ్యయం ప్రధాన కారణమని సూచిస్తుంది.

జాతీయ భద్రతపై ఆందోళనలు

డీప్‌సీక్‌కు చైనా ప్రభుత్వానికి మధ్య సంబంధాలు మొదట అనుకున్నదానికంటే మరింత ప్రత్యక్షంగా ఉండే అవకాశం ఉంది. కెనడియన్ సైబర్‌ సెక్యూరిటీ సంస్థ అయిన ఫెరూట్ సెక్యూరిటీ డీప్‌సీక్ వెబ్‌సైట్ లాగిన్ పేజీకి మరియు గతంలో అమెరికా ప్రభుత్వం ఆంక్షలు విధించిన చైనా ప్రభుత్వ యాజమాన్యంలోని కంపెనీ అయిన చైనా మొబైల్‌కు మధ్య ముఖ్యమైన సంబంధాలను కనుగొంది.

ఇటీవలి నెలల్లో జాతీయ భద్రతపై ఆందోళనలు డీప్‌సీక్‌ను నిషేధించాలని ఎక్కువ డిమాండ్లు చేయడానికి దారితీశాయి.

ఏప్రిల్ 24న US హౌస్ ఆఫ్ రిప్రజెంటేటివ్స్ సభ్యులు కొందరు డీప్‌సీక్‌కు ఒక లేఖ రాశారు. దీనిలో కంపెనీకి చైనా కమ్యూనిస్ట్ పార్టీకి (CCP) ఉన్న సంబంధాల గురించి ఆందోళన వ్యక్తం చేశారు. దాని AI మోడల్‌లకు శిక్షణ ఇవ్వడానికి ఉపయోగించిన US డేటా గురించి సమాచారం ఇవ్వాలని కోరారు.

హౌస్ ఎనర్జీ అండ్ కామర్స్ కమిటీ ఛైర్మన్ ప్రతినిధి బ్రెట్ గుత్రీ మరియు ఇన్నోవేషన్, డేటా మరియు కామర్స్ సబ్‌కమిటీ ఛైర్మన్ ప్రతినిధి గుస్ బిలిరాకిస్ మరియు సబ్‌కమిటీలోని మరో పది మంది సభ్యులతో కలిసి డీప్‌సీక్‌కు ఒక లేఖ రాశారు. దీనిలో కంపెనీ ‘అమెరికన్ల వ్యక్తిగత డేటాను సేకరించడం’ మరియు దానితో ముడిపడిన జాతీయ భద్రతా ప్రమాదాల గురించి ఆందోళన వ్యక్తం చేశారు.

గుత్రీ మరియు బిలిరాకిస్ లేఖలో “డీప్‌సీక్ అమెరికన్ వినియోగదారుల వ్యక్తిగత డేటాను చైనాలోని సర్వర్‌లకు బదిలీ చేస్తుందని అంగీకరించింది. అక్కడ ఆ సమాచారాన్ని CCPతో అనుబంధం ఉన్న అధికారులు నిస్సందేహంగా యాక్సెస్ చేస్తారు. మా ప్రధాన ప్రత్యర్థితో ఈ సంస్థాగత సంబంధం మా డేటా మరియు జాతీయ భద్రతకు ప్రమాదం కలిగిస్తుందని మేము ఆందోళన చెందుతున్నాము.” అని పేర్కొన్నారు.

“అమెరికన్ వినియోగదారులు మరియు వారి వ్యాపారాలు విదేశీ జోక్యం నుండి రక్షించబడుతున్నాయని నిర్ధారించడానికి మేము డీప్‌సీక్‌పై మరియు అది మా దేశానికి కలిగించే ముప్పుపై దర్యాప్తును ప్రారంభిస్తున్నాము.”

ఆ లేఖలో “మీడియా నివేదికల ప్రకారం కంపెనీ వినియోగదారుల వ్యక్తిగత సమాచారాన్ని బైట్‌డాన్స్ సహా చైనా కమ్యూనిస్ట్ పార్టీతో అనుబంధం ఉన్న ఇతర సంస్థలతో కూడా పంచుకుంటుంది.” అని తెలిపారు.

“అదే సమయంలో పరిశోధకులు డీప్‌సీక్ యొక్క భద్రతా నియంత్రణలు మరియు మోడల్ రక్షణలలో కీలకమైన దుర్బలత్వాలను కనుగొన్నారు. ఈ ప్రమాదాలకు ప్రతిస్పందనగా న్యూయార్క్, టెక్సాస్ మరియు వర్జీనియాతో సహా ఎక్కువ సంఖ్యలో రాష్ట్రాలు ప్రభుత్వ పరికరాల్లో డీప్‌సీక్‌ను ఉపయోగించడాన్ని నిషేధించాయి మరియు రాష్ట్ర అటార్నీ జనరల్స్ విస్తృత నిషేధాలు విధించాలని పిలుపునిచ్చారు.”

ఏప్రిల్ 16న US హౌస్ సెలెక్ట్ కమిటీ ఆన్ ది చైనీస్ కమ్యూనిస్ట్ పార్టీ డీప్‌సీక్ US జాతీయ భద్రతకు గణనీయమైన ముప్పు కలిగిస్తుందని నొక్కి చెబుతూ ఒక నివేదికను విడుదల చేసింది. ఈ నివేదిక CCP కోసం వినియోగదారు డేటాను సేకరిస్తోందని మరియు ఫలితాలను రహస్యంగా తారుమారు చేస్తోందని డీప్‌సీక్‌ను నిందించింది. CCP తనను తాను అందంగా చూపించడానికి, విదేశీ పౌరులను పర్యవేక్షించడానికి మరియు US ఎగుమతి నియంత్రణలను దొంగిలించడానికి మరియు దెబ్బతీయడానికి CCPకి ఇది తాజా సాధనంగా మారిందని పేర్కొంది.

డీప్‌సీక్ అనేది వచనాన్ని రూపొందించడానికి మరియు ప్రశ్నలకు సమాధానం ఇవ్వడానికి వినియోగదారులకు ఒక మార్గాన్ని అందించే మరొక AI చాట్‌బాట్‌గా కనిపించినప్పటికీ మరింత క్షుణ్ణంగా పరిశీలిస్తే డీప్‌సీక్ పొందిన వ్యక్తిగత డేటాను చైనా మొబైల్‌కు రహస్యంగా బదిలీ చేస్తుందని వెల్లడైంది. దీనికి చైనా సైన్యంతో సంబంధాలున్నాయి. ఇది వినియోగదారులకు భద్రతా సమస్యలను సృష్టిస్తుంది. ఇప్పటికే US చైనా మొబైల్‌ను యునైటెడ్ స్టేట్స్‌లో పనిచేయకుండా నిషేధించింది.

డీప్‌సీక్ ఆరోపించిన లోపాలపై లోతైన పరిశీలన

డీప్‌సీక్ చుట్టూ ఉన్న ప్రారంభ ప్రచారం వివిధ రంగాలలో విప్లవాత్మక మార్పులు తీసుకురావడానికి సిద్ధంగా ఉన్న ఒక AI అద్భుతంగా చిత్రీకరించింది. అయితే నిశితంగా పరిశీలించడంతో మరింత క్లిష్టమైన వాస్తవం వెలుగులోకి వచ్చింది. బైడు సీఈఓ రాబిన్ లీ లేవనెత్తిన ఆందోళనలు మరియు సైబర్‌ సెక్యూరిటీ నిపుణులు మరియు ప్రభుత్వ సంస్థలు చేసిన తదుపరి దర్యాప్తులు డీప్‌సీక్ అంచనాలకు తగ్గట్టుగా లేని మరియు సంభావ్య ప్రమాదాలను పెంచే అనేక కీలక ప్రాంతాలను హైలైట్ చేశాయి.

పరిమిత మల్టీమోడల్ సామర్థ్యాలు

డీప్‌సీక్‌పై వచ్చిన ప్రధాన విమర్శలలో ఒకటి మల్టీమోడల్ కంటెంట్‌ను ప్రాసెస్ చేయగల సామర్థ్యం పరిమితంగా ఉండటం. టెక్స్ట్, ఇమేజ్‌లు, ఆడియో మరియు వీడియోతో సహా వివిధ రకాల డేటాను సజావుగా ఏకీకృతం చేయగల మరియు అర్థం చేసుకోగల మరింత ఆధునిక AI మోడల్‌ల వలె కాకుండా డీప్‌సీక్ ప్రాథమిక టెక్స్ట్ ఇన్‌పుట్‌కు మించి దేనినీ అర్థం చేసుకోవడానికి కష్టపడుతుందని తెలిసింది. ఈ పరిమితి నిజ జీవిత దృశ్యాలలో దాని అనువర్తనాన్ని గణనీయంగా పరిమితం చేస్తుంది. సమాచారం తరచుగా ఫార్మాట్‌ల కలయికలో అందించబడుతుంది. ఉదాహరణకు టెక్స్ట్ మరియు చిత్రం రెండింటినీ కలిగి ఉన్న సోషల్ మీడియా పోస్ట్‌ను విశ్లేషించడానికి లేదా వీడియో కాన్ఫరెన్స్‌ను లిప్యంతరీకరణ చేయడానికి మరియు అర్థం చేసుకోవడానికి డీప్‌సీక్ కష్టపడవచ్చు.

పనితీరు సమస్యలు: వేగం మరియు ఖర్చు

వివిధ రకాల మీడియాను నిర్వహించడంలో దాని పరిమితులకు మించి డీప్‌సీక్ దాని పనితీరుకు సంబంధించిన సవాళ్లను కూడా ఎదుర్కొంటోంది. రాబిన్ లీ ప్రకారం మోడల్ దాని ‘నెమ్మదైన’ వేగం మరియు ‘అధిక’ ఖర్చుతో వర్గీకరించబడుతుంది. ఇది స్కేలబుల్ మరియు ఖర్చుతో కూడుకున్న AI అనువర్తనాలను నిర్మించాలనుకునే డెవలపర్‌లకు ఆకర్షణీయంగా ఉండదు. డీప్‌సీక్‌ను అమలు చేయడానికి అవసరమైన అధిక గణన వనరులు వ్యాపారాలకు ముఖ్యమైన ఖర్చులుగా మారతాయి. ప్రత్యేకించి పెద్ద ఎత్తున విస్తరణలతో ఉన్న వాటికి ఇది మరింత భారంగా మారుతుంది. అంతేకాకుండా నెమ్మదైన ప్రాసెసింగ్ వేగం చాట్‌బాట్‌లు లేదా వర్చువల్ అసిస్టెంట్‌ల వంటి నిజ-సమయ అనువర్తనాలకు ఆటంకం కలిగిస్తుంది. సానుకూల వినియోగదారు అనుభవం కోసం ప్రతిస్పందన చాలా కీలకం.

‘భ్రమల రేటు’ సమస్య

డీప్‌సీక్ చుట్టూ ఉన్న మరొక ప్రధాన ఆందోళన దాని అధిక ‘భ్రమల రేటు’. మోడల్ సరికాని లేదా అర్ధంలేని సమాచారాన్ని ఉత్పత్తి చేసే ధోరణిని సూచిస్తుంది. నమ్మదగిన ఫలితాలు అవసరమయ్యే అనువర్తనాలకు ఈ సమస్య గణనీయమైన సవాలును కలిగిస్తుంది. ఆరోగ్యం లేదా ఆర్థికం వంటి కీలకమైన రంగాలలో ఖచ్చితత్వం చాలా అవసరం. డీప్‌సీక్ తప్పుడు లేదా తప్పుదోవ పట్టించే సమాచారాన్ని ఉత్పత్తి చేసే ప్రమాదం తీవ్ర పరిణామాలకు దారితీయవచ్చు. ‘భ్రమల రేటు’ మోడల్ యొక్క విశ్వసనీయతను దెబ్బతీస్తుంది. సున్నితమైన సందర్భాలలో దాని వినియోగాన్ని పరిమితం చేస్తుంది.

భద్రతా సమస్యలు మరియు జైల్‌బ్రేకింగ్

ఇతర ప్రముఖ AI మోడల్‌ల కంటే డీప్‌సీక్ ‘జైల్‌బ్రేకింగ్’కు ఎక్కువ అవకాశం ఉందని వెల్లడి కావడం గణనీయమైన భద్రతా సమస్యలను పెంచుతుంది. హానికరమైన, అనైతిక లేదా చట్టవిరుద్ధమైన కంటెంట్‌ను పొందడానికి AI యొక్క భద్రతా పరిమితులను దాటవేయడాన్ని ‘జైల్‌బ్రేకింగ్’ అంటారు. ఈ విధంగా డీప్‌సీక్‌ను మరింత సులభంగా తారుమారు చేయగలగడం దాని అంతర్లీన భద్రతా నిర్మాణంలో బలహీనతలను సూచిస్తుంది. తప్పుడు సమాచారాన్ని రూపొందించడానికి, ప్రచారం చేయడానికి లేదా ఇతర హానికరమైన కార్యకలాపాలలో పాల్గొనడానికి దురుద్దేశపూరిత నటులు ఈ దుర్బలత్వాన్ని ఉపయోగించుకోవచ్చు.

డేటా గోప్యత మరియు జాతీయ భద్రతా ప్రమాదాలు

డీప్‌సీక్‌కు మరియు చైనా ప్రభుత్వానికి మధ్య ఉన్న సంబంధాలు ప్రత్యేకించి చైనా మొబైల్‌తో దాని డేటా భాగస్వామ్య పద్ధతులు డేటా గోప్యత మరియు జాతీయ భద్రత గురించి హెచ్చరికలను ప్రేరేపించాయి. అమెరికన్ వినియోగదారుల వ్యక్తిగత డేటాను చైనాలోని సర్వర్‌లకు బదిలీ చేయడం CCPతో అనుబంధం ఉన్న అధికారులు దానిని యాక్సెస్ చేయగలరు. ఇది సంభావ్య నిఘా, గూఢచర్యం మరియు సున్నితమైన సమాచారం రాజీపడే ప్రమాదం గురించి తీవ్రమైన ఆందోళనలను లేవనెత్తుతుంది. శత్రు ప్రభుత్వాలతో సన్నిహిత సంబంధాలున్న విదేశీ సంస్థలు అభివృద్ధి చేసిన AI మోడల్‌లతో సంబంధం ఉన్న సంభావ్య ప్రమాదాల గురించి పెరుగుతున్న అవగాహనను డీప్‌సీక్‌పై US ప్రభుత్వం యొక్క పరిశీలన నొక్కి చెబుతుంది.

విస్తృత సూచనలు

డీప్‌సీక్ చుట్టూ ఉన్న ఆందోళనలు ఈ ప్రత్యేక AI మోడల్ యొక్క నిర్దిష్ట పరిమితులు మరియు దుర్బలత్వాలకు మించి ఉన్నాయి. అవి AI సాంకేతికతల వేగవంతమైన అభివృద్ధి మరియు విస్తరణతో సంబంధం ఉన్న విస్తృత సవాళ్లు మరియు ప్రమాదాలను ప్రతిబింబిస్తాయి. డీప్‌సీక్ కేసు వీటి యొక్క ప్రాముఖ్యతను హైలైట్ చేస్తుంది:

• కఠినమైన పరీక్ష మరియు మూల్యాంకనం: AI మోడల్‌లను విస్తృతంగా అమలు చేయడానికి ముందు సంభావ్య బలహీనతలు, పక్షపాతాలు మరియు భద్రతా సమస్యలను గుర్తించడానికి మరియు పరిష్కరించడానికి సమగ్ర పరీక్ష మరియు మూల్యాంకనం అవసరం.
• పారదర్శకత మరియు జవాబుదారీతనం: డెవలపర్‌లు వారి మోడల్‌లకు శిక్షణ ఇవ్వడానికి ఉపయోగించిన డేటా మరియు వారు ఉపయోగించే అల్గారిథమ్‌ల గురించి పారదర్శకంగా ఉండాలి. వారు తమ AI సిస్టమ్‌ల ఫలితాలు మరియు పరిణామాలకు కూడా బాధ్యత వహించాలి.
• డేటా గోప్యత మరియు భద్రతా రక్షణలు: వినియోగదారుల వ్యక్తిగత సమాచారాన్ని అనధికార ప్రాప్యత, దుర్వినియోగం లేదా దోపిడీ నుండి రక్షించడానికి బలమైన డేటా గోప్యత మరియు భద్రతా చర్యలు అవసరం.
• అంతర్జాతీయ సహకారం: AI అభివృద్ధి మరియు విస్తరణ కోసం సాధారణ ప్రమాణాలు మరియు నిబంధనలను ఏర్పాటు చేయడానికి అంతర్జాతీయ సహకారం చాలా కీలకం. ఈ సాంకేతికతలు బాధ్యతాయుతంగా మరియు నైతికంగా ఉపయోగించబడతాయని నిర్ధారిస్తుంది.
• విమర్శనాత్మక ఆలోచన మరియు మీడియా అక్షరాస్యత: AI మోడల్‌ల ద్వారా రూపొందించబడిన సమాచారాన్ని విమర్శనాత్మకంగా అంచనా వేయడానికి మరియు ఖచ్చితమైన మరియు తప్పుదోవ పట్టించే కంటెంట్ మధ్య వ్యత్యాసాన్ని గుర్తించడానికి మీడియా అక్షరాస్యత నైపుణ్యాలను అభివృద్ధి చేయడానికి వినియోగదారులను ప్రోత్సహించాలి.

డీప్‌సీక్ వివాదం ఒక హెచ్చరిక కథగా పనిచేస్తుంది. AI ఆవిష్కరణల కొనసాగింపు సంభావ్య ప్రమాదాలు మరియు సామాజిక చిక్కుల గురించి జాగ్రత్తగా పరిశీలించడంతో సమతుల్యం చేయాలని గుర్తు చేస్తుంది.