چینی AI ویڈیو سٹارٹ اپ کی سیاسی قدغنیں

Magi-1: ایک امید افزا مگر محدود ماڈل

اس ہفتے کے شروع میں، Sand AI نے Magi-1 کی نقاب کشائی کی، ایک ایسا ماڈل جو فریموں کے سلسلے کی ‘autoregressively’ پیشین گوئی کرکے ویڈیوز بنانے کی صلاحیت رکھتا ہے۔ کمپنی کا دعویٰ ہے کہ یہ ماڈل اعلیٰ معیار کی، قابلِ کنٹرول فوٹیج تیار کر سکتا ہے جو اپنے اوپن سورس حریفوں کے مقابلے میں طبیعیات کو زیادہ درستگی سے قید کرتی ہے۔

اپنی صلاحیت کے باوجود، Magi-1 فی الحال زیادہ تر صارفین کے ہارڈویئر کے لیے غیر عملی ہے۔ 24 بلین پیرامیٹرز کے ساتھ، اس کو مؤثر طریقے سے کام کرنے کے لیے چار سے آٹھ Nvidia H100 GPUs درکار ہوتے ہیں۔ پیرامیٹرز اندرونی متغیرات ہیں جو AI ماڈل پیشین گوئیاں کرنے کے لیے استعمال کرتے ہیں۔ TechCrunch کے صحافی سمیت بہت سے صارفین کے لیے، جنہوں نے اس کی جانچ کی، Sand AI پلیٹ فارم Magi-1 کی جانچ کے لیے واحد قابل رسائی راستہ ہے۔

عمل میں سنسرشپ: کون سی تصاویر مسدود ہیں؟

پلیٹ فارم کو ویڈیو جنریشن شروع کرنے کے لیے ایک ٹیکسٹ پرامپٹ یا ابتدائی تصویر کی ضرورت ہوتی ہے۔ تاہم، تمام پرامپٹس قابل قبول نہیں ہیں، جیسا کہ TechCrunch نے جلد ہی دریافت کیا۔ Sand AI فعال طور پر ان تصاویر کو اپ لوڈ کرنے سے روکتا ہے جن میں:

• شی جن پنگ
• تیانانمین اسکوائر اور ٹینک مین
• تائیوانی پرچم
• ہانگ کانگ کی آزادی کی حمایت کرنے والے نشانات

فلٹرنگ تصویر کی سطح پر ہوتی دکھائی دیتی ہے، کیونکہ تصویری فائلوں کا نام تبدیل کرنے سے بلاک کو بائی پاس نہیں کیا جا سکا۔

سنسرشپ پر عمل درآمد میں Sand AI تنہا نہیں ہے۔

Sand AI اپنے نقطہ نظر میں منفرد نہیں ہے۔ Hailuo AI، شنگھائی میں قائم MiniMax کے زیر انتظام ایک جنریٹیو میڈیا پلیٹ فارم، بھی سیاسی طور پر حساس تصاویر، خاص طور پر شی جن پنگ کی تصاویر کو اپ لوڈ کرنے سے روکتا ہے۔ تاہم، Sand AI کی فلٹرنگ خاص طور پر سخت دکھائی دیتی ہے، کیونکہ Hailuo AI تیانانمین اسکوائر کی تصاویر کی اجازت دیتا ہے۔

چین میں AI سنسرشپ کا قانونی منظرنامہ

جیسا کہ Wired نے جنوری کے ایک مضمون میں وضاحت کی، چین میں کام کرنے والے AI ماڈلز سخت معلوماتی کنٹرول کے تابع ہیں۔ 2023 کا ایک قانون ان ماڈلز کو ایسا مواد تیار کرنے سے منع کرتا ہے جو ‘قومی اتحاد اور سماجی ہم آہنگی کو خطرے میں ڈالتا ہے’۔ اس کی تعبیر ایسے مواد کے طور پر کی جا سکتی ہے جو حکومت کے تاریخی اور سیاسی بیانیوں سے متصادم ہو۔ ان ضوابط کی تعمیل کے لیے، چینی سٹارٹ اپ اکثر اپنے ماڈلز کو پرامپٹ لیول فلٹرز یا فائن ٹیوننگ کے ذریعے سنسر کرتے ہیں۔

سنسرشپ میں تضاد: سیاست بمقابلہ فحاشی

دلچسپ بات یہ ہے کہ جہاں چینی AI ماڈل سیاسی اظہار کو روکتے ہیں، وہیں ان میں فحش مواد کے خلاف اپنے امریکی ہم منصبوں کے مقابلے میں کم فلٹرز ہوتے ہیں۔ 404 نے حال ہی میں اطلاع دی ہے کہ چینی کمپنیوں کے ذریعہ جاری کردہ کئی ویڈیو جنریٹرز میں غیر رضامندی والی واضح تصاویر کی تخلیق کو روکنے کے لیے بنیادی حفاظتی تدابیر موجود نہیں ہیں۔

AI سنسرشپ کے مضمرات

Sand AI اور دیگر چینی AI کمپنیوں کے ذریعہ اختیار کردہ سنسرشپ کے طریقوں سے چین میں AI کی ترقی اور رسائی کے مستقبل کے بارے میں اہم سوالات اٹھتے ہیں۔ یہ طریقے نہ صرف اس مواد کی حد کو محدود کرتے ہیں جو تیار کیا جا سکتا ہے بلکہ ان وسیع تر سیاسی اور سماجی رکاوٹوں کی بھی عکاسی کرتے ہیں جن کے تحت یہ کمپنیاں کام کرتی ہیں۔

مسدود تصاویر کا تفصیلی تجزیہ

Sand AI کی جانب سے مسدود کی گئی مخصوص تصاویر چینی حکومت کی حساسیتوں کے بارے میں ایک دریچہ پیش کرتی ہیں۔ مثال کے طور پر، شی جن پنگ کی تصاویر کی سنسرشپ حکومت کی جانب سے اپنے رہنما کی احتیاط سے تیار کردہ تصویر کو برقرار رکھنے پر زور دینے کی نشاندہی کرتی ہے۔ اسی طرح، تیانانمین اسکوائر اور ٹینک مین کی تصاویر کو مسدود کرنا حکومت کی جانب سے 1989 کے احتجاج کے بارے میں بحث اور یاد کو دبانے کی کوششوں کو اجاگر کرتا ہے۔ تائیوانی پرچم اور ہانگ کانگ کی آزادی کی حمایت کرنے والے نشانات کی سنسرشپ ان سیاسی طور پر حساس مسائل پر حکومت کے موقف کی عکاسی کرتی ہے۔

سنسرشپ کے تکنیکی پہلو

حقیقت یہ ہے کہ Sand AI کی سنسرشپ تصویری سطح پر کام کرتی ہے ایک نفیس فلٹرنگ سسٹم کی نشاندہی کرتی ہے جو مخصوص بصری مواد کی شناخت اور اسے مسدود کر سکتی ہے۔ یہ نظام ممکنہ طور پر اپ لوڈ کی گئی تصاویر کا تجزیہ کرنے اور ممنوعہ مواد کے ڈیٹا بیس کے خلاف ان کا موازنہ کرنے کے لیے تصویری شناخت کی ٹیکنالوجی استعمال کرتا ہے۔ حقیقت یہ ہے کہ تصویری فائلوں کا نام تبدیل کرنے سے بلاک کو بائی پاس نہیں کیا جا سکتا اس سے پتہ چلتا ہے کہ نظام محض فائل کے ناموں پر انحصار نہیں کر رہا ہے بلکہ درحقیقت تصویری ڈیٹا کا خود تجزیہ کر رہا ہے۔

AI سنسرشپ کا عالمی تناظر

اگرچہ چین کا AI سنسرشپ کا نقطہ نظر خاص طور پر سخت ہے، لیکن یہ واحد ملک نہیں ہے جو AI سے تیار کردہ مواد کو ریگولیٹ کرنے کے مسئلے سے نمٹ رہا ہے۔ امریکہ اور یورپ میں، پالیسی ساز غلط معلومات، ڈیپ فیکس اور کاپی رائٹ کی خلاف ورزی جیسے مسائل سے نمٹنے کے لیے ضوابط پر غور کر رہے ہیں۔ تاہم، مخصوص نقطہ نظر اور ترجیحات چین کے مقابلے میں نمایاں طور پر مختلف ہیں۔

اوپن سورس AI کا کردار

حقیقت یہ ہے کہ Sand AI نے اپنے Magi-1 ماڈل کو اوپن سورس کے طور پر جاری کیا، اس سے جدت اور سنسرشپ کے درمیان توازن کے بارے میں دلچسپ سوالات پیدا ہوتے ہیں۔ ایک طرف، اوپن سورس AI محققین اور ڈویلپرز کو کوڈ تک آزادانہ رسائی اور اس میں ترمیم کرنے کی اجازت دے کر جدت اور تعاون کو فروغ دے سکتا ہے۔ دوسری طرف، یہ ٹیکنالوجی کے استعمال کو کنٹرول کرنا اور اسے مذموم مقاصد کے لیے استعمال ہونے سے روکنا بھی زیادہ مشکل بنا سکتا ہے۔

چین میں AI کا مستقبل

چین میں AI کا مستقبل ممکنہ طور پر حکومت کی جانب سے تکنیکی جدت کو فروغ دینے کی خواہش اور سماجی اور سیاسی کنٹرول کو برقرار رکھنے کے عزم کے درمیان جاری کشیدگی سے متاثر ہوگا۔ چینی AI کمپنیوں کو ایک پیچیدہ ریگولیٹری منظرنامے پر تشریف لے جانے اور اپنی ٹیکنالوجی کو اس طرح تیار کرنے اور تعینات کرنے کے طریقے تلاش کرنے کی ضرورت ہوگی جو جدید اور حکومتی ضوابط کے مطابق ہو۔

وسیع تر مضمرات

Sand AI کا معاملہ اظہار رائے کی آزادی اور معلومات تک رسائی کے لیے AI سنسرشپ کے وسیع تر مضمرات کو اجاگر کرتا ہے۔ جیسے جیسے AI ٹیکنالوجی زیادہ طاقتور اور وسیع ہوتی جارہی ہے، اس کے استعمال کے اخلاقی اور سماجی مضمرات پر غور کرنا اور اس بات کو یقینی بنانا تیزی سے اہم ہوتا جارہا ہے کہ اسے اختلاف رائے کو دبانے یا معلومات تک رسائی کو محدود کرنے کے لیے استعمال نہ کیا جائے۔

دیگر پلیٹ فارمز کے ساتھ تقابلی تجزیہ

Sand AI کی سنسرشپ کے طریقوں کا Hailuo AI کے طریقوں کے ساتھ موازنہ سے پتہ چلتا ہے کہ چینی AI کمپنیوں میں سنسرشپ کی سختی میں کچھ فرق ہے۔ حقیقت یہ ہے کہ Hailuo AI تیانانمین اسکوائر کی تصاویر کی اجازت دیتا ہے اس سے پتہ چلتا ہے کہ اس کی سنسرشپ پالیسیاں Sand AI کے مقابلے میں کم جامع ہیں۔ یہ تغیر کمپنیوں کے خطرے کو برداشت کرنے، حکومتی ضوابط کی ان کی تشریح یا ان کی تکنیکی صلاحیتوں میں فرق کی عکاسی کر سکتا ہے۔

سنسرشپ کا اقتصادی اثر

چین میں AI سے تیار کردہ مواد کی سنسرشپ کے اقتصادی مضمرات بھی ہو سکتے ہیں۔ ایک طرف، یہ ملکی کمپنیوں کو غیر ملکی فرموں سے مقابلے سے بچا سکتا ہے جو اسی سنسرشپ کی ضروریات کے تابع نہیں ہیں۔ دوسری طرف، یہ جدت کو بھی روک سکتا ہے اور چینی AI کمپنیوں کی عالمی مارکیٹ میں مقابلہ کرنے کی صلاحیت کو محدود کر سکتا ہے۔

جدت اور کنٹرول کو متوازن کرنے کا چیلنج

چینی حکومت کو AI جدت کو فروغ دینے کی اپنی خواہش اور سماجی اور سیاسی کنٹرول کو برقرار رکھنے کے اپنے عزم کو متوازن کرنے کے چیلنج کا سامنا ہے۔ بہت زیادہ سنسرشپ جدت کو روک سکتی ہے اور چینی AI کمپنیوں کی صلاحیت کو محدود کر سکتی ہے۔ بہت کم سنسرشپ غلط معلومات کے پھیلاؤ اور سماجی اور سیاسی استحکام کے خاتمے کا باعث بن سکتی ہے۔

عالمی AI منظرنامہ

AI منظرنامہ تیزی سے ترقی کر رہا ہے، ہر وقت نئی ٹیکنالوجیز اور ایپلی کیشنز سامنے آرہی ہیں۔ چین AI کے میدان میں ایک بڑا کھلاڑی ہے، لیکن اسے سنسرشپ، ڈیٹا پرائیویسی اور ٹیلنٹ تک رسائی سے متعلق چیلنجوں کا سامنا ہے۔ AI کا مستقبل اس بات پر منحصر ہوگا کہ ان چیلنجوں سے کیسے نمٹا جاتا ہے اور اس حد تک کہ ممالک منصفانہ اور کھلے انداز میں تعاون اور مقابلہ کر سکتے ہیں۔

اخلاقی تحفظات

AI کے استعمال سے متعدد اخلاقی تحفظات پیدا ہوتے ہیں، جن میں تعصب، انصاف، شفافیت اور احتساب سے متعلق مسائل شامل ہیں۔ AI کی ترقی اور تعیناتی کے لیے اخلاقی رہنما خطوط اور معیارات تیار کرنا ضروری ہے تاکہ یہ یقینی بنایا جا سکے کہ اسے ذمہ داری اور فائدہ مند طریقے سے استعمال کیا جائے۔

شفافیت کی اہمیت

AI سسٹمز میں اعتماد پیدا کرنے کے لیے شفافیت ضروری ہے۔ یہ سمجھنا ضروری ہے کہ AI ماڈل کیسے کام کرتے ہیں اور وہ کیسے فیصلے کرتے ہیں۔ اس کے لیے ڈیٹا، الگورتھم اور فیصلہ سازی کے عمل تک رسائی فراہم کرنے کی ضرورت ہے۔ شفافیت تعصبات کی شناخت اور ان کو کم کرنے، انصاف کو یقینی بنانے اور احتساب کو فروغ دینے میں مدد کر سکتی ہے۔

تعلیم کا کردار

AI کے دور کے لیے افراد اور معاشروں کو تیار کرنے میں تعلیم ایک اہم کردار ادا کرتی ہے۔ لوگوں کو AI ٹیکنالوجی، اس کے ممکنہ فوائد اور خطرات، اور اس کے اخلاقی اور سماجی مضمرات کے بارے میں تعلیم دینا ضروری ہے۔ تعلیم AI خواندگی، تنقیدی سوچ اور ذمہ دارانہ جدت کو فروغ دینے میں مدد کر سکتی ہے۔

کام کا مستقبل

AI کا کام کے مستقبل پر نمایاں اثر پڑنے کا امکان ہے۔ کچھ ملازمتیں خودکار ہو سکتی ہیں، جبکہ دیگر تخلیق یا تبدیل ہو سکتی ہیں۔ کارکنوں کو ان تبدیلیوں کے لیے تیار کرنا ضروری ہے تاکہ انہیں وہ مہارتیں اور تربیت فراہم کی جائیں جن کی انہیں AI سے چلنے والی معیشت میں کامیاب ہونے کے لیے ضرورت ہے۔

تعاون کی اہمیت

AI کی جانب سے پیش کردہ چیلنجوں اور مواقع سے نمٹنے کے لیے تعاون ضروری ہے۔ اس میں محققین، ڈویلپرز، پالیسی سازوں اور عوام کے درمیان تعاون شامل ہے۔ تعاون اس بات کو یقینی بنانے میں مدد کر سکتا ہے کہ AI کو اس طرح تیار اور تعینات کیا جائے جو سب کے لیے فائدہ مند ہو۔

AI اور قومی سلامتی

AI قومی سلامتی میں بھی تیزی سے اہم کردار ادا کر رہا ہے۔ اسے نگرانی، انٹیلی جنس جمع کرنے اور خودمختار ہتھیاروں کے نظام جیسی ایپلی کیشنز کے لیے استعمال کیا جا رہا ہے۔ قومی سلامتی میں AI کا استعمال پیچیدہ اخلاقی اور اسٹریٹجک سوالات اٹھاتا ہے جن پر احتیاط سے غور کرنے کی ضرورت ہے۔

ضابطے کی ضرورت

AI کا ضابطہ ایک پیچیدہ اور ارتقائی مسئلہ ہے۔ کچھ کا استدلال ہے کہ AI کو ممکنہ نقصانات کو روکنے کے لیے سختی سے ریگولیٹ کیا جانا چاہیے، جبکہ دیگر کا استدلال ہے کہ ضرورت سے زیادہ ضابطہ جدت کو روک سکتا ہے۔ جدت کو فروغ دینے اور خطرات سے بچانے کے درمیان توازن قائم کرنا ضروری ہے۔

AI اور صحت کی دیکھ بھال

AI میں صحت کی دیکھ بھال کو کئی طریقوں سے تبدیل کرنے کی صلاحیت ہے۔ اسے بیماریوں کی تشخیص، علاج اور روک تھام کو بہتر بنانے کے لیے استعمال کیا جا سکتا ہے۔ AI کو صحت کی دیکھ بھال کو ذاتی بنانے اور اسے زیادہ قابل رسائی اور سستی بنانے کے لیے بھی استعمال کیا جا سکتا ہے۔

AI اور تعلیم

AI کو تعلیم کو بہتر بنانے کے لیے بھی استعمال کیا جا سکتا ہے۔ اسے سیکھنے کو ذاتی بنانے، رائے دینے اور انتظامی کاموں کو خودکار کرنے کے لیے استعمال کیا جا سکتا ہے۔ AI کو نئے تعلیمی ٹولز اور وسائل بنانے کے لیے بھی استعمال کیا جا سکتا ہے۔

AI اور ماحول

AI کو ماحولیاتی چیلنجوں سے نمٹنے کے لیے استعمال کیا جا سکتا ہے جیسے کہ موسمیاتی تبدیلی، آلودگی اور وسائل کی کمی۔ اسے توانائی کی کھپت کو بہتر بنانے، زرعی طریقوں کو بہتر بنانے اور ماحولیاتی حالات کی نگرانی کے لیے استعمال کیا جا سکتا ہے۔

AI کی طاقت

AI ایک طاقتور ٹیکنالوجی ہے جس میں ہماری زندگی کے بہت سے پہلوؤں کو تبدیل کرنے کی صلاحیت ہے۔ AI کو ذمہ داری اور اخلاقی طریقے سے تیار اور تعینات کرنا ضروری ہے تاکہ یہ یقینی بنایا جا سکے کہ یہ تمام انسانیت کو فائدہ پہنچائے۔ چین میں سنسرشپ کے طریقوں سے AI کو کنٹرول اور جبر کے مقاصد کے لیے استعمال کرنے کی صلاحیت کی ایک واضح یاد دہانی ملتی ہے۔ جیسے جیسے AI تیار ہوتا رہتا ہے، اس کے اخلاقی مضمرات کے بارے میں جاری مکالمے اور بحث میں مشغول ہونا اور یہ یقینی بنانا ضروری ہے کہ اسے آزادی، انصاف اور انسانی بہبود کو فروغ دینے کے لیے استعمال کیا جائے۔ کچھ AI ماڈلز کی اوپن سورس نوعیت اس سلسلے میں مواقع اور چیلنج دونوں پیش کرتی ہے۔ اگرچہ اوپن سورس AI جدت اور تعاون کو فروغ دے سکتا ہے، لیکن اس سے ٹیکنالوجی کے استعمال کو کنٹرول کرنا اور اسے مذموم مقاصد کے لیے استعمال ہونے سے روکنا بھی زیادہ مشکل ہو جاتا ہے۔ چیلنج یہ ہے کہ AI کی طاقت سے فائدہ اٹھانے کے طریقے تلاش کیے جائیں جبکہ اس کے خطرات کو کم کیا جائے اور یہ یقینی بنایا جائے کہ اسے سب کے فائدے کے لیے استعمال کیا جائے۔ اس کے لیے ایک کثیر جہتی نقطہ نظر کی ضرورت ہے جس میں اخلاقی رہنما خطوط، ضوابط، تعلیم اور جاری مکالمہ اور بحث شامل ہے۔

بین الاقوامی تعاون کا کردار

AI کی ترقی اور تعیناتی عالمی کوششیں ہیں جن کے لیے بین الاقوامی تعاون کی ضرورت ہے۔ ممالک کو مشترکہ معیارات تیار کرنے، بہترین طریقوں کا اشتراک کرنے اور AI کے اخلاقی اور سماجی مضمرات سے نمٹنے کے لیے مل کر کام کرنے کی ضرورت ہے۔ بین الاقوامی تعاون اس بات کو یقینی بنانے میں مدد کر سکتا ہے کہ AI کو تمام کے لیے امن، سلامتی اور خوشحالی کو فروغ دینے کے لیے استعمال کیا جائے۔

نتیجہ

Sand AI اور اس کی سنسرشپ کے طریقوں کی کہانی AI کی جانب سے پیش کردہ بڑے چیلنجوں اور مواقع کی ایک چھوٹی سی تصویر ہے۔ جیسے جیسے AI تیار ہوتا رہتا ہے اور زیادہ وسیع ہوتا جاتا ہے، اس کے استعمال کے اخلاقی، سماجی اور سیاسی مضمرات سے نمٹنا ضروری ہے۔ AI کا مستقبل اس بات پر منحصر ہوگا کہ ہم اس کی طاقت کو بھلائی کے لیے استعمال کرنے کے ساتھ ساتھ اس کے خطرات کو کم کرنے اور یہ یقینی بنانے کی صلاحیت رکھتے ہیں کہ اسے آزادی، انصاف اور انسانی بہبود کو فروغ دینے کے لیے استعمال کیا جائے۔ AI کے بارے میں جاری مکالمہ اور بحث اس کے مستقبل کو تشکیل دینے اور یہ یقینی بنانے کے لیے ضروری ہے کہ اسے سب کے لیے ایک بہتر دنیا بنانے کے لیے استعمال کیا جائے۔