چین میں اے آئی ویڈیو اسٹارٹ اپ، سیاسی حساسیت

چین میں اے آئی ویڈیو اسٹارٹ اپ، سیاسی حساسیت کے حامل تصاویر کو سنسر کرتا نظر آتا ہے

چین میں سینڈ اے آئی (Sand AI) نامی ایک اسٹارٹ اپ اپنی آن لائن ویڈیو تخلیق کے آلے سے مخصوص سیاسی طور پر حساس تصاویر کو روکنے کے لیے اقدامات کرتا نظر آتا ہے۔ یہ مشاہدہ ٹیک کرنچ (TechCrunch) کے ذریعہ کی جانے والی جانچ کے بعد سامنے آیا ہے، جس سے ظاہر ہوتا ہے کہ کمپنی اپنے ماڈل کے ہوسٹ کردہ ورژن کو ان تصاویر کو روکنے کے لیے سنسر کر رہی ہے جو چینی ریگولیٹرز کو مشتعل کر سکتی ہیں۔

سینڈ اے آئی نے حال ہی میں میگی-1 (Magi-1) لانچ کیا ہے، جو ایک کھلے لائسنس یافتہ، ویڈیو تیار کرنے والا اے آئی ماڈل ہے۔ اس ماڈل کو کائی-فو لی (Kai-Fu Lee) جیسی شخصیات نے سراہا ہے، جو مائیکروسافٹ ریسرچ ایشیا (Microsoft Research Asia) کے بانی ڈائریکٹر ہیں، جنہوں نے اس شعبے میں اس کی صلاحیت اور جدت کو اجاگر کیا ہے۔ میگی-1 “آٹو ریگریسولی” (autoregressively) فریموں کے سلسلے کی پیش گوئی کرکے ویڈیوز تیار کرتا ہے۔ سینڈ اے آئی کا دعویٰ ہے کہ میگی-1 اعلیٰ معیار کی، قابل کنٹرول فوٹیج تیار کرسکتا ہے جو درست طور پر طبیعیات کو اپنی گرفت میں لیتا ہے، اور مارکیٹ میں موجود دیگر اوپن ماڈلز سے بہتر کارکردگی کا مظاہرہ کرتا ہے۔

میگی-1 کی تکنیکی خصوصیات اور رسائی

میگی-1 کا عملی اطلاق اس کی مطالبہ کرنے والی ہارڈ ویئر کی ضروریات سے محدود ہے۔ ماڈل میں 24 بلین پیرامیٹرز ہیں اور اسے کام کرنے کے لیے چار سے آٹھ این ویڈیا ایچ 100 جی پی یوز (Nvidia H100 GPUs) کی ضرورت ہے۔ یہ چیز سینڈ اے آئی کے پلیٹ فارم کو بہت سے صارفین کے لیے میگی-1 کی صلاحیتوں کو جانچنے کے لیے بنیادی، اور اکثر واحد، قابل رسائی مقام بناتی ہے۔

پلیٹ فارم پر ویڈیو تیار کرنے کا عمل ایک “پراپٹ” (prompt) تصویر سے شروع ہوتا ہے۔ تاہم، تمام تصاویر قبول نہیں کی جاتی ہیں۔ ٹیک کرنچ کی تحقیقات سے انکشاف ہوا ہے کہ سینڈ اے آئی کا سسٹم شی جن پنگ (Xi Jinping)، تیانانمین اسکوائر (Tiananmen Square) اور “ٹینک مین” (Tank Man) واقعہ، تائیوانی پرچم (Taiwanese flag)، اور ہانگ کانگ کی آزادی کی تحریک (Hong Kong’s liberation movement) سے وابستہ علامات کی تصاویر کو اپ لوڈ کرنے سے روکتا ہے۔ ایسا لگتا ہے کہ یہ فلٹرنگ سسٹم تصویر کی سطح پر کام کرتا ہے، کیونکہ محض تصویر فائلوں کا نام تبدیل کرنے سے پابندیوں کو نظرانداز نہیں کیا جاسکتا ہے۔

دیگر چینی اے آئی پلیٹ فارمز سے موازنہ

سینڈ اے آئی واحد چینی اسٹارٹ اپ نہیں ہے جو اپنے ویڈیو تیار کرنے والے ٹولز پر سیاسی طور پر حساس تصاویر کو اپ لوڈ کرنے سے روکتا ہے۔ شنگھائی میں مقیم منی میکس (MiniMax) کا جنریٹو میڈیا پلیٹ فارم، ہائلو اے آئی (Hailuo AI) بھی شی جن پنگ کی تصاویر کو روکتا ہے۔ تاہم، سینڈ اے آئی کا فلٹرنگ میکانزم زیادہ سخت معلوم ہوتا ہے۔ مثال کے طور پر، ہائلو اے آئی تیانانمین اسکوائر کی تصاویر کی اجازت دیتا ہے، جو سینڈ اے آئی نہیں دیتا ہے۔

ان سخت کنٹرول کی ضرورت چینی ضوابط میں جڑی ہوئی ہے۔ جیسا کہ وائرڈ (Wired) نے جنوری میں رپورٹ کیا، چین میں اے آئی ماڈلز کو معلومات کے سخت کنٹرول پر عمل کرنے کا مینڈیٹ حاصل ہے۔ 2023 کا ایک قانون واضح طور پر اے آئی ماڈلز کو ایسے مواد تیار کرنے سے منع کرتا ہے جو “ملک کی وحدت اور سماجی ہم آہنگی کو نقصان پہنچائے”۔ اس وسیع تعریف میں کوئی بھی ایسا مواد شامل ہوسکتا ہے جو حکومت کے تاریخی اور سیاسی بیانیے سے متصادم ہو۔ ان ضوابط کی تعمیل کرنے کے لیے، چینی اسٹارٹ اپ اکثر پراپٹ لیول فلٹرز استعمال کرتے ہیں یا اپنے ماڈلز کو ممکنہ طور پر مشکل مواد کو سنسر کرنے کے لیے فائن ٹیون کرتے ہیں۔

سنسرشپ کے طریقوں کا تضاد: سیاسی بمقابلہ فحش مواد

دلچسپ بات یہ ہے کہ جہاں چینی اے آئی ماڈلز کو اکثر سیاسی تقریر کے حوالے سے بہت زیادہ سنسر کیا جاتا ہے، وہیں ان پر کبھی کبھی فحش مواد پر اتنی پابندیاں نہیں ہوتیں جتنی کہ ان کے امریکی ہم منصبوں پر ہوتی ہیں۔ 404 کی حالیہ رپورٹ میں بتایا گیا ہے کہ چینی کمپنیوں کے متعدد ویڈیو جنریٹرز میں غیر رضامندی والی عریاں تصاویر کی تیاری کو روکنے کے لیے بنیادی گارڈریلز کی کمی ہے۔

سینڈ اے آئی اور دیگر چینی ٹیک کمپنیوں کے اقدامات اے آئی سیکٹر میں تکنیکی جدت، سیاسی کنٹرول اور اخلاقی تحفظات کے مابین پیچیدہ تعامل کو اجاگر کرتے ہیں۔ چونکہ اے آئی ٹکنالوجی مسلسل ترقی کر رہی ہے، سنسرشپ، اظہار رائے کی آزادی اور اے آئی ڈویلپرز کی ذمہ داریوں پر بحث بلاشبہ تیز ہوگی۔

میگی-1 کے تکنیکی پہلوؤں میں گہرائی

میگی-1 ویڈیو تیار کرنے والی ٹکنالوجی میں ایک اہم پیشرفت کی نمائندگی کرتا ہے، بنیادی طور پر اس کے آٹو ریگریسو اپروچ کی وجہ سے۔ اس طریقہ کار میں ماڈل فریموں کے سلسلے کی پیش گوئی کرنا شامل ہے، جو زیادہ باریک اور مربوط ویڈیو آؤٹ پٹ کی اجازت دیتا ہے۔ یہ دعویٰ کہ میگی-1 حریف اوپن ماڈلز کے مقابلے میں طبیعیات کو زیادہ درستگی کے ساتھ اپنی گرفت میں لے سکتا ہے خاص طور پر قابل ذکر ہے۔ اس سے پتہ چلتا ہے کہ ماڈل ایسی ویڈیوز تیار کرنے کی صلاحیت رکھتا ہے جو حقیقت پسندانہ حرکات اور تعاملات کو ظاہر کرتی ہیں، جو اسے تفریح، تعلیم اور سائنسی تصور سازی سمیت مختلف ایپلی کیشنز کے لیے ایک قیمتی ٹول بناتی ہے۔

ماڈل کی متاثر کن صلاحیتیں اس کے سائز اور ہارڈ ویئر کی ضروریات میں بھی ظاہر ہوتی ہیں۔ 24 بلین پیرامیٹرز کے ساتھ، میگی-1 ایک پیچیدہ اور حسابی طور پر گہرا ماڈل ہے۔ این ویڈیا ایچ 100 ایس (Nvidia H100s) جیسے متعدد ہائی اینڈ جی پی یوز (GPUs) کی ضرورت اس بات پر زور دیتی ہے کہ اسے مؤثر طریقے سے چلانے کے لیے اہم وسائل کی ضرورت ہے۔ اس حد کا مطلب ہے کہ اگرچہ میگی-1 ایک اوپن سورس ماڈل ہے، لیکن انفرادی صارفین اور چھوٹی تنظیموں کے لیے اس کی رسائی محدود ہے۔ لہذا سینڈ اے آئی کا پلیٹ فارم بہت سے لوگوں کے لیے اس جدید ٹکنالوجی کا تجربہ کرنے اور اس کے ساتھ تجربات کرنے کے لیے ایک اہم گیٹ وے کا کام کرتا ہے۔

اے آئی ڈویلپمنٹ پر سنسرشپ کے مضمرات

سینڈ اے آئی اور دیگر چینی اے آئی کمپنیوں کے ذریعہ نافذ کردہ سنسرشپ کے طریقوں سے اے آئی کی ترقی کے مستقبل اور معاشرے پر اس کے اثرات کے بارے میں اہم سوالات اٹھتے ہیں۔ اگرچہ مقامی ضوابط کی تعمیل کرنے کی ضرورت قابل فہم ہے، لیکن سیاسی طور پر حساس مواد کو سنسر کرنے کے عمل کے دور رس نتائج ہوسکتے ہیں۔

سب سے پہلے، یہ اے آئی ماڈلز کے ذریعہ تیار کی جانے والی چیزوں کی گنجائش کو محدود کرکے جدت کو دبا سکتا ہے۔ جب ڈویلپرز کو کچھ موضوعات یا نقطہ نظر سے گریز کرنے پر مجبور کیا جاتا ہے، تو یہ نئے خیالات کی تلاش اور اے آئی کے ساتھ ممکنہ حدود کو آگے بڑھانے کی ان کی صلاحیت کو روک سکتا ہے۔ یہ بالآخر اے آئی ٹکنالوجی کی پیشرفت کو سست کرسکتا ہے اور اس کے ممکنہ فوائد کو محدود کرسکتا ہے۔

دوم، سنسرشپ اے آئی سسٹم میں اعتماد کو ختم کرسکتی ہے۔ جب صارفین کو یہ معلوم ہوتا ہے کہ اے آئی ماڈل کو کسی خاص سیاسی ایجنڈے کی تعمیل کرنے کے لیے جوڑ توڑ کیا جارہا ہے، تو وہ اس کے نتائج پر اعتماد کرنے یا معلومات کے لیے اس پر انحصار کرنے کا امکان کم کرسکتے ہیں۔ اس سے شکوک و شبہات اور عدم اعتماد پیدا ہوسکتا ہے، جو معاشرے میں اے آئی ٹکنالوجی کو اپنانے اور قبول کرنے کو کمزور کرسکتا ہے۔

سوم، سنسرشپ حقیقت کا مسخ شدہ نظریہ تشکیل دے سکتی ہے۔ معلومات اور نقطہ نظر کو منتخب طور پر فلٹر کرکے، اے آئی ماڈلز دنیا کی جانبدار یا نامکمل تصویر پیش کرسکتے ہیں۔ اس سے رائے عامہ پر نمایاں اثر پڑ سکتا ہے اور یہاں تک کہ لوگوں کے عقائد اور طرز عمل کو جوڑ توڑ کرنے کے لیے بھی استعمال کیا جاسکتا ہے۔

وسیع تر تناظر: چین میں اے آئی ریگولیشن

چین میں ریگولیٹری ماحول اے آئی ٹکنالوجی کی ترقی اور تعیناتی کو تشکیل دینے میں اہم کردار ادا کرتا ہے۔ 2023 کا قانون جو اے آئی ماڈلز کو ایسے مواد تیار کرنے سے منع کرتا ہے جو “ملک کی وحدت اور سماجی ہم آہنگی کو نقصان پہنچائے” حکومت کی جانب سے معلومات کے بہاؤ کو کنٹرول کرنے اور سماجی استحکام کو برقرار رکھنے کی کوششوں کی صرف ایک مثال ہے۔

ان ضوابط کا چین میں کام کرنے والی اے آئی کمپنیوں پر نمایاں اثر پڑتا ہے۔ انہیں قانون کی خلاف ورزی سے بچنے کے لیے پیچیدہ اور اکثر مبہم تقاضوں کو احتیاط سے نیویگیٹ کرنا ہوگا۔ یہ ایک مشکل کام ہوسکتا ہے، کیونکہ “نقصان دہ” مواد کی تعریف اکثر تشریح کے لیے کھلی ہوتی ہے۔

مزید برآں، ضوابط جدت پر ٹھنڈا اثر ڈال سکتے ہیں۔ اے آئی ڈویلپرز حکام کی طرف سے ناپسندیدہ توجہ مبذول کرانے کے خوف سے کچھ موضوعات کو تلاش کرنے یا نئے خیالات کے ساتھ تجربہ کرنے میں ہچکچاہٹ محسوس کرسکتے ہیں۔ اس سے تخلیقی صلاحیتوں کو دبایا جاسکتا ہے اور دنیا کے کچھ انتہائی دباؤ والے چیلنجوں سے نمٹنے کے لیے اے آئی ٹکنالوجی کی صلاحیت کو محدود کیا جاسکتا ہے۔

اے آئی سنسرشپ کے اخلاقی مخمصے

اے آئی سنسرشپ کے عمل سے کئی اخلاقی مخمصے پیدا ہوتے ہیں۔ ان میں سے سب سے اہم سوال یہ ہے کہ کسے فیصلہ کرنا چاہیے کہ کون سا مواد قابل قبول ہے اور کون سا نہیں۔ چین کے معاملے میں، حکومت نے ان معیارات کو طے کرنے میں ایک اہم کردار ادا کیا ہے۔ تاہم، اس سے سیاسی تعصب کے امکان اور اختلافی آوازوں کو دبانے کے بارے میں خدشات پیدا ہوتے ہیں۔

ایک اور اخلاقی مخمصہ شفافیت کا سوال ہے۔ کیا اے آئی کمپنیوں کو اپنی سنسرشپ کے طریقوں کے بارے میں شفاف ہونا چاہیے؟ کیا انہیں ان معیارات کا انکشاف کرنا چاہیے جن کا وہ مواد کو فلٹر کرنے اور اپنے فیصلوں کی وجوہات کے لیے استعمال کرتے ہیں؟ اعتماد پیدا کرنے اور یہ یقینی بنانے کے لیے کہ اے آئی سسٹم ذمہ داری کے ساتھ استعمال کیے جائیں، شفافیت ضروری ہے۔ تاہم، اسے عملی طور پر نافذ کرنا بھی مشکل ہوسکتا ہے، کیونکہ اس کے لیے کمپنیوں کو اپنے الگورتھم اور ڈیٹا کے بارے میں حساس معلومات ظاہر کرنے کی ضرورت پڑسکتی ہے۔

ایک اور اخلاقی مخمصہ جوابدہی کا سوال ہے۔ جب اے آئی سسٹم غلطیاں کرتے ہیں یا نقصان پہنچاتے ہیں تو کسے جوابدہ ٹھہرایا جانا چاہیے؟ کیا یہ ڈویلپرز، آپریٹرز یا صارفین ہونے چاہئیں؟ یہ یقینی بنانے کے لیے جوابدہی کی واضح لکیریں قائم کرنا ضروری ہے کہ اے آئی سسٹم اخلاقی اور ذمہ داری کے ساتھ استعمال ہوں۔

اے آئی اور سنسرشپ کا مستقبل

چونکہ اے آئی ٹکنالوجی میں ترقی جاری ہے، سنسرشپ پر بحث غالبا تیز ہوگی۔ معلومات کو کنٹرول کرنے کی خواہش اور جدت کو فروغ دینے کی ضرورت کے مابین تناؤ اے آئی سسٹم کی ترقی اور تعیناتی کو تشکیل دیتا رہے گا۔

ایک ممکنہ مستقبل ایک ایسی دنیا ہے جہاں اے آئی سسٹم کو حکومتوں کے ذریعہ بھاری طور پر سنسر اور کنٹرول کیا جاتا ہے۔ اس منظر نامے میں، اے آئی ٹکنالوجی کا استعمال موجودہ طاقت کے ڈھانچے کو مستحکم کرنے اور اختلاف کو دبانے کے لیے کیا جاتا ہے۔ اس سے جدت کا دم گھٹ سکتا ہے اور انفرادی آزادیوں میں کمی آسکتی ہے۔

ایک اور ممکنہ مستقبل ایک ایسی دنیا ہے جہاں اے آئی سسٹم زیادہ کھلے اور شفاف ہوں۔ اس منظر نامے میں، اے آئی ٹکنالوجی کا استعمال افراد کو بااختیار بنانے اور جمہوریت کو فروغ دینے کے لیے کیا جاتا ہے۔ اس سے تخلیقی صلاحیتوں اور جدت کا ایک عروج پیدا ہوسکتا ہے، نیز اعتماد اور جوابدہی کا زیادہ احساس پیدا ہوسکتا ہے۔

اے آئی اور سنسرشپ کا مستقبل ان فیصلوں پر منحصر ہوگا جو ہم آج کرتے ہیں۔ اے آئی ٹکنالوجی کے اخلاقی، معاشرتی اور سیاسی مضمرات کے بارے میں سوچ سمجھ کر اور باخبر بحث میں شامل ہونا ضروری ہے۔ مل کر کام کرکے، ہم یہ یقینی بنا سکتے ہیں کہ اے آئی کا استعمال ایک زیادہ منصفانہ اور مساوی دنیا بنانے کے لیے کیا جائے۔

اے آئی مواد کے ضابطے کی پیچیدگیوں کو نیویگیٹ کرنا

سینڈ اے آئی کا معاملہ اے آئی مواد کے ضابطے کے ارد گرد پیچیدہ چیلنجوں کو اجاگر کرتا ہے، خاص طور پر سخت سیاسی اور معاشرتی کنٹرول کے سیاق و سباق میں۔ جدت کو فروغ دینے، ریگولیٹری تقاضوں پر عمل کرنے اور اخلاقی اصولوں کو برقرار رکھنے کے مابین توازن ایک نازک توازن ہے۔ چونکہ اے آئی ہماری زندگیوں کے مختلف پہلوؤں میں سرایت کرتا رہتا ہے، اس کے ضابطے کے گرد بحث کثیر الجہتی ہونی چاہیے، جس میں قانونی، اخلاقی اور تکنیکی تحفظات شامل ہوں۔

دنیا بھر کی حکومتیں اے آئی گورننس کے لیے مناسب فریم ورک قائم کرنے کے کام سے دست و گریباں ہیں۔ ان فریم ورک کا مقصد تعصب، رازداری، سلامتی اور جوابدہی جیسے خدشات کو دور کرنا ہے۔ تاہم، اے آئی کی ترقی کی تیز رفتار ضوابط کو اپ ٹو ڈیٹ اور متعلقہ رکھنا مشکل بناتی ہے۔

مزید برآں، اے آئی کی عالمی نوعیت اضافی پیچیدگیاں پیش کرتی ہے۔ مختلف ممالک کی مختلف اقدار اور ترجیحات ہیں، جو متضاد ضوابط اور معیارات کا باعث بن سکتی ہیں۔ یہ اے آئی کمپنیوں کے لیے چیلنجز پیدا کرتا ہے جو سرحدوں کے پار کام کرتی ہیں، کیونکہ انہیں قانونی اور اخلاقی تقاضوں کے ایک پیچیدہ جال کو نیویگیٹ کرنا ہوتا ہے۔

مستقبل کی تشکیل میں اے آئی ڈویلپرز کا کردار

مستقبل کی تشکیل میں اے آئی ڈویلپرز کا ایک اہم کردار ہے۔ وہ وہی ہیں جو اے آئی سسٹم کو ڈیزائن اور بناتے ہیں، اور ان کی یہ ذمہ داری ہے کہ وہ اس بات کو یقینی بنائیں کہ ان سسٹم کو اخلاقی اور ذمہ داری کے ساتھ استعمال کیا جائے۔

اس میں اے آئی الگورتھم میں تعصب کے امکان سے آگاہ ہونا اور اسے کم کرنے کے لیے اقدامات کرنا شامل ہے۔ اس میں اے آئی سسٹم کے کام کرنے کے طریقے کے بارے میں شفاف ہونا اور صارفین کو اپنے فیصلوں کی واضح وضاحت فراہم کرنا بھی شامل ہے۔

مزید برآں، اے آئی ڈویلپرز کو اے آئی ریگولیشن کے بارے میں بحث میں فعال طور پر شامل ہونا چاہیے۔ ان کے پاس قیمتی بصیرت اور مہارت ہے جو پالیسی سازوں کو باخبر فیصلے کرنے میں مدد کرسکتی ہے۔

مل کر کام کرکے، اے آئی ڈویلپرز، پالیسی ساز اور عوام یہ یقینی بنا سکتے ہیں کہ اے آئی کا استعمال سب کے لیے ایک بہتر مستقبل بنانے کے لیے کیا جائے۔

نتیجہ

سینڈ اے آئی کی کہانی اور اس کے سنسرشپ کے طریقے اے آئی ٹکنالوجی کی ترقی اور تعیناتی میں پیدا ہونے والے پیچیدہ چیلنجوں اور اخلاقی تحفظات کی یاد دہانی کا کام کرتے ہیں۔ چونکہ اے آئی کا ارتقا جاری ہے، اس کے ممکنہ فوائد اور خطرات کے بارے میں کھلی اور ایماندارانہ بات چیت میں شامل ہونا ضروری ہے۔ مل کر کام کرکے، ہم یہ یقینی بنا سکتے ہیں کہ اے آئی کا استعمال ایک زیادہ منصفانہ، مساوی اور خوشحال دنیا بنانے کے لیے کیا جائے۔