AI จีน บล็อกภาพอ่อนไหวทางการเมือง

Sand AI สตาร์ทอัพวิดีโอ AI ของจีน เพิ่งเปิดตัวโมเดล AI โอเพนซอร์สสำหรับการสร้างวิดีโอ ซึ่งได้รับการยกย่องจากบุคคลสำคัญเช่น Kai-Fu Lee ผู้อำนวยการผู้ก่อตั้ง Microsoft Research Asia อย่างไรก็ตาม การทดสอบของ TechCrunch เผยให้เห็นว่า Sand AI เซ็นเซอร์โมเดลเวอร์ชันที่โฮสต์แบบสาธารณะ ป้องกันการสร้างภาพที่อาจยั่วยุความโกรธเคืองของผู้กำกับดูแลชาวจีน

Magi-1: โมเดลที่มีแนวโน้มแต่ถูกจำกัด

เมื่อต้นสัปดาห์นี้ Sand AI ได้เปิดตัว Magi-1 ซึ่งเป็นโมเดลที่สามารถสร้างวิดีโอได้โดยการคาดการณ์ลำดับเฟรมแบบ “autoregressively” บริษัทอ้างว่าโมเดลนี้สามารถสร้างฟุตเทจคุณภาพสูงที่ควบคุมได้ ซึ่งจับภาพฟิสิกส์ได้อย่างแม่นยำกว่าคู่แข่งโอเพนซอร์ส

แม้จะมีศักยภาพ แต่ Magi-1 ยังไม่สามารถใช้งานได้จริงสำหรับฮาร์ดแวร์สำหรับผู้บริโภคส่วนใหญ่ มีพารามิเตอร์ 24 พันล้านพารามิเตอร์ ต้องใช้ GPU Nvidia H100 จำนวน 4 ถึง 8 ตัวเพื่อให้ทำงานได้อย่างมีประสิทธิภาพ พารามิเตอร์คือตัวแปรภายในที่โมเดล AI ใช้ในการคาดการณ์ สำหรับผู้ใช้จำนวนมาก รวมถึงนักข่าว TechCrunch ที่ทดสอบ แพลตฟอร์ม Sand AI เป็นช่องทางเดียวที่สามารถเข้าถึงได้สำหรับการประเมิน Magi-1

การเซ็นเซอร์ในการปฏิบัติ: ภาพใดถูกบล็อก

แพลตฟอร์มต้องการข้อความแจ้งหรือภาพเริ่มต้นเพื่อเริ่มการสร้างวิดีโอ อย่างไรก็ตาม ไม่ใช่ทุกข้อความแจ้งที่ได้รับอนุญาต ดังที่ TechCrunch ค้นพบอย่างรวดเร็ว Sand AI บล็อกการอัปโหลดภาพที่มี:

• Xi Jinping
• จัตุรัสเทียนอันเหมินและ Tank Man
• ธงชาติไต้หวัน
• ป้ายสนับสนุนการปลดปล่อยฮ่องกง

การกรองดูเหมือนจะเกิดขึ้นในระดับภาพ เนื่องจากการเปลี่ยนชื่อไฟล์ภาพไม่ได้ข้ามการบล็อก

Sand AI ไม่ได้โดดเดี่ยวในการใช้การเซ็นเซอร์

Sand AI ไม่ได้มีเอกลักษณ์ในการเข้าถึง Hailuo AI ซึ่งเป็นแพลตฟอร์มสื่อสร้างสรรค์ที่ดำเนินการโดย MiniMax ซึ่งตั้งอยู่ในเซี่ยงไฮ้ ยังป้องกันการอัปโหลดภาพที่ละเอียดอ่อนทางการเมือง โดยเฉพาะภาพที่แสดงถึง Xi Jinping อย่างไรก็ตาม การกรองของ Sand AI ดูเหมือนจะเข้มงวดเป็นพิเศษ เนื่องจาก Hailuo AI อนุญาตให้ใช้ภาพของจัตุรัสเทียนอันเหมิน

ภูมิทัศน์ทางกฎหมายของการเซ็นเซอร์ AI ในจีน

ดังที่ Wired อธิบายไว้ในบทความเดือนมกราคม โมเดล AI ที่ดำเนินการในจีนอยู่ภายใต้การควบคุมข้อมูลที่เข้มงวด กฎหมายปี 2023 ห้ามไม่ให้โมเดลเหล่านี้สร้างเนื้อหาที่ “เป็นอันตรายต่อความสามัคคีของชาติและความสามัคคีทางสังคม” ซึ่งสามารถตีความได้ว่าเป็นเนื้อหาที่ขัดแย้งกับเรื่องเล่าทางประวัติศาสตร์และการเมืองของรัฐบาล เพื่อให้สอดคล้องกับข้อบังคับเหล่านี้ สตาร์ทอัพจีนมักจะเซ็นเซอร์โมเดลของตนผ่านตัวกรองระดับพรอมต์หรือการปรับแต่งอย่างละเอียด

ความแตกต่างในการเซ็นเซอร์: การเมืองเทียบกับสื่อลามก

สิ่งที่น่าสนใจคือ ในขณะที่โมเดล AI ของจีนมีแนวโน้มที่จะบล็อกการแสดงออกทางการเมือง พวกเขามักจะมีตัวกรองต่อต้านเนื้อหาลามกน้อยกว่าคู่หูชาวอเมริกัน 404 เพิ่งรายงานว่าเครื่องสร้างวิดีโอหลายตัวที่เผยแพร่โดยบริษัทจีนไม่มีการป้องกันขั้นพื้นฐานเพื่อป้องกันการสร้างภาพลามกอนาจารที่ไม่ได้รับการยินยอม

ผลกระทบของการเซ็นเซอร์ AI

แนวทางการเซ็นเซอร์ที่ Sand AI และบริษัท AI จีนอื่น ๆ ใช้ ก่อให้เกิดคำถามสำคัญเกี่ยวกับอนาคตของการพัฒนาและการเข้าถึง AI ในจีน แนวทางปฏิบัติเหล่านี้ไม่เพียงแต่จำกัดขอบเขตของเนื้อหาที่สามารถสร้างได้เท่านั้น แต่ยังสะท้อนถึงข้อจำกัดทางการเมืองและสังคมที่กว้างขึ้นซึ่งบริษัทเหล่านี้ดำเนินการอยู่

การวิเคราะห์โดยละเอียดของภาพที่ถูกบล็อก

ภาพเฉพาะที่ถูกบล็อกโดย Sand AI นำเสนอหน้าต่างสู่ความละเอียดอ่อนของรัฐบาลจีน ตัวอย่างเช่น การเซ็นเซอร์ภาพของ Xi Jinping เน้นย้ำถึงการเน้นย้ำของรัฐบาลในการรักษารูปลักษณ์ที่ได้รับการดูแลอย่างพิถีพิถันของผู้นำในทำนองเดียวกัน การบล็อกภาพของจัตุรัสเทียนอันเหมินและ Tank Man เน้นย้ำถึงความพยายามของรัฐบาลในการระงับการอภิปรายและการระลึกถึงการประท้วงในปี 1989 การเซ็นเซอร์ธงชาติไต้หวันและป้ายสนับสนุนการปลดปล่อยฮ่องกงสะท้อนให้เห็นถึงจุดยืนของรัฐบาลในประเด็นที่ละเอียดอ่อนทางการเมืองเหล่านี้

ด้านเทคนิคของการเซ็นเซอร์

ความจริงที่ว่าการเซ็นเซอร์ของ Sand AI ทำงานในระดับภาพ บ่งชี้ถึงระบบการกรองที่ซับซ้อนที่สามารถระบุและบล็อกเนื้อหาภาพเฉพาะได้ ระบบนี้อาจใช้เทคโนโลยีการจดจำภาพเพื่อวิเคราะห์ภาพที่อัปโหลดและเปรียบเทียบกับฐานข้อมูลของเนื้อหาที่ต้องห้าม ความจริงที่ว่าการเปลี่ยนชื่อไฟล์ภาพไม่ได้ข้ามการบล็อก บ่งชี้ว่าระบบไม่ได้อาศัยชื่อไฟล์เพียงอย่างเดียว แต่กำลังวิเคราะห์ข้อมูลภาพเอง

บริบทระดับโลกของการเซ็นเซอร์ AI

ในขณะที่แนวทางของจีนในการเซ็นเซอร์ AI นั้นเข้มงวดเป็นพิเศษ แต่ก็ไม่ใช่ประเทศเดียวที่กำลังต่อสู้กับปัญหาว่าจะควบคุมเนื้อหาที่สร้างโดย AI ได้อย่างไร ในสหรัฐอเมริกาและยุโรป ผู้กำหนดนโยบายกำลังพิจารณาข้อบังคับเพื่อจัดการกับปัญหาต่างๆ เช่น ข้อมูลที่ผิดพลาด ดีปเฟค และการละเมิดลิขสิทธิ์ อย่างไรก็ตาม แนวทางและลำดับความสำคัญที่เฉพาะเจาะจงนั้นแตกต่างกันอย่างมากจากแนวทางในจีน

บทบาทของ AI โอเพนซอร์ส

ความจริงที่ว่า Sand AI ปล่อยโมเดล Magi-1 เป็นโอเพนซอร์ส ทำให้เกิดคำถามที่น่าสนใจเกี่ยวกับความสมดุลระหว่างนวัตกรรมและการเซ็นเซอร์ ในอีกด้านหนึ่ง AI โอเพนซอร์สสามารถส่งเสริมนวัตกรรมและความร่วมมือโดยอนุญาตให้นักวิจัยและนักพัฒนาเข้าถึงและแก้ไขโค้ดได้อย่างอิสระ ในทางกลับกัน ยังทำให้การควบคุมการใช้เทคโนโลยีและการป้องกันไม่ให้ถูกใช้เพื่อวัตถุประสงค์ที่เป็นอันตรายได้ยากขึ้น

อนาคตของ AI ในจีน

อนาคตของ AI ในจีนมีแนวโน้มที่จะถูกกำหนดโดยความตึงเครียดอย่างต่อเนื่องระหว่างความปรารถนาของรัฐบาลในการส่งเสริมนวัตกรรมทางเทคโนโลยีและความมุ่งมั่นในการรักษาระเบียบทางสังคมและการเมือง บริษัท AI ของจีนจะต้องสำรวจภูมิทัศน์ด้านกฎระเบียบที่ซับซ้อนและหาวิธีพัฒนาและปรับใช้เทคโนโลยีของตนในลักษณะที่ทั้งนวัตกรรมและเป็นไปตามกฎระเบียบของรัฐบาล

ผลกระทบที่กว้างขึ้น

กรณีของ Sand AI เน้นย้ำถึงผลกระทบที่กว้างขึ้นของการเซ็นเซอร์ AI ต่อเสรีภาพในการแสดงออกและการเข้าถึงข้อมูล ในขณะที่เทคโนโลยี AI มีประสิทธิภาพและแพร่หลายมากขึ้น สิ่งสำคัญคือต้องพิจารณาถึงผลกระทบทางจริยธรรมและสังคมของการใช้งาน และเพื่อให้แน่ใจว่าไม่ได้ใช้เพื่อระงับความเห็นต่างหรือจำกัดการเข้าถึงข้อมูล

การวิเคราะห์เปรียบเทียบกับแพลตฟอร์มอื่น

การเปรียบเทียบแนวทางการเซ็นเซอร์ของ Sand AI กับแนวทางของ Hailuo AI เผยให้เห็นว่ามีความแตกต่างบางประการในความเข้มงวดของการเซ็นเซอร์ในหมู่บริษัท AI จีน ความจริงที่ว่า Hailuo AI อนุญาตให้ใช้ภาพของจัตุรัสเทียนอันเหมิน บ่งชี้ว่านโยบายการเซ็นเซอร์ของตนนั้นครอบคลุมน้อยกว่านโยบายของ Sand AI ความแปรปรวนนี้อาจสะท้อนถึงความแตกต่างในความทนทานต่อความเสี่ยงของบริษัท การตีความกฎระเบียบของรัฐบาล หรือความสามารถทางเทคนิคของพวกเขา

ผลกระทบทางเศรษฐกิจของการเซ็นเซอร์

การเซ็นเซอร์เนื้อหาที่สร้างโดย AI ในจีนอาจมีผลกระทบทางเศรษฐกิจเช่นกัน ในอีกด้านหนึ่ง อาจปกป้องบริษัทในประเทศจากการแข่งขันจากบริษัทต่างชาติที่ไม่ต้องอยู่ภายใต้ข้อกำหนดการเซ็นเซอร์เดียวกัน ในทางกลับกัน อาจขัดขวางนวัตกรรมและจำกัดศักยภาพของบริษัท AI จีนในการแข่งขันในตลาดโลก

ความท้าทายในการสร้างสมดุลระหว่างนวัตกรรมและการควบคุม

รัฐบาลจีนเผชิญกับความท้าทายในการสร้างสมดุลระหว่างความปรารถนาที่จะส่งเสริมนวัตกรรม AI กับความมุ่งมั่นในการรักษาระเบียบทางสังคมและการเมือง การเซ็นเซอร์มากเกินไปอาจขัดขวางนวัตกรรมและจำกัดศักยภาพของบริษัท AI จีน การเซ็นเซอร์น้อยเกินไปอาจนำไปสู่การแพร่กระจายของข้อมูลที่ผิดพลาดและการกัดกร่อนของเสถียรภาพทางสังคมและการเมือง

ภูมิทัศน์ AI ระดับโลก

ภูมิทัศน์ AI มีการพัฒนาอย่างรวดเร็ว โดยมีเทคโนโลยีและแอปพลิเคชันใหม่ๆ เกิดขึ้นตลอดเวลา จีนเป็นผู้เล่นหลักในสาขา AI แต่เผชิญกับความท้าทายที่เกี่ยวข้องกับการเซ็นเซอร์ ความเป็นส่วนตัวของข้อมูล และการเข้าถึงผู้มีความสามารถ อนาคตของ AI จะขึ้นอยู่กับวิธีการจัดการกับความท้าทายเหล่านี้ และขอบเขตที่ประเทศต่างๆ สามารถร่วมมือและแข่งขันกันได้อย่างยุติธรรมและเปิดเผย

ข้อควรพิจารณาด้านจริยธรรม

การใช้ AI ก่อให้เกิดข้อควรพิจารณาด้านจริยธรรมหลายประการ รวมถึงประเด็นที่เกี่ยวข้องกับอคติ ความเป็นธรรม ความโปร่งใส และความรับผิดชอบ สิ่งสำคัญคือต้องพัฒนากฎเกณฑ์และมาตรฐานทางจริยธรรมสำหรับการพัฒนาและการปรับใช้ AI เพื่อให้แน่ใจว่ามีการใช้งานอย่างมีความรับผิดชอบและเป็นประโยชน์

ความสำคัญของความโปร่งใส

ความโปร่งใสเป็นสิ่งจำเป็นสำหรับการสร้างความไว้วางใจในระบบ AI สิ่งสำคัญคือต้องเข้าใจวิธีการทำงานของโมเดล AI และวิธีการตัดสินใจ สิ่งนี้ต้องให้การเข้าถึงข้อมูล อัลกอริธึม และกระบวนการตัดสินใจ ความโปร่งใสสามารถช่วยในการระบุและบรรเทาอคติ ตรวจสอบความเป็นธรรม และส่งเสริมความรับผิดชอบ

บทบาทของการศึกษา

การศึกษามีบทบาทสำคัญในการเตรียมบุคคลและสังคมสำหรับยุค AI สิ่งสำคัญคือต้องให้ความรู้แก่ผู้คนเกี่ยวกับเทคโนโลยี AI ประโยชน์และความเสี่ยงที่อาจเกิดขึ้น และผลกระทบทางจริยธรรมและสังคม การศึกษาสามารถช่วยส่งเสริมความรู้ด้าน AI การคิดเชิงวิพากษ์ และนวัตกรรมที่มีความรับผิดชอบ

อนาคตของการทำงาน

AI มีแนวโน้มที่จะมีผลกระทบอย่างมีนัยสำคัญต่ออนาคตของการทำงาน งานบางอย่างอาจเป็นไปโดยอัตโนมัติ ในขณะที่งานอื่น ๆ อาจถูกสร้างขึ้นหรือเปลี่ยนแปลง สิ่งสำคัญคือต้องเตรียมผู้ปฏิบัติงานสำหรับความเปลี่ยนแปลงเหล่านี้ โดยให้ทักษะและการฝึกอบรมที่พวกเขาต้องการเพื่อให้ประสบความสำเร็จในเศรษฐกิจที่ขับเคลื่อนด้วย AI

ความสำคัญของความร่วมมือ

ความร่วมมือเป็นสิ่งจำเป็นสำหรับการจัดการกับความท้าทายและโอกาสที่ AI นำเสนอ ซึ่งรวมถึงความร่วมมือระหว่างนักวิจัย นักพัฒนา ผู้กำหนดนโยบาย และประชาชน ความร่วมมือสามารถช่วยให้มั่นใจได้ว่า AI จะได้รับการพัฒนาและปรับใช้ในลักษณะที่เป็นประโยชน์ต่อทุกคน

AI และความมั่นคงแห่งชาติ

AI ยังมีบทบาทสำคัญมากขึ้นในความมั่นคงแห่งชาติ มีการใช้สำหรับแอปพลิเคชันต่างๆ เช่น การเฝ้าระวัง การรวบรวมข่าวกรอง และระบบอาวุธอัตโนมัติ การใช้ AI ในความมั่นคงแห่งชาติก่อให้เกิดคำถามทางจริยธรรมและเชิงกลยุทธ์ที่ซับซ้อน ซึ่งจำเป็นต้องพิจารณาอย่างรอบคอบ

ความจำเป็นในการควบคุม

การควบคุม AI เป็นประเด็นที่ซับซ้อนและมีการพัฒนา บางคนแย้งว่า AI ควรได้รับการควบคุมอย่างเข้มงวดเพื่อป้องกันอันตรายที่อาจเกิดขึ้น ในขณะที่คนอื่น ๆ แย้งว่าการควบคุมที่มากเกินไปอาจขัดขวางนวัตกรรม สิ่งสำคัญคือต้องสร้างสมดุลระหว่างการส่งเสริมนวัตกรรมและการป้องกันความเสี่ยง

AI และการดูแลสุขภาพ

AI มีศักยภาพในการเปลี่ยนแปลงการดูแลสุขภาพในหลาย ๆ ด้าน สามารถใช้เพื่อปรับปรุงการวินิจฉัย การรักษา และการป้องกันโรคได้ AI ยังสามารถใช้เพื่อปรับเปลี่ยนการดูแลสุขภาพให้เป็นแบบส่วนตัวมากขึ้น และทำให้สามารถเข้าถึงและราคาไม่แพงมากขึ้น

AI และการศึกษา

AI ยังสามารถใช้เพื่อปรับปรุงการศึกษาได้ สามารถใช้เพื่อปรับเปลี่ยนการเรียนรู้ให้เป็นแบบส่วนตัว ให้ข้อเสนอแนะ และทำให้งานด้านการบริหารเป็นไปโดยอัตโนมัติ AI ยังสามารถใช้เพื่อสร้างเครื่องมือและแหล่งข้อมูลทางการศึกษาใหม่ ๆ ได้

AI และสิ่งแวดล้อม

AI สามารถใช้เพื่อจัดการกับความท้าทายด้านสิ่งแวดล้อม เช่น การเปลี่ยนแปลงสภาพภูมิอากาศ มลพิษ และการลดลงของทรัพยากร สามารถใช้เพื่อเพิ่มประสิทธิภาพการใช้พลังงาน ปรับปรุงแนวทางการเกษตร และตรวจสอบสภาพแวดล้อม

พลังของ AI

AI เป็นเทคโนโลยีที่ทรงพลังที่มีศักยภาพในการเปลี่ยนแปลงหลายด้านในชีวิตของเรา สิ่งสำคัญคือต้องพัฒนาและปรับใช้ AI ในลักษณะที่มีความรับผิดชอบและมีจริยธรรม เพื่อให้มั่นใจว่าเป็นประโยชน์ต่อมนุษยชาติ การปฏิบัติด้านการเซ็นเซอร์ในจีนเป็นการเตือนใจอย่างชัดเจนถึงศักยภาพของ AI ที่จะถูกใช้เพื่อจุดประสงค์ในการควบคุมและการปราบปราม ในขณะที่ AI ยังคงพัฒนาต่อไป สิ่งสำคัญคือต้องมีส่วนร่วมในการสนทนาและการอภิปรายอย่างต่อเนื่องเกี่ยวกับผลกระทบทางจริยธรรม และเพื่อให้แน่ใจว่ามีการใช้เพื่อส่งเสริมเสรีภาพ ความยุติธรรม และความเป็นอยู่ที่ดีของมนุษย์ ลักษณะโอเพนซอร์สของโมเดล AI บางรุ่นมอบทั้งโอกาสและความท้าทายในเรื่องนี้ ในขณะที่ AI โอเพนซอร์สสามารถส่งเสริมนวัตกรรมและความร่วมมือได้ แต่ยังทำให้การควบคุมการใช้เทคโนโลยีและการป้องกันไม่ให้ถูกใช้เพื่อวัตถุประสงค์ที่เป็นอันตรายได้ยากขึ้น ความท้าทายคือการหาวิธีควบคุมพลังของ AI ในขณะที่ลดความเสี่ยงและทำให้แน่ใจว่ามีการใช้เพื่อประโยชน์ของทุกคน นี่ต้องใช้วิธีการหลายแง่มุม ซึ่งรวมถึงกฎเกณฑ์ทางจริยธรรม ข้อบังคับ การศึกษา และการสนทนาและการอภิปรายอย่างต่อเนื่อง

บทบาทของความร่วมมือระหว่างประเทศ

การพัฒนาและการปรับใช้ AI เป็นความพยายามระดับโลกที่ต้องอาศัยความร่วมมือระหว่างประเทศ ประเทศต่างๆ จำเป็นต้องทำงานร่วมกันเพื่อพัฒนากฎเกณฑ์ร่วมกัน แบ่งปันแนวทางปฏิบัติที่ดีที่สุด และจัดการกับผลกระทบทางจริยธรรมและสังคมของ AI ความร่วมมือระหว่างประเทศสามารถช่วยให้มั่นใจได้ว่า AI จะถูกใช้เพื่อส่งเสริมสันติภาพ ความมั่นคง และความเจริญรุ่งเรืองสำหรับทุกคน

บทสรุป

เรื่องราวของ Sand AI และแนวทางการเซ็นเซอร์เป็นภาพรวมของความท้าทายและโอกาสที่ AI นำเสนอ ในขณะที่ AI ยังคงพัฒนาต่อไปและแพร่หลายมากขึ้น สิ่งสำคัญคือต้องจัดการกับผลกระทบทางจริยธรรม สังคม และการเมืองของการใช้งาน อนาคตของ AI จะขึ้นอยู่กับความสามารถของเราในการควบคุมพลังของมันเพื่อสิ่งที่ดี ในขณะที่ลดความเสี่ยงและทำให้แน่ใจว่ามีการใช้เพื่อส่งเสริมเสรีภาพ ความยุติธรรม และความเป็นอยู่ที่ดีของมนุษย์ การสนทนาและการอภิปรายอย่างต่อเนื่องเกี่ยวกับ AI เป็นสิ่งจำเป็นสำหรับการกำหนดอนาคตและทำให้แน่ใจว่ามีการใช้เพื่อสร้างโลกที่ดีกว่าสำหรับทุกคน