Sand AI, китайски стартъп за видео, наскоро пусна AI модел с отворен код за създаване на видеоклипове, привличайки похвали от видни личности като Кай-Фу Ли, основателят на Microsoft Research Asia. Въпреки това, тестовете на TechCrunch разкриват, че Sand AI цензурира публично хостваната версия на своя модел, предотвратявайки генерирането на изображения, които биха могли да предизвикат гнева на китайските регулатори.
Magi-1: Обещаващ, но Ограничен Модел
По-рано тази седмица Sand AI представи Magi-1, модел, способен да генерира видеоклипове чрез ‘авторегресивно’ прогнозиране на последователности от кадри. Компанията твърди, че този модел може да произвежда висококачествени, контролируеми кадри, които по-точно улавят физиката от своите конкуренти с отворен код.
Въпреки потенциала си, Magi-1 в момента е непрактичен за повечето потребителски хардуер. С 24 милиарда параметри, той изисква между четири и осем Nvidia H100 GPU, за да функционира ефективно. Параметрите са вътрешните променливи, които AI моделите използват, за да правят прогнози. За много потребители, включително журналиста на TechCrunch, който го тества, платформата Sand AI е единственият достъпен начин за оценка на Magi-1.
Цензура в Действие: Какви Изображения са Блокирани?
Платформата изисква текстов подтик или първоначално изображение, за да започне генерирането на видео. Въпреки това, не всички подтици са допустими, както TechCrunch бързо откри. Sand AI активно блокира качването на изображения, включващи:
- Си Дзинпин
- Площад Тянанмън и Човекът с Танка
- Тайванското знаме
- Знаци, подкрепящи освобождението на Хонконг
Филтрирането изглежда се случва на ниво изображение, тъй като преименуването на файловете с изображения не заобиколи блока.
Sand AI Не е Единствена в Прилагането на Цензура
Sand AI не е единствена в своя подход. Hailuo AI, платформа за генеративни медии, управлявана от MiniMax, базирана в Шанхай, също предотвратява качването на политически чувствителни изображения, по-специално тези, изобразяващи Си Дзинпин. Въпреки това, филтрирането на Sand AI изглежда особено стриктно, тъй като Hailuo AI позволява изображения на площад Тянанмън.
Правният Ландшафт на AI Цензурата в Китай
Както Wired обясни в статия от януари, AI моделите, работещи в Китай, са обект на строг информационен контрол. Закон от 2023 г. забранява на тези модели да генерират съдържание, което ‘застрашава националното единство и социалната хармония’. Това може да се тълкува като съдържание, което противоречи на историческите и политическите разкази на правителството. За да се съобразят с тези разпоредби, китайските стартъпи често цензурират своите модели чрез филтри на ниво подтик или фина настройка.
Контраст в Цензурата: Политика срещу Порнография
Интересното е, че докато китайските AI модели обикновено блокират политически израз, те често имат по-малко филтри срещу порнографско съдържание от своите американски колеги. 404 наскоро съобщи, че няколко генератора на видеоклипове, пуснати от китайски компании, нямат основни предпазни мерки за предотвратяване на създаването на несъгласни изрични изображения.
Последиците от AI Цензурата
Практиките за цензура, използвани от Sand AI и други китайски AI компании, повдигат важни въпроси за бъдещето на развитието и достъпността на AI в Китай. Тези практики не само ограничават гамата от съдържание, което може да бъде генерирано, но и отразяват по-широките политически и социални ограничения, при които работят тези компании.
Подробен Анализ на Блокираните Изображения
Конкретните изображения, блокирани от Sand AI, предлагат прозорец към чувствителността на китайското правителство. Цензурата на изображения на Си Дзинпин, например, подчертава акцента на правителството върху поддържането на внимателно подбран образ на своя лидер. По същия начин, блокирането на изображения на площад Тянанмън и Човекът с Танка подчертава усилията на правителството да потисне дискусията и възпоменанието на протестите от 1989 г. Цензурата на тайванското знаме и знаци, подкрепящи освобождението на Хонконг, отразява позицията на правителството по тези политически чувствителни въпроси.
Технически Аспекти на Цензурата
Фактът, че цензурата на Sand AI работи на ниво изображение, предполага сложна система за филтриране, която може да идентифицира и блокира конкретно визуално съдържание. Тази система вероятно използва технология за разпознаване на изображения, за да анализира качените изображения и да ги сравни с база данни със забранено съдържание. Фактът, че преименуването на файловете с изображения не заобикаля блока, показва, че системата не просто разчита на имената на файловете, а всъщност анализира самите данни на изображението.
Глобалният Контекст на AI Цензурата
Въпреки че подходът на Китай към AI цензурата е особено строг, това не е единствената страна, която се бори с въпроса как да регулира съдържанието, генерирано от AI. В Съединените щати и Европа политиците обмислят разпоредби за справяне с въпроси като дезинформация, дийпфейкове и нарушаване на авторските права. Въпреки това, конкретните подходи и приоритети се различават значително от тези в Китай.
Ролята на AI с Отворен Код
Фактът, че Sand AI пусна своя Magi-1 модел като отворен код, повдига интересни въпроси за баланса между иновации и цензура. От една страна, AI с отворен код може да насърчи иновациите и сътрудничеството, като позволи на изследователите и разработчиците да имат свободен достъп и да променят кода. От друга страна, това също може да затрудни контролирането на използването на технологията и предотвратяването на нейното използване за злонамерени цели.
Бъдещето на AI в Китай
Бъдещето на AI в Китай вероятно ще бъде оформено от продължаващото напрежение между желанието на правителството да насърчава технологичните иновации и неговия ангажимент за поддържане на социален и политически контрол. Китайските AI компании ще трябва да се ориентират в сложен регулаторен пейзаж и да намерят начини да развиват и внедряват своята технология по начин, който е едновременно иновативен и съвместим с правителствените разпоредби.
По-Широките Последици
Случаят със Sand AI подчертава по-широките последици от AI цензурата за свободата на изразяване и достъпа до информация. Тъй като AI технологията става по-мощна и всеобхватна, става все по-важно да се обмислят етичните и социалните последици от нейното използване и да се гарантира, че тя не се използва за потискане на несъгласието или ограничаване на достъпа до информация.
Сравнителен Анализ с Други Платформи
Сравнението на практиките за цензура на Sand AI с тези на Hailuo AI разкрива, че има известна разлика в строгостта на цензурата сред китайските AI компании. Фактът, че Hailuo AI позволява изображения на площад Тянанмън, предполага, че нейните политики за цензура са по-малко изчерпателни от тези на Sand AI. Тази вариация може да отразява различия в толерантността към риска на компаниите, тяхното тълкуване на правителствените разпоредби или техните технически възможности.
Икономическото Въздействие на Цензурата
Цензурата на AI-генерирано съдържание в Китай може да има икономически последици. От една страна, това може да защити местните компании от конкуренция от чуждестранни фирми, които не са обект на същите изисквания за цензура. От друга страна, това може също да задуши иновациите и да ограничи потенциала на китайските AI компании да се конкурират на световния пазар.
Предизвикателството за Балансиране на Иновациите и Контрола
Китайското правителство е изправено пред предизвикателството да балансира желанието си да насърчава AI иновациите с ангажимента си за поддържане на социален и политически контрол. Твърде много цензура може да задуши иновациите и да ограничи потенциала на китайските AI компании. Твърде малко цензура може да доведе до разпространение на дезинформация и подкопаване на социалната и политическата стабилност.
Глобалният AI Пейзаж
AI пейзажът бързо се развива, като постоянно се появяват нови технологии и приложения. Китай е основен играч в областта на AI, но е изправен пред предизвикателства, свързани с цензурата, поверителността на данните и достъпа до таланти. Бъдещето на AI ще зависи от това как ще бъдат решени тези предизвикателства и до каква степен страните могат да си сътрудничат и да се конкурират по справедлив и открит начин.
Етичните Съображения
Използването на AI повдига редица етични съображения, включително въпроси, свързани с пристрастия, справедливост, прозрачност и отчетност. Важно е да се разработят етични насоки и стандарти за разработването и внедряването на AI, за да се гарантира, че той се използва по отговорен и полезен начин.
Важността на Прозрачността
Прозрачността е от съществено значение за изграждането на доверие в AI системите. Важно е да се разбере как работят AI моделите и как вземат решения. Това изисква предоставяне на достъп до данни, алгоритми и процеси на вземане на решения. Прозрачността може да помогне за идентифициране и смекчаване на пристрастия, гарантиране на справедливост и насърчаване на отчетност.
Ролята на Образованието
Образованието играе решаваща роля в подготовката на индивидите и обществата за ерата на AI. Важно е да се образоват хората за AI технологията, нейните потенциални ползи и рискове и нейните етични и социални последици. Образованието може да помогне за насърчаване на AI грамотността, критичното мислене и отговорните иновации.
Бъдещето на Работата
AI вероятно ще има значително въздействие върху бъдещето на работата. Някои работни места може да бъдат автоматизирани, докато други могат да бъдат създадени или трансформирани. Важно е да се подготвят работниците за тези промени, като им се предоставят уменията и обучението, от които се нуждаят, за да успеят в икономиката, управлявана от AI.
Важността на Сътрудничеството
Сътрудничеството е от съществено значение за справяне с предизвикателствата и възможностите, представени от AI. Това включва сътрудничество между изследователи, разработчици, политици и обществеността. Сътрудничеството може да помогне да се гарантира, че AI се разработва и внедрява по начин, който е полезен за всички.
AI и Националната Сигурност
AI също играе все по-важна роля в националната сигурност. Той се използва за приложения като наблюдение, събиране на разузнавателна информация и автономни оръжейни системи. Използването на AI в националната сигурност повдига сложни етични и стратегически въпроси, които трябва да бъдат внимателно обмислени.
Необходимостта от Регулиране
Регулирането на AI е сложен и развиващ се въпрос. Някои твърдят, че AI трябва да бъде силно регулиран, за да се предотвратят потенциални вреди, докато други твърдят, че прекомерното регулиране може да задуши иновациите. Важно е да се постигне баланс между насърчаването на иновациите и защитата от рискове.
AI и Здравеопазването
AI има потенциала да трансформира здравеопазването по редица начини. Той може да се използва за подобряване на диагностиката, лечението и профилактиката на заболяванията. AI може също да се използва за персонализиране на здравеопазването и да го направи по-достъпно и достъпно.
AI и Образованието
AI може също да се използва за подобряване на образованието. Той може да се използва за персонализиране на обучението, предоставяне на обратна връзка и автоматизиране на административни задачи. AI може също да се използва за създаване на нови образователни инструменти и ресурси.
AI и Околната Среда
AI може да се използва за справяне с екологични предизвикателства като изменението на климата, замърсяването и изчерпването на ресурсите. Той може да се използва за оптимизиране на потреблението на енергия, подобряване на селскостопанските практики и наблюдение на условията на околната среда.
Силата на AI
AI е мощна технология, която има потенциала да трансформира много аспекти от живота ни. Важно е да се разработва и внедрява AI по отговорен и етичен начин, за да се гарантира, че той е от полза за цялото човечество. Практиките за цензура в Китай предлагат ясен напомняне за потенциала на AI да бъде използван за цели на контрол и потискане. Тъй като AI продължава да се развива, от решаващо значение е да се ангажираме в постоянен диалог и дебат за неговите етични последици и да се гарантира, че той се използва за насърчаване на свободата, справедливостта и благосъстоянието на човека. Отворената природа на някои AI модели предлага както възможности, така и предизвикателства в това отношение. Въпреки че AI с отворен код може да насърчи иновациите и сътрудничеството, той също така затруднява контролирането на използването на технологията и предотвратяването на нейното използване за злонамерени цели. Предизвикателството е да се намерят начини да се използва силата на AI, като същевременно се смекчат рисковете и се гарантира, че той се използва в полза на всички. Това изисква многостранен подход, който включва етични насоки, разпоредби, образование и постоянен диалог и дебат.
Ролята на Международното Сътрудничество
Разработването и внедряването на AI са глобални начинания, които изискват международно сътрудничество. Страните трябва да работят заедно, за да разработят общи стандарти, да споделят най-добри практики и да се справят с етичните и социални последици от AI. Международното сътрудничество може да помогне да се гарантира, че AI се използва за насърчаване на мира, сигурността и просперитета за всички.
Заключение
Историята на Sand AI и нейните практики за цензура е микрокосмос на по-големите предизвикателства и възможности, представени от AI. Тъй като AI продължава да се развива и да става по-всеобхватен, от съществено значение е да се обърне внимание на етичните, социалните и политическите последици от неговото използване. Бъдещето на AI ще зависи от способността ни да използваме неговата сила за добро, като същевременно смекчаваме неговите рискове и гарантираме, че той се използва за насърчаване на свободата, справедливостта и благосъстоянието на човека. Продължаващият диалог и дебат за AI е от съществено значение за оформянето на неговото бъдеще и гарантиране, че той се използва за създаване на по-добър свят за всички.