Sand AI，一家中国的视频初创公司，最近发布了一个用于视频创作的开源AI模型，受到了包括微软亚洲研究院创始院长李开复等知名人士的赞誉。然而，TechCrunch的测试显示，Sand AI审查了其模型的公开托管版本，阻止生成可能激怒中国监管机构的图像。
Magi-1：一个有前途但受限的模型
本周早些时候，Sand AI推出了Magi-1，该模型能够通过“自回归”预测帧序列来生成视频。该公司声称，该模型可以生成高质量、可控的镜头，比其开源竞争对手更准确地捕捉物理特性。
尽管Magi-1具有潜力，但目前对于大多数消费者硬件来说并不实用。它拥有240亿个参数，需要四到八个Nvidia H100 GPU才能有效运行。参数是AI模型用于进行预测的内部变量。对于许多用户来说，包括测试它的TechCrunch记者在内，Sand AI平台是评估Magi-1的唯一可行途径。
审查的实际行动：哪些图像被屏蔽？
该平台需要文本提示或初始图像来启动视频生成。然而，并非所有提示都是允许的，正如TechCrunch很快发现的那样。Sand AI积极阻止上传以下图像：
- 习近平
- 天安门广场和坦克人
- 台湾旗帜
- 支持香港解放的标语
过滤似乎发生在图像级别，因为重命名图像文件并没有绕过阻止。
Sand AI并非唯一实施审查的公司
Sand AI并非唯一采取这种做法的公司。Hailuo AI，一个由位于上海的MiniMax运营的生成媒体平台，也阻止上传政治敏感图像，特别是那些描绘习近平的图像。然而，Sand AI的过滤似乎特别严格，因为Hailuo AI允许天安门广场的图像。
中国AI审查的法律环境
正如Wired在一月份的文章中所解释的那样，在中国运营的AI模型受到严格的信息控制。2023年的一项法律禁止这些模型生成“危害国家统一和社会和谐”的内容。这可以解释为与政府的历史和政治叙事相矛盾的内容。为了遵守这些规定，中国初创公司通常通过提示级过滤器或微调来审查其模型。
审查的对比：政治与色情
有趣的是，虽然中国AI模型倾向于阻止政治表达，但与美国的同类产品相比，它们通常对色情内容的过滤较少。404最近报道称，几家中国公司发布的视频生成器缺乏基本的安全措施，以防止创建非自愿的露骨图像。
AI审查的含义
Sand AI和其他中国AI公司所采用的审查做法提出了关于中国AI发展和可访问性的未来重要问题。这些做法不仅限制了可以生成的内容范围，还反映了这些公司运营所面临的更广泛的政治和社会约束。
对被屏蔽图像的详细分析
Sand AI屏蔽的特定图像为了解中国政府的敏感性提供了一个窗口。例如，审查习近平的图像突显了政府对维护其领导人精心策划的形象的重视。同样，阻止天安门广场和坦克人的图像突出了政府压制对1989年抗议活动的讨论和纪念的努力。审查台湾旗帜和支持香港解放的标语反映了政府对这些政治敏感问题的立场。
审查的技术方面
Sand AI的审查在图像级别运行这一事实表明，它具有可以识别和阻止特定视觉内容的复杂过滤系统。该系统可能采用图像识别技术来分析上传的图像，并将其与禁止内容的数据库进行比较。重命名图像文件无法绕过阻止这一事实表明，该系统不仅仅依赖于文件名，而是实际上分析图像数据本身。
AI审查的全球背景
虽然中国对AI审查的做法特别严格，但它并非唯一面临如何监管AI生成内容问题的国家。在美国和欧洲，政策制定者正在考虑制定法规，以解决诸如虚假信息、深度伪造和版权侵权等问题。然而，具体方法和优先事项与中国存在显着差异。
开源AI的作用
Sand AI将其Magi-1模型作为开源发布这一事实提出了关于创新和审查之间平衡的有趣问题。一方面，开源AI可以通过允许研究人员和开发人员自由访问和修改代码来促进创新和协作。另一方面，它也可能使控制技术的使用并防止其被用于恶意目的变得更加困难。
中国AI的未来
中国AI的未来可能会受到政府希望促进技术创新与致力于维护社会和政治控制之间的持续紧张关系的影响。中国AI公司需要驾驭复杂的监管环境，并找到以创新和符合政府法规的方式开发和部署其技术的方法。
更广泛的含义
Sand AI的案例突显了AI审查对言论自由和信息获取的更广泛影响。随着AI技术变得越来越强大和普遍，越来越重要的是要考虑其使用的伦理和社会影响，并确保其不被用于压制异议或限制信息获取。
与其他平台的比较分析
将Sand AI的审查做法与Hailuo AI的做法进行比较表明，中国AI公司之间的审查严格程度存在一些差异。Hailuo AI允许天安门广场图像这一事实表明，其审查政策不如Sand AI全面。这种差异可能反映了公司风险承受能力、对政府法规的解释或技术能力方面的差异。
审查的经济影响
对中国AI生成内容的审查也可能产生经济影响。一方面，它可能保护国内公司免受不受相同审查要求的外国公司的竞争。另一方面，它也可能扼杀创新，并限制中国AI公司在全球市场上的竞争力。
平衡创新和控制的挑战
中国政府面临着平衡其促进AI创新的愿望与维护社会和政治控制的承诺的挑战。过多的审查可能会扼杀创新，并限制中国AI公司的潜力。过少的审查可能会导致虚假信息的传播和侵蚀社会和政治稳定。
全球AI格局
AI格局正在迅速发展，新的技术和应用不断涌现。中国是AI领域的主要参与者，但它面临着与审查、数据隐私和人才获取相关的挑战。AI的未来将取决于如何解决这些挑战，以及各国在多大程度上能够以公平和开放的方式进行合作和竞争。
伦理考量
AI的使用引发了许多伦理考量，包括与偏见、公平、透明度和问责制相关的问题。重要的是为AI的开发和部署制定伦理指南和标准，以确保其以负责任和有益的方式使用。
透明度的重要性
透明度对于建立对AI系统的信任至关重要。重要的是要了解AI模型如何工作以及它们如何做出决策。这需要提供对数据、算法和决策过程的访问。透明度可以帮助识别和减轻偏见，确保公平性，并促进问责制。
教育的作用
教育在为个人和社会为AI时代做好准备方面发挥着关键作用。重要的是要教育人们了解AI技术，其潜在的益处和风险，以及其伦理和社会影响。教育可以帮助促进AI素养、批判性思维和负责任的创新。
未来的工作
AI可能会对未来的工作产生重大影响。一些工作可能会被自动化，而另一些工作可能会被创造或转型。重要的是通过为工人提供他们在AI驱动的经济中取得成功所需的技能和培训来为这些变化做好准备。
协作的重要性
协作对于解决AI带来的挑战和机遇至关重要。这包括研究人员、开发人员、政策制定者和公众之间的协作。协作可以帮助确保以有益于所有人的方式开发和部署AI。
AI与国家安全
AI也在国家安全中发挥着越来越重要的作用。它被用于诸如监视、情报收集和自主武器系统等应用。在国家安全中使用AI提出了复杂的伦理和战略问题，需要仔细考虑。
监管的必要性
AI的监管是一个复杂且不断发展的问题。一些人认为，应严格监管AI以防止潜在的危害，而另一些人则认为，过度的监管可能会扼杀创新。重要的是在促进创新和防范风险之间取得平衡。
AI与医疗保健
AI有可能以多种方式改变医疗保健。它可用于改善疾病的诊断、治疗和预防。AI还可用于个性化医疗保健，并使其更易于访问和负担得起。
AI与教育
AI也可用于改善教育。它可用于个性化学习、提供反馈和自动化管理任务。AI还可用于创建新的教育工具和资源。
AI与环境
AI可用于解决气候变化、污染和资源枯竭等环境挑战。它可用于优化能源消耗、改善农业实践和监测环境条件。
AI的力量
AI是一种强大的技术，有可能改变我们生活的许多方面。重要的是以负责任和合乎道德的方式开发和部署AI，以确保它造福全人类。中国的审查做法鲜明地提醒我们，AI有可能被用于控制和压制目的。随着AI的不断发展，至关重要的是要就其伦理影响进行持续的对话和辩论，并确保它被用于促进自由、正义和人类福祉。一些AI模型的开源性质在这方面既提供了机遇，也带来了挑战。虽然开源AI可以促进创新和协作，但也使得控制技术的使用并防止其被用于恶意目的变得更加困难。挑战在于找到利用AI力量的方法，同时减轻其风险，并确保它被用于造福所有人。这需要一种多方面的方法，包括伦理准则、法规、教育以及持续的对话和辩论。
国际合作的作用
AI的开发和部署是需要国际合作的全球性事业。各国需要共同努力，制定共同标准，分享最佳实践，并解决AI的伦理和社会影响。国际合作可以帮助确保AI被用于促进所有人的和平、安全和繁荣。
结论
Sand AI及其审查实践的故事是AI提出的更大挑战和机遇的一个缩影。随着AI的不断发展并变得越来越普遍，至关重要的是要解决其使用的伦理、社会和政治影响。AI的未来将取决于我们利用其力量造福人类的能力，同时减轻其风险，并确保它被用于促进自由、正义和人类福祉。关于AI的持续对话和辩论对于塑造其未来并确保它被用于创造一个更美好的世界至关重要。