印度已启动一项变革性的旅程，旨在建立其独立的人工智能 (AI) 能力。位于班加罗尔的新兴初创公司 Sarvam AI 受托承担关键角色，负责在 IndiaAI Mission 的支持下，牵头开发印度首个自主大型语言模型 (LLM)。这项雄心勃勃的举措彰显了印度致力于促进技术自力更生，并利用 AI 的力量为公民谋福祉。
打造本土AI的愿景
这项计划的核心在于一个深刻的愿景：创建一个不仅是本土的 AI 模型，而且还具备高级推理能力、精密的语音处理能力以及流利使用多种印度语言的能力。该模型将深深扎根于印度的语言和文化景观中，反映印度独特的身份和遗产。
为了促进这一愿景的实现，Sarvam AI 将被授予使用强大计算资源的权限，包括在六个月内使用 4,086 个 NVIDIA H100 GPU。此举将使这家初创公司能够从头开始构建 LLM，使其适应印度特定背景的需求和愿望。
三种不同的变体
自主 LLM 的开发将包括三种不同的变体，每种变体都旨在满足一组特定的应用和要求：
Sarvam-Large： 此变体将经过专门设计，擅长复杂的推理和生成任务，使其能够处理复杂的问题并生成复杂的内容。
Sarvam-Small： 此变体将针对实时交互式应用进行优化，确保在各种场景中与用户的交互快速且响应迅速。
Sarvam-Edge： 此变体将针对设备上的操作进行定制，使其能够在资源受限的设备上无缝运行，而无需持续连接到云。
在一项合作努力中，Sarvam AI 将与 IIT Madras 的一项倡议 AI4Bharat 合作，以确保这些模型深深植根于印度的语言和文化背景中。这项合作将利用 AI4Bharat 在自然语言处理方面的专业知识及其丰富的印度语言资源库。
Sarvam AI的良好记录
Sarvam AI 已经证明自己是印度 AI 领域的领跑者，尤其是在多语言 AI 领域。该公司在创新方面的良好记录以及致力于解决印度独特挑战的承诺使其成为领导这一雄心勃勃项目的自然选择。
2024 年 10 月，Sarvam AI 推出了 Sarvam-1，这是一种专门为印度语言设计和优化的 20 亿参数 LLM。除了英语外，该模型还支持十种主要的印度语言，包括孟加拉语、古吉拉特语、印地语、卡纳达语、马拉雅拉姆语、马拉地语、奥迪亚语、旁遮普语、泰米尔语和泰卢固语。
与许多在处理印度文字时难以实现令牌效率的现有模型不同，Sarvam-1 的每个单词的生育率为 1.4 到 2.1 个令牌。这项非凡的壮举显着提高了处理效率，使该模型能够以更快的速度和更高的准确性处理印度语言。
国内培训和基础设施
Sarvam-1 完全在印度境内接受培训，利用由 NVIDIA H100 Tensor Core GPU、Yotta 的数据中心和 AI4Bharat 的语言资源提供支持的国内 AI 基础设施。这种端到端的国内方法强调了印度在 AI 开发方面不断增长的能力及其对建立自力更生 AI 生态系统的承诺。
性能基准测试显示，Sarvam-1 不仅在某些情况下与 Meta 的 Llama 3.1 8B 和 Google 的 Gemma-2-9B 等更大的模型相匹配，而且在涉及印度语言的任务中甚至超过了它们。这种令人印象深刻的性能凸显了 Sarvam AI 方法的有效性及其与全球 AI 领导者竞争的能力。
在跨印度语言的 TriviaQA 基准测试中，Sarvam-1 的准确率达到 86.11，超过了 Llama-3.1 8B 的 61.47 分。这一显著的差距证明了 Sarvam-1 在理解和处理印度语言信息方面的卓越能力。
前方的挑战
虽然 Sarvam AI 已经通过 Sarvam-1 展示了其能力，但构建第一个本土基础模型的任务并非没有挑战。克服这些挑战将需要独创性、毅力和协作精神。
基础设施扩展
最重大的障碍之一是扩展基础设施以满足训练大型模型的需求。训练这些模型需要在较长时间内访问大量的计算能力。虽然政府提供数千个 NVIDIA H100 GPU 是向前迈出的重要一步，但管理、优化和维护如此高端的资源是一项复杂的工作。
有效的资源管理对于确保培训过程高效且具有成本效益至关重要。这将涉及优化 GPU 的使用、管理内存分配以及实施缓解潜在瓶颈的策略。
数据管理
另一个关键挑战在于管理高质量、多样化的数据集。印度的语言格局极其复杂，不仅语言之间存在差异，方言、文化和写作风格之间也存在差异。创建一个真正捕捉这种多样性而不引入偏见的平衡数据集至关重要，但极具挑战性。
该数据集必须代表印度境内的各个地区、社区和社会群体。它还必须没有可能导致不公平或歧视性结果的偏见。必须仔细注意数据的选择和注释，以确保其满足这些标准。
语言细微之处
此外，这些模型必须能够捕捉印度语言的细微差别，包括习语、隐喻和文化参考。这需要对这些语言使用的文化背景有深刻的理解。
Sarvam AI 与 AI4Bharat 的合作将在应对这些挑战方面发挥重要作用。AI4Bharat 在印度语言方面的专业知识及其对大量语言资源的访问将为自主 LLM 的开发提供有价值的支持。
对印度的影响
自主 LLM 的开发对印度的技术格局及其在全球 AI 领域中的作用具有深远的影响。这项计划有可能改变各个行业，包括教育、医疗保健、金融和治理。
经济增长
通过促进创新和推动经济增长，自主 LLM 可以为印度企业和企业家创造新的机会。它还可以通过以当地语言提供信息和服务来帮助弥合数字鸿沟。
赋权
此外，LLM 可以通过为公民提供个性化教育、医疗保健和其他基本服务来赋予他们权力。它还可以通过打破语言障碍和促进不同社区之间的沟通来帮助促进社会融合。
战略独立性
最终，开发自主 LLM 对印度来说是一项战略要务。它将使该国能够发展自己的 AI 能力，减少对外国技术的依赖并确保其数字主权。
协作生态系统
这项雄心勃勃的努力能否成功取决于建立一个协作生态系统，将政府、行业、学术界和初创企业聚集在一起。通过共同努力，这些利益相关者可以利用其集体专业知识和资源来推动创新并加速 AI 在印度的发展。
政府对 Sarvam AI 的支持及其对提供计算资源权限的承诺是该生态系统的关键推动因素。行业合作伙伴关系可以提供对真实世界数据和专业知识的访问，而学术机构可以贡献前沿研究和人才。
由AI驱动的未来
随着印度踏上这一变革之旅，该国已准备好释放 AI 的巨大潜力，并创造一个由创新、包容性和自力更生驱动的未来。自主 LLM 的开发证明了印度的雄心及其在人工智能时代塑造自身命运的坚定承诺。