SK电讯（SKT）悄然推出了其大型语言模型（LLM），名为“A.X 4.0”。该模型通过将韩语学习融入开源框架精心打造。SKT表示，他们计划很快发布一个推理型模型，名为AOTX 4.1的预览版计划在5月底发布。
4月23日，电信行业有消息称，SKT于4月30日发布了AOTX 4.0，使其可以在GitHub上访问，GitHub是一个广泛使用的软件开发平台。即将推出的推理模型AOTX 4.1预览版的更多性能细节也提前分享。
AOTX 4.0代表了SKT首席执行官Yoo Young-sang上个月早些时候暗示的努力的顶峰，他表示开发已接近完成。此后，该模型在一个月内完成，目前正在集成到公司服务中。
该模型的基础是阿里巴巴的Qwen 2.5，这是中国领先的开源LLM。AOTX 4.0有两个版本：一个带有720亿个参数的标准模型和一个带有70亿个参数的轻量级变体。
韩语的开发和优化
SKT强调，他们已经设计了一个在韩国环境中提供优化性能的模型。这是通过在第一季度将大量的韩语数据整合到Qwen 2.5中来实现的。为了提高模型有效处理韩语信息的能力，实施了一个专门的韩语分词器。
SKT发布的性能基准显示，AOTX 4.0在KMMLU基准中获得了78.3分。该基准用于评估模型对韩语专业知识的理解。值得注意的是，AOTX 4.0优于OpenAI的GPT-4o（72.5分）和阿里巴巴的Qwen 1.3（70.6分）。
AOTX 4.1预览版：推理型模型
AOTX 4.1预览版模型计划于5月底发布，代表了SKT正在积极开发的推理模型。通过发布预览版，SKT旨在引起人们的兴趣并在正式发布之前评估模型的性能。
SKT强调，AOTX 4.1预览版模型展示了与DeepSeek的推理模型（称为“DeepSeek R1”）相当的性能水平。该模型在今年早些时候受到了极大的关注。
将AOTX 4.1预览版与DeepSeek R1进行比较的基准测试结果表明，尽管AOTX 4.1的规模约为DeepSeek R1的九分之一，但它获得了相似的分数。
未来的增强和功能
展望未来，SKT概述了AOTX 4.1的计划，声明它将增强数学问题解决和代码开发方面的能力。进一步的增强将侧重于编码能力和特定的行业专业知识。SKT打算开发一种可以独立执行任务并做出合理决策的代理型模型。
深入研究技术规格和架构
A.X 4.0不仅仅是另一个语言模型；它是一个经过精心设计的系统，旨在在韩国语言环境中实现最佳性能。为了充分理解其功能，我们需要检查其技术规格和架构选择。该模型基于阿里巴巴的Qwen 2.5是一个战略决策，利用一个强大且全球认可的LLM作为起点。然后，通过大量的韩国数据来增强此基础，从而针对韩语的细微差别和复杂性对模型进行微调。
双变体方法 – 具有720亿个参数的标准模型和具有70亿个参数的轻量级模型 – 使SKT能够满足广泛的应用需求。720亿参数模型专为需要高精度和深入理解的任务而设计，而70亿参数模型则针对资源受限环境中的效率和部署进行了优化。这种适应性对于现实世界的应用程序至关重要，在现实世界中，计算资源可能会发生很大的变化。
韩语分词器：关键的区别
A.X 4.0的关键区别之一是其专业的韩语分词器。分词是将文本分解为模型可以理解和处理的更小单元（标记）的过程。传统的的分词器通常在英语或其他基于拉丁字母的语言上进行训练，由于其独特的语言特性（例如其粘着性质和复杂的字符结构（韩文）），可能不太适合韩语。
通过实施特定于韩语的分词器，SKT确保A.X 4.0可以更有效地处理韩语文本。此专业分词器旨在：
- 高效处理韩文： 准确处理和表示韩语字符。
- 解决粘着： 将复合词分解为其组成成分（有意义的单元）。
- 改善上下文理解： 更好地捕获韩语句子中单词之间的关系。
这种优化的分词过程直接转化为在机器翻译、文本摘要和问题回答等任务中性能的提高。
A.X 4.0测评：超出预期
SKT发布的性能基准提供了A.X 4.0功能的有力证据。KMMLU（韩国大规模多任务语言理解）基准是对模型理解和推理各种韩语任务的能力的全面评估。KMMLU基准的78.3分使A.X 4.0领先于OpenAI的GPT-4o（72.5）和阿里巴巴的Qwen 1.3（70.6），这表明了其对韩语专业知识的卓越理解。
这些结果特别值得注意，因为它们突出了A.X 4.0不仅能够处理韩语文本，而且能够理解潜在的上下文和含义。这对于需要深入推理和了解韩国文化和社会的任务至关重要。
AOTX 4.1预览版：推理的承诺
即将发布的AOTX 4.1预览版模型在该行业内引起了极大的兴奋。作为一种推理型模型，AOTX 4.1旨在擅长于需要推理、演绎以及从不完整或模棱两可的信息中得出结论的能力的任务。这对于以下应用至关重要：
- 决策： 分析数据并提供见解以支持知情决策。
- 问题解决： 识别和解决复杂问题。
- 预测模型： 根据历史数据和趋势预测未来结果。
SKT声称AOTX 4.1表现出与DeepSeek的R1模型相当的性能，尽管尺寸明显较小，但证明了其高效的架构和优化的训练过程。这表明AOTX 4.1可以以较低的计算成本提供高性能，使其成为许多实际应用程序的更实用的解决方案。
SKT的未来愿景：代理型模型
展望AOTX 4.1之外，SKT对其语言模型的未来发展制定了雄心勃勃的计划。该公司的愿景包括创建可以独立执行任务并做出理性决策的代理型模型。这代表了迈向通用人工智能（AGI）的重要一步，在这种人工智能中，机器可以执行人类可以执行的任何智力任务。
为了实现这一目标，SKT打算专注于：
- 加强编码能力： 使模型能够生成和理解计算机代码。
- 增强特定的行业专业知识： 在与特定行业（例如金融、医疗保健和制造业）相关的专业知识方面训练模型。
- 培养推理和决策能力： 使模型具备分析信息、评估选项和做出合理判断的能力。
代理型模型的发展有可能彻底改变许多行业、自动化复杂任务、提高效率并为创新创造新的机会。
竞争格局：SKT的地位
SK电讯凭借A.X 4.0进入LLM领域，使其成为快速发展的市场中的重要参与者。在全球范围内，OpenAI、Google和Meta等公司正在大力投资开发和部署大型语言模型。在韩国，Naver和Kakao也是主要的竞争对手。
SKT专注于韩语优化和开发专用模型的策略可能会提供竞争优势。通过针对韩国市场的特定需求量身定制模型，SKT在需要深入理解韩语、文化和社会的任务中可能会优于通用LLM。
对韩国经济的影响
A.X 4.0和其他高级语言模型的开发和部署可能对韩国经济产生重大影响。这些技术有可能：
- 提高生产力： 自动化任务、提高效率并释放人类员工以专注于更具创造性和战略性的活动。
- 推动创新： 启用新产品、服务和业务模型。
- 增强竞争力： 帮助韩国公司在全球市场中更有效地竞争。
韩国政府正在积极推动AI技术的开发和采用，认识到它们有可能推动经济增长和提高生活质量。SK电讯对LLM的投资符合这项国家战略，并有助于韩国成为人工智能领域的领导者。
伦理考量
与任何强大的技术一样，大型语言模型的开发和部署也提出了重要的伦理考量。这些包括：
- 偏见和公平性： 确保模型在多样化和具有代表性的数据集上进行训练，以避免持续存在偏见。
- 隐私和安全： 保护敏感数据并防止模型被滥用。
- 工作岗位流失： 解决自动化对就业的潜在影响。
- 虚假信息和操纵： 防止模型被用于生成虚假或误导性信息。
像SK电讯这样的公司至关重要地是主动解决这些伦理考量，并以负责任和合乎道德的方式开发和部署其语言模型。这包括实施保障措施以防止偏见、保护隐私和提高透明度。
结论
SK电讯悄然发布A.X 4.0标志着韩国语言优化的的大型语言模型的发展迈出了重要一步。凭借其对性能、效率和实际应用的关注，A.X 4.0有可能为韩国经济和社会做出宝贵的贡献。随着SKT继续开发和改进其语言模型，重要的是要解决伦理的考量，并确保这些强大的技术被用于造福所有人。