麻花传媒91mv在线观看

预训练需在高质量数据有限的约束下，通过提升每token效率构建通用先验（universal prior）。后训练需将先验转化为可行动行为，但Agentic能力在自然数据中稀缺且难以规模化。 而且将每层的注意力头数量降至64个，与同类模型相比进一步降低了推理过程中的资源消耗，使模型能更好地处理长上下文。 这一机制会定期检查模型注意力的关键参数（query和key），如果它们的值太大，就自动“收紧”，防止计算过程出现异常，从而显著提升了训练稳定性。 数据方面，其核心目标为，在高质量数据有限时，通过提升每token的有效学习信号（token效用）来增强训练效率，避免重复训练导致的过拟合。 对知识类文本：不是简单重复读，而是换着说法再讲一遍。对数学类文本：把枯燥的教材式内容改写成更易理解的“学习笔记”风格，还加入了多语言版本的翻译文本，让模型见多识广。 一言以蔽之，K2的训练数据覆盖网页、代码、数学、知识四大板块，所有数据都经过严格的质量筛选，确保模型学到的都是有用的信息。 工具生成：3000多真实MCP工具+20000多合成工具，覆盖金融、机器人控制等领域；Agentic与任务生成：为工具集生成多样化Agentic（系统提示+工具组合）和带评估标准的任务；轨迹生成：模拟用户交互、工具执行环境（含状态更新和随机结果），生成多轮工具使用轨迹；结合真实执行沙箱（如编码任务），确保数据真实性。 比如对于编码场景，团队利用真实世界的数据（如程序竞赛题目、GitHub的PR和issue）构建任务，并通过自动化测试来验证模型的代码是否正确运行。 具体而言，模型会将自己的多个输出结果进行两两比较，并根据一套明确的标准（如语言清晰度、对话是否连贯、是否啰嗦或拍马屁）给出奖励分，同时还引入一些规则约束（如“不要无脑称赞用户”）来避免生成套路化或迎合性回答。 这个机制不仅增强了模型的自我反馈能力，也能将客观任务中的评估信号迁移到主观对话场景（如回答开放性问题等人类主观评判场景），形成闭环优化。 预算控制机制：限制每个样本的最大token数，避免生成啰嗦、重复或无意义的长文本。引入PTX辅助损失：使用高质量预训练样本时再加一个损失项，以防模型在RL阶段“遗忘”已有知识。温度衰减策略：训练初期用高温度鼓励模型大胆尝试、广泛探索，后期逐步降低温度，让模型输出更稳定、更收敛。 最后据论文介绍，K2的训练依托于由NVIDIA H800构成的大规模高带宽GPU集群，通过混合并行策略，既保证了训练效率，又能在不同规模资源下灵活适配。