如今的大模型在长上下文推理中也面临同样的困境，随着推理长度增加而指数级增长的计算成本，以及由于长度受限而被迫中断推理过程。
为了解决上述问题，浙江大学联合北京大学的研究团队从人类“分段思考+归纳总结”的智慧中汲取灵感，创新性地提出了大模型的推理新范式——InftyThink。
InftyThink将传统单一连续推理拆分为多个短片段，并在片段之间引入用于衔接的推理内容总结，从而突破了推理长度的限制，实现了理论上无限制的推理深度，并同时维持了较高的生成吞吐。
InftyThink将传统一次性完成的长推理拆分为多次短推理，每次短推理生成有限长度的推理内容，并配套生成一段精炼总结，作为下一阶段推理的上下文信息输入。
这种方式模拟了人类逐步归纳总结的认知过程，使模型能在保持上下文连贯的同时进行无限深度的推理，解决了传统长推理在上下文长度和计算复杂度上的限制。
InftyThink不依赖于模型结构上的调整，而是通过重构训练数据为多轮推理格式来实现其范式，使其能与现有的预训练模型、微调、强化学习流程无缝结合，具备良好的工程可落地性。
一句话概括就是，InftyThink像是给大模型装上了一个“思维管理器”，使其高效地进行无限制深度推理，大幅降低计算成本，更加高效智能。
研究团队提供了一种可以将传统推理范式的数据重构为InftyThink范式的方法，帮助研究者们直接将已有的推理数据无缝迁移到InftyThink范式，主要包括如下几个步骤：
由于InftyThink将模型的单次推理限制在一个较小的窗口，针对现有的长推理数据，首先需要使用分段算法将原始长推理过程按语义边界划分为若干子推理段。
论文中使用强大的通用大模型为每段推理生成简洁、全面的总结（文中使用Llama3-70B-Instruct），作为下一轮次生成的上下文信息，保障多次短推理之间的衔接与信息的连续性。
文中所提出的方法在为一段推理片段生成总结时，会将当前推理片段及其之前的所有推理片段输入给通用大模型，使生成的总结能够包含历史推理的全部总结信息。
论文将每条原始推理数据重构为多个训练样本，每条训练样本的输入为问题和上一次推理所生成的总结，输出为该轮次的推理内容和配套的简要总结。
研究团队在多个基座模型上进行了InftyThink范式数据的微调训练，并同时在多个标准推理评测基准上上进行了广泛的实验评估。
拓展了模型的推理深度，在不增加额外算力需求的前提下，显著提高了模型性能，如Qwen2.5-Math-7B基座模型训练后，相对传统的推理范式在AIME24基准上的性能提升高达13%通过多次迭代式的短推理，显著降低了推理的计算复杂度，提高了模型生成的吞吐量，例如在Qwen2.5-Math-7B基座模型训练后，相对传统的推理范式，模型生成吞吐从2.36K Token/s提升到2.67K Token/s在不同架构和规模的基座模型上展现出一致稳定的提升，研究团队在Qwen2.5-Math-1.5B、Qwen2.5-Math-7B、Qwen2.5-14B、Qwen2.5-32B和Meta-Llama-3.1-8B上的实验结果呈现了高度一致的性能提升表现，证明了所提出方法的广泛适用性和鲁棒性。
具体来看，InftyThink通过有效总结和短片段推理，实现了更灵活、更深度的推理能力，这在小规模模型上的表现尤其显著，为未来小模型的高效能推理应用提供了全新的解决方案。
xjxjxj18.gov.org随着爆炸的尘埃消散，美国空军针对伊朗核设施的“午夜之锤行动”结果，正在逐步展露在世人面前。由于几乎所有遇袭伊朗核设施附近都没有监测到核辐射异常的情况，包括一些美国媒体在内，外界越来越多地开始质疑这次空袭有没有达到美国总统特朗普吹嘘的“完全摧毁”的效果。推动股价上涨的最新催化剂是英伟达近期公布的强劲财报，目前近 90% 的分析师给予该公司「买入」评级。首席执行官黄仁勋指出，除了人工智能（AI）这一核心驱动力，机器人技术将是英伟达最具发展前景的市场，并预测自动驾驶汽车将成为该技术首个主要的商业应用领域。xjxjxj18.gov.org51cao.gov.cn但，于清斌26日就在直播中回应了质疑，总结就是，他买在房价最高点，于2020年于北京南六环购置限竞房，每个月需要偿还的月供超1万元。我希望每年都赢得冠军！首先我得做好自己的本职工作，球队也要努力。上赛季他们赢得了英超冠军，我的目标肯定是再次夺冠，并在欧冠中更进一步。我非常有野心。
20251210 ? xjxjxj18.gov.org如今来自佩杜拉的报道宣称，小因扎吉在离开国米并接手利雅得新月之后曾经打探过引进麦克托米奈的可能，不过球员根本不考虑任何离开那不勒斯的可能性，尤其是在孔蒂确定留任的情况下。7788.gov.cm以前有许多女孩的名字叫做“招娣”，节目里欧阳娣娣的名字在之前也被很多人猜测是不是她们家为了生男孩特意取的，因为在她之前这个家已经有两个女儿了。
? 王前海记者 张新勇 摄
20251210 ? xjxjxj18.gov.org无论是艺术风格迁移、场景重构还是细节修饰，模型都能应对。甚至一些传统的视觉感知人物如预测深度图、分割图、检测图以及边缘信息等也可以通过编辑指令轻松完成。7788.gov.cm免责声明：本报告仅供时代商业研究院客户使用。本公司不因接收人收到本报告而视其为客户。本报告基于本公司认为可靠的、已公开的信息编制，但本公司对该等信息的准确性及完整性不作任何保证。本报告所载的意见、评估及预测仅反映报告发布当日的观点和判断。本公司不保证本报告所含信息保持在最新状态。本公司对本报告所含信息可在不发出通知的情形下做出修改，投资者应当自行关注相应的更新或修改。本公司力求报告内容客观、公正，但本报告所载的观点、结论和建议仅供参考，不构成所述证券的买卖出价或征价。该等观点、建议并未考虑到个别投资者的具体投资目的、财务状况以及特定需求，在任何时候均不构成对客户私人投资建议。投资者应当充分考虑自身特定状况，并完整理解和使用本报告内容，不应视本报告为做出投资决策的唯一因素。对依据或者使用本报告所造成的一切后果，本公司及作者均不承担任何法律责任。本公司及作者在自身所知情的范围内，与本报告所指的证券或投资标的不存在法律禁止的利害关系。在法律许可的情况下，本公司及其所属关联机构可能会持有报告中提到的公司所发行的证券头寸并进行交易，也可能为之提供或者争取提供投资银行、财务顾问或者金融产品等相关服务。本报告版权仅为本公司所有。未经本公司书面许可，任何机构或个人不得以翻版、复制、发表、引用或再次分发他人等任何形式侵犯本公司版权。如征得本公司同意进行引用、刊发的，需在允许的范围内使用，并注明出处为“时代商业研究院”，且不得对本报告进行任何有悖原意的引用、删节和修改。本公司保留追究相关责任的权利。所有本报告中使用的商标、服务标记及标记均为本公司的商标、服务标记及标记。
? 赵晓锋记者 苗国强 摄
? 此役对阵葡萄牙球队波尔图，迈阿密国际在上半场0-1落后的情况下，凭借塞戈维亚和梅西在下半场各入一球反超比分，最终2-1逆转取胜。WWW.17CAO.GOV.CN
