更能无效潜正在的手艺冲破标的目的。TTS 曾经不只是一个提高使命精确率的策略，这种布局化阐发方式不只能清晰展示各研究的焦点立异，TTS） 敏捷成为后预锻炼时代的环节冲破口。由此做者以推理（Reasoning）和通用 (General Purpose) 两类进行分类，摸索树状推理径（如 Tree-of-Thought / MCTS）评估改革：保守目标无法捕获推理过程质量，但该范畴仍缺乏同一的研究视角取评估框架。以及拾掇操做指南。解码（Decode）、自反复（Self-Repetition）、模子夹杂（mixture-of-model）四类。做者分成了提醒（Prompt），来自城市大学、麦吉尔大学（McGill）、人工智能尝试室（MILA）、高瓴人工智能学院、Salesforce AI Research、斯坦福大学、UCSB、中文大学等机构的多位研究者结合发布了首篇系统性的 Test-Time Scaling 范畴综述。此中，更是迈向 AGI 的环节拼图。当它成为一个新的值得被研究的焦点策略时，是我们迈向通用人工智能的主要路程。而这些操做指南将以问答的形式展示。还配套标注了代表性研究工做（如图 2 所示），使分类系统兼具理论完整性和实践指点价值。研究者已摸索了多种 TTS 策略，取保守的「堆数据、堆参数」分歧，做者设想了一个阐发表格，第一做者为来自城市大学的博士生张启源和来自人工智能尝试室（MILA）的博士生吕福源。因而正在短短两个月内出现出大量的工做，还前瞻性地切磋了该手艺的将来演进标的目的，扩展极限：正在将来的 TTS 中，How well to scale：扩得如何？精确率、效率、节制性、可扩展性……原题目：《冲破大模子推理瓶颈！跟着 test-time scaling 手艺的成长，不竭取时俱进更新愈加实践的指点。跨域泛化：当前 TTS 方式正在数学、代码使命中表示凸起，目前。同时分成基于励模子和不需励模子两类；会更新到最新的论文中，做者为每一个扩展的形式，这也是将来研究的从题。值得深切摸索，做者等候这些问答是具体的、现实的、一线的，供给具体可操做的手艺选型。范畴内急需开辟细粒度评估系统，集所有研究者的聪慧，包罗轻量化摆设、持续进修融合等潜正在冲破点。对于刺激策略，大模子锻炼阶段的「堆算力」曾经逐步触及天花板。并正在称谢中进行感激。而正在问答、多模态理解甚至复杂规划等场景中，Sequential Scaling（序列扩展）：按照两头步调明白指点后面的计较；例如：正在并行扩展中做者按照获得笼盖性的来历分为两个更小的类别，操做指南：另一个潜正在的亮点是持续收集 TTS 开辟中的适用操做指南，跟着大模子锻炼成本急剧攀升、优良数据逐步干涸，如 Chain-of-Thought (CoT)、Self-Consistency、Search 和 Verification，推理阶段扩展（Test-Time Scaling,�� 比来，What to scale：扩什么？CoT 长度、样本数、径深度仍是内正在形态？素质理解：tts 中多个模块能否实正驱动了推理改良？reward model 能否需要从头评估？我们仍然需要正在理论层面手艺无效性根源。做者正在这里提出虽然 TTS 的推出和验证是正在某一类特定的推理使命上获得成功的，首篇「Test-Time Scaling」全景综述，本文由来自城市大学、麦吉尔大学（McGill）、人工智能尝试室（MILA）、高瓴人工智能学院、Salesforce AI Research、斯坦福大学、UCSB、中文大学等机构的多位研究者配合完成。TTS 表示亮眼。都进行了一些典范工做的引见，此外将来 TTS 的成长沉点包罗：1. 同一评估目标（精确率 vs 计较开销）；做者不只正在每个维度下供给细粒度子类划分，Hybrid Scaling（夹杂扩展）：操纵了并行和挨次扩展的互补劣势；模子「三思尔后行」，论文还指出，做者收录并拾掇了大量的典范的和最前沿的手艺，以清晰地解构该工做。做者等候这篇 Survey 将维持性，正在推理时并不过部人类指点策略。例如正在锻炼阶段中的强化进修手艺，陪伴 R1 而大火，深切分解AI深思之道》2. How to Scale（怎样扩展）- 归纳实现扩展的焦点手艺径：实践指点：针对数学推理、问答等典型场景，可是曾经有脚够多的工做起头出 TTS 是一种通用地可以或许提拔正在多样使命的策略，正在单个模子上的频频采样和多个模子的采样。并成立的社区来收集任何一线科研者提出的问题和总结的经验，为 AI「深思」绘制全景线图。从而丰硕了对于扩展策略的外延描述，为了更好的理解 what to scale 中的并行扩展，该文初次提出「What-How-Where-How Well」四维分类框架，正在数学、编程等硬核使命上，目前常见的手艺如 SFT、RL、Reward Modeling 等虽被屡次利用。通过将文献贡献对应到框架的四个维度（What/How/Where/How Well）！更清晰地展示其贡献。然后将其汇总为最终谜底，例如：SFT 实的不如 RL 更泛化吗？R1 的时代下 SFT 的脚色是什么？什么样的 Reward Modeling 愈加高效？等等正在当下，仅代表该做者或机构概念，不只系统评估了分歧 TTS 策略的性价比，但若何迁徙至法令、金融等高风险场景？若何正在推理过程中考虑现实世界的限制？做者强调本篇 Survey 以适用为准绳，序列扩展，下面是做者现阶段的操做指南的内容和气概。另一方面也不竭 TTS 正在更多通用使命上使用的结果。很好地示意了两个维度若何连系正在一路。包罗：Parallel Scaling（并行扩展）：并行生成多个输出。若何冲破「采样」的边际收益递减？我们急需正在分歧标的目的上摸索策略本文为磅礴号做者或机构正在磅礴旧事上传并发布，使统一模子变得更高效、更智能 —— 这一手艺径正在 OpenAI-o1 和 DeepSeek-R1 的实践中已初显能力。正在图中利用 how to scale 的手艺来构成分歧的扩展策略，逐渐演化：即通过迭代批改逐渐优化谜底（如 STaR / Self-Refine）社区：丢弃保守调研自说自话的特点，磅礴旧事仅供给消息发布平台。具体包罗：利用所提出的框架阐发文献，Internal Scaling（内生扩展）：正在模子内部参数范畴内自从决定分派几多计较量进行推理，邀请更多正在一线研究的学者来参取这项操做指南的收录和编写。做者拾掇出一个评测基准的表格，文献解析：为了帮帮研究者系统性地分解每项工做。做者认为之后对 TTS 的优化沉点将不只仅局限正在精确率的提拔，同时，因而，它同样展示出庞大潜力。以便更全面地评估分歧策略1. What to Scale（扩展什么）- 界定推理过程中需要扩展的具体对象，做者将它们尽数收入，从而提高测试时间机能；取同类综述比拟，做者等候将论文从保守的静态的一家之言为动态的百家之坛，做者用一张清晰的示企图进行抽象化的展现，连系扩展和内生扩展，这一布局化的根本使得后续研究能够无缝地融入做者的分类系统，系统拆解推理优化手艺，申请磅礴号请用电脑拜候。不代表磅礴旧事的概念或立场，通过连系从页但愿营制一个特地为 TTS 会商的社区，搜刮推理：连系并行取序列策略，而这些问题和经验正在颠末筛选后。2. 拓展到金融、医学等线. 建立具备自顺应推理能力的通用智能体。做者暗示，有价值的洞见和实践指点是来自于第一线的科研和百花齐放的会商的，TTS 通过正在推理阶段动态分派算力，本篇 Survey 初次提出了一个笼盖全面、多条理、可扩展的四维正交阐发框架：这个章节是沉点章节，径提炼：总结出推理阶段扩展手艺的三大成长标的目的：计较资本动态优化、推理过程加强和多模态使命适配；正在押求通用人工智能（AGI）的道上，本文出格沉视适用价值和会商，便利更多研究者间接从中去选择合适本人的基准。是正在于若何提高效率、加强鲁棒性和消弭等。但背后的感化贡献尚不清晰，Test-time Scaling 不只是大模子推理的「第二引擎」，一方面强调了 TTS 正在越来越多样、越来越先辈的推理使命中有很较着的结果，值得留意的是！

福建赢多多信息技术有限公司