本期精华： * Optimizing Test-Time Compute via Meta Reinforcement Fine-Tuning通过元强化微调优化测试时计算通过元强化微调，让AI更高效地思考，提升了数学推理的准确率和资源效率。 * Denoising Hamiltonian Network for Physical Reasoning物理推理去噪哈密顿网络用去噪哈密顿网络，让AI更精准地模拟物理规律，适用于机器人和天气预报。 * Rank-R1: Enhancing Reasoning in LLM-based Document Rerankers via Reinforcement LearningRank-R1：通过强化学习增强基于LLM的文档重排器的推理通过强化学习提升搜索排序的推理能力，让结果更贴近用户需求。 * Enhancing Reasoning with Collaboration and Memory提升协作与记忆的推理能力多个AI协作并用记忆解决问题，随机性带来意外效果。 * What I cannot execute, I do not understand: Training and Evaluating LLMs on Program Execution Traces我无法执行的事情，我不理解：在程序执行轨迹上训练和评估LLMs通过模拟程序运行，提升AI对代码的理解，预测输出更准。 完整推介：https://mp.weixin.qq.com/s/USp3bUc5rtCSLpvywb4VVQ

本期的精华内容： * R1-Searcher: Incentivizing the Search Capability in LLMs via Reinforcement LearningR1-搜索器：通过强化学习激励LLMs的搜索能力通过强化学习教大型语言模型自己查资料，提升了回答知识密集型问题的能力。 * Knowledge Updating? No More Model Editing! Just Selective Contextual Reasoning知识更新？不再编辑模型！只需选择性的情境推理提出了SCR框架，用外部知识作为“参考书”，让模型动态更新知识，不用改参数。 * HieroLM: Egyptian Hieroglyph Recovery with Next Word Prediction Language Model埃及象形文字恢复与下一词预测语言模型把象形文字恢复变成猜词游戏，用语言模型帮考古学家恢复古文字。 * Leveraging Domain Knowledge at Inference Time for LLM Translation: Retrieval versus Generation利用推理时间内的领域知识，与LLM 翻译：检索与生成发现翻译示例比字典更有效，外找的例子比自编的强，提升了专业领域的翻译质量。 * Self-Evolved Preference Optimization for Enhancing Mathematical Reasoning in Small Language Models自我进化的偏好优化，以增强小型语言模型中的数学推理用SPHERE框架让小模型自学数学推理，缩小了和大模型的差距。 完整推介：https://mp.weixin.qq.com/s/mvgMGFcwXPt0TczmCVMrlg

本期《TAI快报》带你走进五项AI前沿研究的关键内容： 1. PokéChamp: an Expert-level Minimax Language Agent 通过语言模型增强Minimax算法，让AI在Pokémon战斗中达到专家级水平。 2. Statistical physics analysis of graph neural networks: Approaching optimality in the contextual stochastic block model 用物理学方法揭示图神经网络的最佳深度和连接方式，提升关系数据处理能力。 3. An Analytical Theory of Power Law Spectral Bias in the Learning Dynamics of Diffusion Models 发现扩散模型先学大特征再学细节的规律，为生成更高质量图像提供思路。 4. START: Self-taught Reasoner with Tools 提出一个自学框架，让AI通过工具提升推理能力，解决复杂问题。 5. From Language to Cognition: How LLMs Outgrow the Human Language Network 揭示语言模型如何超越人类语言处理，迈向更高认知，提示AI与人类的不同路径。 完整推介：https://mp.weixin.qq.com/s/xzLUdIKnZqa624vxCqdpuQ

本期《TAI快报》探讨了五项AI前沿研究的关键内容。 1. LADDER: Self-Improving LLMs Through Recursive Problem Decomposition 通过让AI自己分解问题并学习，显著提升了解积分等复杂问题的能力，展现了自主学习的潜力。 2. All Roads Lead to Likelihood: The Value of Reinforcement Learning in Fine-Tuning 揭示了强化学习为何在AI训练中更有效，核心在于利用“生成-验证差距”简化学习过程。 3. Reactive Diffusion Policy: Slow-Fast Visual-Tactile Policy Learning for Contact-Rich Manipulation 提出了结合视觉和触觉的机器人控制策略，提升了复杂操作的灵活性，未来可用于医疗和工业。 4. Position: Don't use the CLT in LLM evals with fewer than a few hundred datapoints 提醒小数据量下评估AI需谨慎，推荐贝叶斯方法以确保结果可靠。 5. Q-Filters: Leveraging QK Geometry for Efficient KV Cache Compression 通过内存压缩技术，让AI在长对话中更高效，有望优化日常AI助手体验。 完整推介：https://mp.weixin.qq.com/s/5fxCqywakFtIVfFyQssHpg

本期“TAI快报”探讨了五篇AI前沿研究，揭示了AI如何在思考时间、决策推理和学习能力上取得突破。 1. Controlling How Long A Reasoning Model Thinks With Reinforcement Learning 通过强化学习控制AI推理长度，L1模型不仅灵活调整思考时间，还在短推理中超越大模型，展现了效率与性能的平衡潜力。 2. TRACT: Regression-Aware Fine-tuning Meets Chain-of-Thought Reasoning for LLM-as-a-Judge 提出两阶段微调法，让AI评分更精准，结合推理过程解释分数，为自动评估任务带来新可能。 3. Not-Just-Scaling Laws: Towards a Better Understanding of the Downstream Impact of Language Model Design Decisions 分析92个模型，揭示数据组成和架构设计对AI表现的深远影响，挑战“越大越好”的传统观念。 4. Mixed Likelihood Variational Gaussian Processes 通过融合人类反馈和知识提升AI学习效率，在人机交互中展现广泛应用前景。 5. Enough Coin Flips Can Make LLMs Act Bayesian 发现AI能通过上下文学习模仿贝叶斯推理，暗示其在概率决策中的潜力。这些研究共同推动AI向更智能、更实用迈进。 完整推介：https://mp.weixin.qq.com/s/vScio5DLD3lUqUxvd3aJng

本期《TAI快报》带您走进五篇AI前沿论文的关键内容： 1. 《LLM as GNN: Graph Vocabulary Learning for Text-Attributed Graph Foundation Models》：提出PromptGFM，通过指令让语言模型模拟图神经网络，结合图词汇表，提升了带文字图任务的表现和跨图适应性。 2. 《Process-based Self-Rewarding Language Models》：推出基于过程的自奖励方法，通过步步推理和自我评分，大幅提高语言模型在数学推理中的能力。 3. 《Improving LLM-as-a-Judge Inference with the Judgment Distribution》：发现用语言模型判断分布的平均值比单一答案更准，且逐步推理有时反而降低效果。 4. 《SoftMatcha: A Soft and Fast Pattern Matcher for Billion-Scale Corpus Searches》：开发SoftMatcha算法，结合语义和高效索引，实现在亿级语料库中快速找相似模式。 5. 《Cognitive Behaviors that Enable Self-Improving Reasoners, or, Four Habits of Highly Effective STaRs》：揭示验证、回溯等四种习惯是语言模型自我提升的关键，可通过引导和训练数据优化。《认知行为，使自我提升的推理者成为可能，或，高效 STaRs 的四种习惯》：揭示验证、回归和反思 完整推介：https://mp.weixin.qq.com/s/-T61kNhkKySBSXrMxpsi8g

本期播客精华汇总 * Deep Learning is Not So Mysterious or Different：深度学习的泛化能力并非神秘，用“软性归纳偏置”就能解释，其独特优势在于表示学习。 * How Do Language Models Track State?：语言模型通过关联算法和奇偶关联算法追踪状态，展示了内部机制的多样性。 * Forgetting Transformer: Softmax Attention with a Forget Gate：遗忘Transformer用遗忘门提升了长文本建模能力，还简化了设计。 * Adapting Decoder-Based Language Models for Diverse Encoder Downstream Tasks：解码器模型适配编码器任务，证明了其多才多艺。 * How to Steer LLM Latents for Hallucination Detection?：TSV通过操控潜空间高效检测幻觉，少量数据也能大放异彩。 完整推介：https://mp.weixin.qq.com/s/hSr8tyi0T4cPOx5Y5PgwOg

本期《TAI快报》介绍了六项AI前沿进展： 1. Proteína: Scaling Flow-based Protein Structure Generative Models 用AI生成可控蛋白质骨架，助力药物研发。 2. Improve Representation for Imbalanced Regression through Geometric Constraints 以几何方法提升不平衡数据预测公平性。 通过几何约束改善不平衡回归的代表性。以几何方法提升不平衡数据预测公平性。 3. How simple can you go? An off-the-shelf transformer approach to molecular dynamics 用简易模型高效模拟分子运动。 你能有多简单？一种现成的变压器方法用于分子动力学。 4. Steering Large Language Model Activations in Sparse Spaces 在稀疏空间引导语言模型行为更可控。 5. CoSMoEs: Compact Sparse Mixture of Experts 将专家模型优化至手机，兼顾性能与效率。 6. RSQ: Learning from Important Tokens Leads to Better Quantized LLMs 通过重点保护关键信息提升压缩模型性能。 完整推介：https://mp.weixin.qq.com/s/t-DnHam6LlGdGkX6n6XFtg

本期“TAI快报”深入探讨了五篇AI前沿论文。“Q♯: Provably Optimal Distributional RL for LLM Post-Training”提出最优强化学习算法，提升语言模型推理能力；“Minimax Optimal Kernel Two-Sample Tests with Random Features”通过随机特征优化大数据统计检验；“Identifying Emerging Concepts in Large Corpora”揭示文本中新概念的涌现规律；“Reward Learning from Multiple Feedback Types”验证多样反馈提升奖励学习潜力；“Token-level Ensembling of Models with Different Vocabularies”突破模型集成限制，改进翻译质量。 完整推介：https://mp.weixin.qq.com/s/ixgvbNHjOVVzzEDu5LKHOg

本期“TAI快报”介绍了五项AI研究前沿进展： 1. Linear Attention for Efficient Bidirectional Sequence Modeling：LION框架将线性注意力转化为双向循环神经网络，实现训练速度提升（如比Vision Mamba快9倍）和内存高效推理，适用于图像分类和长序列任务。 2. Low-rank bias, weight decay, and model merging in neural networks：揭示权重衰减诱导的低秩结构，并提出通过权重相加合并正交任务模型，实现高效多任务学习。 3. Between Circuits and Chomsky：用k-Shuffle Dyck形式语言预训练提升语言模型效率，减少33%数据即可达相同性能，展现层次结构的重要性。 4. Interrogating LLM design under a fair learning doctrine：提出“公平学习原则”，通过Pythia案例分析训练决策对记忆的影响，倡导关注AI设计透明度与版权平衡。 5. Fast Debiasing of the LASSO Estimator：重构LASSO偏差校正问题，推导出闭式解，大幅提升计算效率，适用于高维稀疏回归。 这些研究从效率、设计到法律伦理，展示了AI领域的创新与挑战。 完整推介：https://mp.weixin.qq.com/s/BIiq6EPqZDH_Iz7lxxjD0A

本期播客精华汇总 * Training a Generally Curious Agent：通过PAPRIKA方法，AI学会自主探索和适应新任务，迈向通用智能。 * Agentic Reward Modeling: Integrating Human Preferences with Verifiable Correctness Signals for Reliable Reward Systems：结合人类偏好和事实检查，REWARDAGENT提升奖励系统可靠性。 代理奖励建模：结合人类偏好与可验证正确性信号以提升奖励系统的可靠性 * Fractal Generative Models：用分形结构高效生成高清图像，展现数学与AI的创意结合。 * All That Glitters is Not Novel: Plagiarism in AI Generated Research：揭示AI生成论文中的剽窃隐患，呼吁人工审查。 * Stable-SPAM: How to Train in 4-Bit More Stably than 16-Bit Adam：新优化器让4-Bit训练更稳定高效，降低AI开发门槛。 完整推介：https://mp.weixin.qq.com/s/mTJnm-jE9obX1OuH8GUjdg

本期精华汇总 * [LG] Implicit Search via Discrete Diffusion: A Study on Chess隐式搜索通过离散扩散：关于棋类的探讨通过“隐形思考”技术，AI在国际象棋中实现高效决策，未来可用于更多规划任务。 * [IR] Granite Embedding Models[IR]花岗岩嵌入模型IBM开源的高效搜索模型，支持多语言，助力企业优化检索体验。 * [LG] Teasing Apart Architecture and Initial Weights as Sources of Inductive Bias in Neural Networks将架构和初始权重作为神经网络的归纳偏置来源分开探讨初始权重优化能缩小网络差距，但结构对新任务的适应性仍关键。 * [CL] Distill Not Only Data but Also Rewards: Can Smaller Language Models Surpass Larger Ones?[CL] 不仅蒸馏数据，还要蒸馏奖励：小型语言模型能否超越大型模型？小模型学习大模型的判断力，在数学等任务上实现超越。 * [CL] Thinking Slow, Fast: Scaling Inference Compute with Distilled Reasoners[CL] 慢思考，快思考：通过蒸馏推理者扩展推理计算快模型用速度换性能，在资源受限场景下表现更优。 完整推介：https://mp.weixin.qq.com/s/cjsoI1nN_zLS370bFQq8vw