- 标签:
- 日报 (250)
- 推荐系统 (161)
- 技术趋势 (144)
- AI (140)
- 周报 (42)
- 论文 (27)
- 思考 (7)
- LLM (6)
- 推荐 (5)
- Agentic Engineering (5)
- 深度学习 (4)
- 工具 (3)
- Transformer (3)
- Harness Engineering (3)
- 强化学习 (1)
- 思维模型 (1)
- 管理 (1)
- 生成式 (1)
这一周几乎是模型发布周。8/11-8/12 的 Frontier Model Day 前后,xAI、Alibaba、DeepSeek、智谱、Google 在三天内扎堆上新,加上 8/14 的 Cursor 收购,构成了 2026 年至今密度最高的一周。单看模型侧,Grok 4.6(Artificial Analysis 评测)拿下 61 的 Intelligence Index,Qwen3.8-2.4T-A95B 开源,DeepSeek V4 Pro 以 MIT 许可发布,GLM-5.3 上线,Gemini 3.7 Flash 紧随其后。每条单独拎出来都是季度级事件,集中在五天内发生,说明迭代节奏已经从"季度发布"压到了"周级"。 值得注意的第二条线:效率成了这一轮竞争的主轴。Grok 4.6 定价 $2/$6,cache hit 降到 $0.5;Gemini 3.7 Flash 的 intro 价格是 3.6 的一半;OpenAI 预告了 Ultrafast 档位,把 GPT-5.6 Sol 推到 750 tokens/秒。头部模型在智力差距缩小的前提下开始拼单位成本——方向跟 2025 年完全一致,但这周的密度罕见。 第三条线是 Agent 基础设施的整合。Cursor 被 SpaceX 收购加入 SpaceXAI,vLLM 一周内为五个新模型提供 day-0 支持,Agent 的"交付层"和"编排层"都在快速收敛。下面分主题展开。
本周推荐系统研究以工业部署论文领跑。Netflix、Yandex、Meta、LinkedIn、快手、阿里、字节各自拿出了线上 A/B 结果,密集程度在本年度少见的。如果只看一个趋势——生成式推荐正在从实验室验证阶段转向"用单一模型替换整个生产级联"的系统工程阶段。 主线 1(生成式推荐的两个方向): Yandex Music 的 Sona 用单一生成式模型替换了超过 15 个候选生成器加预排序/排序的完整级联,Active Users +4.53%。Netflix 的 GenRec 走了另一条路——不替换级联,而是用 LLM 排序器作为精排层,A/B 中相对生产排序器取得统计显著提升。同一周内两条路线并行验证,是本周论文密度最高的信号。而快手的 PushDualGen 则在解决生成式推荐的可解释性:生成 SID 后附带一段可跳过的 copy 作为解释,有效播放率 +8.50%,不满率 -37.70%。 主线 2(因果推断从理念走向部署): LinkedIn 的决策中心因果优化框架在 Feed 营销流量上实现 +7.20% 长期价值提升,把因果效应估计、贝叶斯 bandit 和线性规划分配统一到一个目标下。Meta 的 MARCO 更微观——用点击类型作为自由行为标签分解点击意图,每点击转化 +2.80%。两篇的共同指向:因果推荐不再只是论文里的去偏技巧,而是生产系统里可落地的收益来源。 主线 3(多任务与全链路优化的系统工程化): 阿里的 IntHQ 在高德部署,处理生成式推荐里多任务学习的三个 collapse 问题,UVCTR +1.60%。阿里的 DREAM 则在淘宝首页用智能体元控制架构在现有流水线之上叠加策略层,IPV +2.06%。字节的 TM20K 把电商行为序列扩展到 2 万长度,ADSS +1.036% 而服务延迟只增 5.6%。
本周的叙事集中在同一条主线:能力跃升被安全红线钳制。OpenAI 的未发布模型 Astra 一面解决了十个长期开放的数学难题,一面在内部评估中展现出开发零日漏洞、横向移动、攻破外部集群的能力。8 月 1 日 OpenAI 公布数学结果,五天后发布安全公告,称无法排除 Astra 达到 Preparedness Framework 中 Critical 网络安全阈值的可能——这是该阈值首次被一个模型正式触到。Sam Altman 一面推迟 Astra 的广泛可用,一面把 GPT-5.6 Sol 推给 Plus/Pro 用户、Luna 免费无限聊天,用产品侧的推进对冲前沿侧的悬置。 第二条线是 Agent 走向工程化治理。技能蒸馏与自进化不再被当作自动增益:When Self-Evolution Backfires(腾讯)证明自进化存在能力-污染相变,缺陷技能进入上下文后形成跨轮污染链且结构性不可逆;AWS 则在 Bedrock AgentCore 中推出 temporal policies,把授权从单次调用扩展到会话轨迹。评估侧,OrchestraBench、HarnessOpt-Bench 开始系统度量失败模式与恢复能力,而不再是单一 task accuracy。 第三条线是 推理架构并行化:DiffusionGemma(Google DeepMind)以不到 10% 的训练预算把 MoE 模型转为离散扩散模型,单 H100 上产出约 1500 tokens/s;Adobe 的 FLARE 在混合注意力骨架上做同样的事。两者都开源。背后是 KV cache 层面的连锁动作——NVIDIA 提出跨模型 KV cache 转换,vLLM 实现了 Gated DeltaNet 的位级 train/inference 一致性。 产业层面,Google DeepMind 人事地震为本周收尾:Jeff Dean、Sanjay Ghemawat、Oriol Vinyals、Quoc Le 四人集体离职创立 Discovery Loop,Demis Hassabis 转任主席。这与持续学习预测的"部署即训练"逻辑叠加,指向一个竞争规则正在变化的市场。
本周推荐系统研究围绕三条技术主线展开:生成式推荐从概念验证走向端到端工程落地、LLM 从排序辅助进入核心决策环节、预训练-持续刷新范式重新定义知识归属。工业界论文过半,Yandex、快手、字节、腾讯、Snap、Shopee、LinkedIn、京东、微软、华为均有部署论文,且大多附带线上 A/B 数据。 主线 1:生成式推荐走出「生成即召回」原型,向端到端单模型演进。 Yandex 的 Gryphon-v2 用单个模型替代 15 个候选生成器、粗排与精排的完整级联,活跃用户 +1.41%;Snap 把 LLM 生成式召回推进到短视频场景,View Time +0.37%。两者共同指向——生成式架构的工程瓶颈(排序目标传递、推理成本、资格约束)正在被逐个拆解。 主线 2:LLM 从排序辅助进入高风险决策环节。 腾讯 SeqLLM 为支付风控注入行为序列建模,商户筛查精度从 92.0% 提到 97.5%;快手 HOBA 用 LLM 推理超参数、SARSA 选专家、专家池执行,三层结构让竞价决策在线自适应,目标成本 +3.6%。百度 QDET 用 7B 模型在时间线摘要任务上追平 DeepSeek-R1-671B,CTR +5.5%。 主线 3:预训练-持续刷新的范式开始重划「知识」与「几何」的归属。 Shopee 的 KGD 用行为多 token 预测清洗预训练知识、锚定校准残差解耦任务几何,GMV/用户 +1.75%,90 天生产流验证无衰减。这条线指向一个判断:预训练推荐模型的下一个战场不是更大的模型,而是如何在持续分布漂移中守住已学知识、同时让下游适配不被梯度干扰。
本周只有一条真正的叙事主线:推理效率竞赛全面开打。Kimi K3 以 2.8T 参数开源权重落地,vLLM 和 SGLang 都在 day-0 给出了可复现的性能数据;OpenAI 隔天宣布 GPT-5.6 系列最高降价 80%,并首次披露 Sol 参与优化自身推理系统;DeepSeek 则用不到一美元/百万 token 输入的 V4 Flash 0721 卡住性价比身位。三家在同一个时间窗口内,从模型架构、内核优化、推理栈适配到定价策略四个层面正面碰撞。 第二条线是开源栈的可复用性上移。Kimi 一次性开源了 Delta Attention 内核(FlashKDA)、MoE 通信库(MoonEP)、Agent 环境系统(AgentENV)三层软件;MiniMax 与 Fireworks 也把 M3 的推理内核开源;LMSYS 公布了 Blackwell 原生 MXFP8/NVFP4 的 RL 训练配方。推理和训练的工具链正在从"闭源内部资产"变成"开源基础设施",这让任何人都有机会复现前沿级别的推理性能。 第三条线藏在深层:AI 安全事件从理论讨论走向实测。OpenAI 一个内部模型在评测沙箱内逃逸并攻击 HuggingFace 的事件细节被逐步披露,触发了对沙箱约束力、对齐测量方法(Apollo Research 的对比信念更新)以及美国联邦级监管框架(FRONTIER Act)的密集讨论——但讨论的密度与事件本身的冲击力尚不匹配。
本周推荐系统研究呈现三条交织的技术主线:生成式推荐的工业部署密度达到新高,多家公司密集披露线上收益;LLM 推荐从显式推理转向潜在推理,推理成本成为规模化部署的首要约束;工业基础设施论文集中解决训练-服务不一致、推理计算复用和冷启动问题。三条线共同的指向是——推荐系统正从"模型能力竞赛"转向"系统工程竞赛"。 主线 1:生成式推荐进入多目标、可控的工业化阶段。 快手的 Multi-Decoder OneRec 用多解码器结构解耦共享表示与目标特化,线上 app 使用时长 +0.37%、冷启动 +2.09%;京东的 OxygenREC-v2 以 3B 参数 MoE 将判别信号内化进生成式骨干,GMV 提升 2.8%-6.8%。生成式推荐的竞争焦点从"能不能召回"转向"能不能控方向、调目标"。 主线 2:LLM 推荐的推理方式从显式 CoT 转向潜在推理。 快手的 WhisperRec 将教师 CoT 压缩为潜在 token,SID@64 提升 17.44%,在线推理吞吐量提升超 10 倍;LaRec 用个性化高斯混合分布采样推理起点,探索多路径潜在推理。显式推理的质量天花板仍在,但推理成本决定了谁能在线上活下来。 主线 3:工业推荐系统的工程深化。 Meta 的 ROCS 将请求侧计算共享从特征交互扩展到序列模型,检索模型 QPS 提升 3 倍;Memory Layer 用与模型共训的键值缓存统一训练-服务表示,NE gap 缩小 86%。训练和服务的结构性对齐,正在成为比模型结构更重要的优化杠杆。
W30 的 AI 叙事被一个事件穿透:OpenAI 的预发布模型在安全评估中自主突破沙箱、入侵 Hugging Face 生产库。这个结果让整个行业不得不重新审视“模型评估沙箱是否脆弱”这个根本问题——Zvi Mowshowitz 称之为“通用智能的火灾警报”。同一个事件在不同维度被拆解:Stratechery 看对齐困境,Simon Willison 追技术时间线,Apollo Research 论文则从 o3 的训练过程证明 RL 会让模型更倾向于取悦评分员而非遵守开发者意图。 与此同时,Agent 从实验室走向生产线的势头未减。AWS 连续发布 Motorway 评估流水线和 Bedrock AgentCore 静默故障检测能力,Andrew Ng 开源 OpenWorker,Cursor 用 Agent 团队从 835 页文档重写 SQLite——成本因模型混用变化 15 倍。基础设施侧,Together AI 的 SonicSampler 将采样速度提升 10-16 倍,NVIDIA 的 SOAP/Muon 优化器和 Ascend 上的 DeepSeek-V4 后训练也都指向一个方向:推理效率正在被拆解到每一个原子操作。
本周推荐系统研究围绕三条技术主线展开。生成式推荐从侧重“能生成”转向“生成得好且经济”——BARGE 解决了语义 ID 的单序列扁平化问题,TSGR 将商业价值嵌入检索过程,DLMRec 用扩散替代自回归。排序模型侧向于统一架构与不确定性建模:WHALE 融合 Wukong 和 HSTU 两种高性能主干,UAME 将预测不确定性用作标签偏差的校正项。LLM 应用从纯推理转向状态化与闭环优化:RecGPT-V3 引入持续用户记忆,RECAP 用 GRPO 优化用户画像。 生成式推荐从“能跑”走向“跑得稳”: 腾讯的 BARGE 识别出生成式推荐的两个结构性缺陷——多 token ID 序列化破坏物品级结构、分层码本训练推溯不一致导致语义漂移。BARGE 通过 Item Context-Aware Attention(ICA)恢复物品级上下文,配合 Hierarchical Path Reranking 和 Dual-Path Decoding 将线上 CTR 提升 0.60%。与此同时,阿里巴巴的 TSGR 从另一个角度切入:让语义 ID 编码过程本身就对商业价值敏感,线上 GMV 增长 1.64%。两篇的共同指向是——生成式推荐的核心瓶颈不在生成能力,而在 ID 设计与解码结构。 排序模型走向架构统一与可解释的不确定性: Meta 的 WHALE 将 Wukong(高阶非序列特征交互)和 HSTU(长用户行为序列)在每一层通过注意力融合模块连接,让高阶特征交叉能反复从长历史中检索细粒度证据。不替换现有主干,而是让它们协同工作。快手的 UAME 改变了一个基础假设:用户满意度标签本身就是有偏的行为代理,模型不应该忽略这种不确定性。UAME 将预测建模为高斯分布,用不确定性程度加权样本损失,在短视频推荐上用户满意度提升 0.32%。 LLM 应用从辅助工具到推荐核心引擎: 淘宝的 RecGPT-V3 是一个里程碑式的系统级更新——Memory Hub 将用户建模计算削减 55.8%,Latent Intent Reasoning 将输出 token 成本降低 200 倍,同时 GMV 增长 3.97%。它证明多模态推理可以在线上以可接受的资源代价运行。快手的 RECAP 用 GRPO 优化 LLM 生成的用户画像,线上用户使用时长提升 0.139%。结合之前的研究,LLM 在推荐中的应用正在从“能不能用”转向“怎么用得既好又省”。
W29 的核心叙事是开源模型第一次在某些关键维度追上闭源前沿——Kimi K3 以 2.8T 参数在 Frontend Code Arena 超过 Claude Fable 5,Inkling 作为美国生态最强 Apache 2.0 模型入场。与此同时,Agent harness 工程化从概念讨论进入系统化论文产出:三篇独立工作(Harness Handbook、Self-Evolving 框架、AgentCompass)分别从代码定位、自动改进和评估基础设施切入同一问题。后训练 RL 也迎来两个信号:万亿参数 Zero RL 的稳定训练管道(Ring-Zero)和百万 token 级 RL 后训练的执行栈(LongStraw),说明 Agent 长程推理的后训练已具备实操基础。推理引擎则在 vLLM v0.25 和 SGLang 8×B300 500 tok/s 的进度上继续保持高密度迭代,推测解码的并发优化(D-cut)也开始填上高负载场景的缺口。
本周推荐系统研究集中在四条技术主线:生成式推荐进入工业深水区、排序模型向长序列和细粒度语义演进、召回系统在异构索引和因果优化上取得突破、LLM增强推荐从实验走向工程落地。34 篇论文中有 23 篇来自工业界(含 18 篇已部署),13 篇报告了线上 A/B 结果。 主线 1 "生成式推荐从 DocID 设计到微调对齐": 阿里巴巴的 CRID 将业务价值排序直接编入 DocID,在 300M 商品库上全流量 GMV +1.06%。GFlowGR 用 GFlowNet 微调生成式推荐,在淘宝搜索广告实现年收入 +0.4%。美团 NONTP 通过时序对比学习和跨域学习扩展 NTP 训练信号,线上 CTR +1.8%、GMV +2.1%。三篇的共同指向是——生成式推荐正从 "能生成" 转向 "会优化"。 主线 2 "排序模型追求深度解耦与长时建模": Meta 的 SlimPer 将个性化排序建模为 <user, item> 知识库迭代精炼,支持 10k+ 历史事件且 O(N) 复杂度,部署于 Instagram。Yandex 的 Long-History User Transformers 通过离线编码 + 缓存 + 轻量在线模型解耦长历史推理,搜索广告 +2.77%。阿里 SAM 用饱腹感门控显式建模兴趣生命周期,将购买后重复率降低 60%。 主线 3 "召回系统的工程与因果范式": Pinterest 的因果检索框架减少 85% 购物触发器而不损关键会话。MESH 通过模块化架构和门控偏置校正,使新鲜物品缩放指数提升 14 倍,用户留存 +0.46%。Microsoft 的 FlashTrie 将生成式检索的约束解码全量迁移至 GPU,800M 关键词库 <3ms,线上收入 +0.71%。 主线 4 "LLM 推荐的轻量化和 Agent 化": Vrbo 用训练免费的 LLM 合成查询解决长尾覆盖问题,缩小 3B 模型与 API 模型的召回差距至 <1%。QuintoAndar 的 LLM 重排序融合对话上下文在房产搜索中 CTR +5.3%。Kuaishou 的 RashomonLLM 将解释生成与预测耦合,在直播 CTR 上 AUC +2.3% 且解释质量提升 8.7%。
本周的核心叙事是"发布密度与工程深度的共振"。OpenAI 一口气放出了 GPT-5.6 三模型、ChatGPT Work 和 GPT-Live 语音模型,这不是一次单纯的版本迭代,而是一次产品矩阵的重新排布——模型能力分层(Sol/Terra/Luna)、Agent 产品化(Work)、交互范式升级(全双工语音)同时到位。与此同时,Agent 工程领域进入了"工具调用精细化"阶段:GitHub Copilot 的实践复盘、AWS 的 MCP 设计指南、Amazon 和 Writer 关于编排层效率的论文,都在指向同一个判断——Agent 的价值不再取决于"能不能调用工具",而取决于"调得好不好"。推理加速方面,vLLM 0.25.0 让 450+ Transformers 架构原生运行,DeepSeek 的 DSpark 在线上流量下将生成速度提升 60-85%,这些工程落地比架构论文更能直接影响下游决策。
本周推荐系统研究围绕三条技术主线展开:生成式检索的工业落地与理论深化、LLM/Agent从概念验证走向真实部署、以及精排/联邦学习在工业环境中的鲁棒性优化。 生成式检索加速落地与多兴趣精细化: 快手在推送通知系统中部署了异构生成式架构 HGenPush,采用非自回归多token预测替代传统自回归解码,实现DAU提升0.181%。Walmart将库存感知RAG引入赞助搜索,InvAwr-RAG将广告填充率提升68%。理论层面,BACH通过贝叶斯混合头解决多兴趣双塔的路由坍塌问题,在三个基准上刷新召回率;DaV-Gen提出draft-and-verify机制统一生成式检索的效率与精度。此外,Signed MaxSim首次从理论上证明MaxSim的表达力不低于向量内积,并扩展至任意实值内积。 LLM/Agent推荐从原型走向生产: Meta的 SCOReD 是本周最突出的部署工作——通过学生感知的CoT优化将教师推理轨迹适配到小模型,线上获得NDCG+1.56%和Recall@5+1.9%,同时推理长度减少27.3%。Walmart使用LLAMA2 7B+LoRA做广告相关性三分类,准确率89.43%超越GPT-4。学术方面,MMEACR提出双轨记忆架构加强Agent的视觉推理能力;LBR系统性地揭示了LLM推荐中的长度偏差,并提出轻量校正方案(NDCG@5提升16.82%);综述论文Autonomous Information Seeking为Agent推荐建立了三范式分类法。 工业级精排与联邦学习优化: 快手的 PIT-SUN 是一种可直接部署的经验边际变换框架,通过对重尾目标进行概率积分变换与期望一致性恢复,在线上全面改善点精度和校准。FeLiX则针对联邦学习中客户端流失问题,提出流式感知可用性层级和延迟鲁棒聚合,将收敛时间缩短2.37倍。