用 NVIDIA Dynamo-Triton 部署 HSTU 生成式推荐系统
NVIDIA 介绍如何用 Dynamo-Triton 部署 HSTU 生成式推荐系统。生成式推荐把推荐重构为用户行为序列建模，用户的交互、上下文、候选物品与动作都成为高基数事件流中的 token，而非孤立的召回、排序、预测阶段。
#推理
#推理
今日 2 条NVIDIA Developer BlogAI 评分2222 Google DeepMind精选AI 评分8484 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，随后逐步向开发者、企业和消费者推出。
推荐理由：Gemini 4 Argon 公布输出上限、定价与多项基准成绩，可据此判断前沿模型在长程工程与安全防御上的能力边界。
AWS Machine Learning Blog精选AI 评分6262 xAI 的 Grok 4.7 上线 Amazon Bedrock
xAI 的 Grok 4.7 已在 Amazon Bedrock 上线，支持 500K token 上下文窗口和 low、medium、high、xhigh 四档可配置推理强度，通过 bedrock-runtime 的跨区域推理配置文件提供服务，支持 Responses、Chat Completions 和 Converse API。
推荐理由：文章给出 Grok 4.7 在 Bedrock 上的接入方式与四档推理强度配置，可据此评估长任务智能体的成本与延迟取舍。
OpenAI NewsAI 评分2222 Basis 借助 GPT-6 Astra 将税务工作簿处理速度提升 2 倍
GPT-6 Astra 完成一份 50 个标签页的税务工作簿，速度是 GPT-5.6 Sol 的两倍。Basis 表示，GPT-6 Astra 对用户意图的理解更强，让其在真实业务场景中的使用更有信心。
AWS Machine Learning BlogAI 评分3636 在 Amazon SageMaker HyperPod 上用 SkyRL 加速多模态 RL 训练
在 Amazon SageMaker HyperPod 上，用开源 RL 框架 SkyRL 对 Qwen3-VL-8B 视觉语言模型做 GRPO 后训练，在固定 64 个迷宫评测集上把解迷宫成功率从 43.75% 提升到 95% 以上。
Hugging Face BlogAI 评分3838 Liquid AI 发布 LFM2.5-VL-DSpark 草稿模型，为 LFM2.5-VL-3B 加速
Liquid AI 发布实验性草稿模型 LFM2.5-VL-DSpark，为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径，端侧解码最高提速 3.13x、H100 上最高 2.66x，端到端最高提升 2.62x 和 2.27x。
NVIDIA Developer BlogAI 评分3131 NVIDIA 推出 NV-Reason-CT Open 3D CT VLM，面向放射科医生链式推理
NVIDIA 发布 NV-Reason-CT Open，这是一款面向 3D CT 扫描的开放视觉语言模型，支持放射科医生的链式推理（Chain-of-Thought）。现有通用前沿模型在体数据成像上表现不佳，多数开放医学 AI 模型也缺乏相关能力，而 3D CT 这一临床信息最丰富、数据最密集的模态长期被现代 VLM 忽视。
NVIDIA Developer BlogAI 评分3434 SWE-Serve 如何揭示本地测试与线上服务之间的差距
NVIDIA 联合 SGLang 团队推出 SWE-Serve，用于评估推理服务软件改动在完整服务路径上的表现，包含 53 个任务。该工具针对 AI 编程智能体的补丁能通过测试、却在服务器加载真实模型并处理请求时失败的问题，检查系统能否通过公开接口返回正确结果。
OpenAI News精选AI 评分6060 OpenAI 为 GPT-6 改进提示词缓存
OpenAI 宣布为 GPT-6 改进提示词缓存，带来更高的缓存命中率、新的诊断能力、显式断点以及可降低延迟和成本的控制项。官方称这些改动用于减少延迟与费用，具体用法和参数未在摘要中给出。
推荐理由：官方说明 GPT-6 提示词缓存的变化，读者可据此了解缓存命中率与延迟成本控制的新入口。
OpenAI NewsAI 评分2222 Parallel 借助 GPT-6 Astra 将研究时间与成本减半
Parallel 的智能体借助 GPT-6 Astra 研究并综合劳动力市场数据，耗时和成本均降至此前模型的一半。
NVIDIA Developer BlogAI 评分3636 NVIDIA Dynamo-Triton 集成 TensorRT 多设备推理，支持单网络跨多 GPU 运行
NVIDIA 在 Dynamo-Triton 中集成 TensorRT 多设备推理，让单个 TensorRT 网络借助 NCCL 分布式集合通信跨多块 GPU 执行，同时保留 TensorRT 的推理优化。该能力自 TensorRT 11.0 起获得完整支持，用于应对生成式 AI 超出单 GPU 的算力与显存需求。
NVIDIA Developer BlogAI 评分2222 NVIDIA AIPerf：大规模 LLM 推理基准测试
NVIDIA 发布 AIPerf，用于大规模 LLM 推理性能基准测试。它针对 curl 命令、手写 asyncio 脚本或一次性负载生成器等传统压测方式的问题，这些方式受限于单进程性能、Python GIL 并发瓶颈，或测量基准不可靠。
NVIDIA Developer BlogAI 评分4242 NVIDIA TensorRT Edge-LLM 在 Jetson AGX Thor 上以 6.4 倍速度完成 MLPerf Edge Agentic Benchmark
NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic Benchmark，速度提升 6.4 倍。该方案面向从云端数据中心迁移到车辆、机器人等边缘设备的 AI 智能体，针对其多步骤工具调用、结果评估与长对话推理带来的边缘推理新需求，实现快速 token 生成。
NVIDIA Newsroom精选AI 评分6767 NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1，吞吐最高达 GB300 NVL72 的 3.7 倍
NVIDIA 在 MLPerf Inference v6.1 首次提交 Vera Rubin NVL72 预览结果，在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍，在 DeepSeek-R1 上最高达 2.5 倍。
推荐理由：MLPerf v6.1 首次提交数据给出 Vera Rubin NVL72 相对 GB300 的吞吐提升与 99% 扩展效率，可据此判断推理基础设施的性价比走向。
Google ResearchAI 评分3434 Google Research 提出 Retrieve-for-Train：用离线 RL 编译扩散检索器，绕过查询扇出推理瓶颈
Google Research 提出 Retrieve-for-Train 框架，用离线强化学习发现奖励对齐的查询扇出并编译为监督信号，再蒸馏进一个 53.9M 参数的扩散检索器，实现单次非自回归的查询扇出。该方法在 Gemma3-4B 和 Qwen3-4B 上微调扇出语言模型，以集合级属性奖励评估整组结果，避免推理时生成数百个 CoT 推理 token。相关论文已被 ICML 2026 收录。
NVIDIA Developer BlogAI 评分2222 NVIDIA Nemotron 3.5 Lightning 解析：Dense 与 MoE 模型的活跃参数、吞吐量与选型
NVIDIA 以 Nemotron 3.5 Lightning 为例说明 MoE 架构如何让 30B 参数模型每个 token 仅激活 3B 参数，同时保留大模型容量。文章对比 Dense 与 MoE 两种主流架构，指出参数组织方式与参数规模同样关键，并讨论活跃参数、吞吐量及各自适用场景。
NVIDIA Developer BlogAI 评分2828 NVIDIA Groq 3 LPX 确定性执行如何为 NVIDIA Vera Rubin 带来高能效高交互推理
NVIDIA 详解 Groq 3 LPX 的确定性执行如何在 NVIDIA Vera Rubin 平台上驱动高交互、高能效推理。文章指出，AI 工厂的核心约束是功耗，因此每瓦性能而非原始吞吐量才是衡量 AI 平台价值的最终标准。Vera Rubin 平台正是围绕这一目标设计。
NVIDIA Developer BlogAI 评分3030 NVIDIA 全栈 NIM 优化如何让 Nemotron 3 Ultra 多承载 2.5 倍用户
NVIDIA 通过全栈 NIM 优化，让 Nemotron 3 Ultra 在相同 GPU 基础设施上可服务的并发用户数提升 2.5 倍，同时保持应用交互响应。该优化针对智能体 AI 负载中提示词长、上下文跨步骤复用等特点，在生产部署中平衡并发量与交互性。
NVIDIA Developer BlogAI 评分2222 NVIDIA Dynamo 何时使用 Encode-Prefill-Decode 分离加速多模态模型服务
NVIDIA 详解 Encode-Prefill-Decode（EPD）分离技术：将视觉编码器阶段与 prefill、decode 阶段拆开，在图像密集提示、中短输出和量化 MoE 模型上收益最大。配合 NVIDIA Dynamo 使用，多模态模型服务最高可提速 5 倍。
OpenAI News精选AI 评分8282 OpenAI 发布 GPT-6 Astra，面向企业工作场景
OpenAI 发布 GPT-6 Astra，称其为面向企业场景能力最强的模型，具备高级推理、电脑操作以及更强的写作与设计判断能力。
推荐理由：OpenAI 公布 GPT-6 Astra 面向企业场景的能力定位，可据此了解其推理与电脑操作方向。
OpenAI NewsAI 评分2222 OpenAI 分享 AI 生成的 Navier–Stokes 千禧年大奖难题解答
OpenAI 分享了一份由 AI 生成的 Navier–Stokes 千禧年大奖难题解答，包含一份书面说明和一份 Lean 形式化证明。该问题属于七个千禧年大奖难题之一。
NVIDIA Developer BlogAI 评分3030 NVIDIA Jetson 上如何部署与优化前沿推理模型
NVIDIA 发布指南，介绍如何在 Jetson 边缘设备上部署和优化具备多步推理能力的模型。此前这类模型因体积过大只能把推理请求回传数据中心，带来网络依赖、成本上升和本地数据外泄风险，这一限制正在被打破。
NVIDIA Developer BlogAI 评分2222 NVIDIA 如何用投机解码协同设计 AI 模型以加速 LLM 推理
NVIDIA 开发者博客发布 AI 模型协同设计系列第三篇，探讨如何用投机解码在保持精度的同时加速 LLM 推理，并给出在帕累托前沿上选择草稿长度与草稿机制的五条准则。文章同时讨论了模型设计选择如何在不牺牲精度的情况下影响吞吐量与交互性。
NVIDIA Developer Blog精选AI 评分6262 NVIDIA AVO 在 ARC-AGI-3 上达到 100%
NVIDIA 宣布其 AVO 在 ARC-AGI-3 上达到 100%，称其展示了面向长时程自主智能体的前沿级通用架构。文章指出前沿语言模型只是 AI 智能体的一部分，外围的 harness 决定模型如何接收上下文、使用工具、维持状态、响应反馈、从失败中恢复并在长任务中保持进展。
推荐理由：NVIDIA 公布 AVO 在 ARC-AGI-3 上的成绩，读者可了解其面向长时程自主智能体的架构思路。
Microsoft ResearchAI 评分4141 MindTopo 揭示多模态大模型的空间推理短板
微软研究院推出 MindTopo 基准，用连续性、分离、顺序、包围、绳结五类拓扑任务评测多模态大模型的推理与规划能力。结果显示，模型在静态图像识别上明显强于交互式规划，且两者均远低于人类水平；失败多发生在规划阶段而非感知阶段，模型常在多步动作中丢失结构关系或提出违反物理约束的动作。图像与视频生成仅在单帧关系可见时偶有帮助，序列场景中仍不可靠。
Microsoft ResearchAI 评分3434 微软研究院发布 CARE-X：面向临床可用的放射学 VLM，结合辅助监督、奖励对齐学习与工具增强测量
微软研究院推出研究模型 CARE-X，一个统一胸片视觉语言模型，可同时输出自由文本推理与结构化预测，覆盖报告生成、病变定位、多标签分类及导管位置检测等任务。该模型采用强化学习（DAPO）在多任务设置下奖励临床正确性，并在 Narayana Health 的真实印度临床数据上验证，涵盖罕见 ICU 病理与 CT 确认的增大类病变。CARE-X 为研究模型，未经监管批准，不用于临床诊断。
Berkeley AI ResearchAI 评分3838 Berkeley AI Research 提出 ABBEL：用信念状态监督让 LLM 高效长程交互
Berkeley AI Research 提出 ABBEL 框架，将 LLM 的摘要内容隔离为自然语言"信念状态"并加以监督，以替代完整交互历史作为智能体工作上下文。在协作编程基准 CollabBench 上，采用重建式信念评分的 ABBEL-rec-BG 将相对全上下文模型的性能差距缩小约 50%，训练步数从 100 步降至 50 步，峰值 token 长度也低于全上下文设置。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 DiffusionGemma 实验模型，文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式并行生成整块文本，在专用 GPU 上推理速度最高提升 4 倍。
推荐理由：Gemma 4 家族新增文本扩散实验模型，读者可据此了解本地低并发推理的加速路径与质量取舍。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 Gemma 4 12B 无编码器多模态模型
Google DeepMind 发布 Gemma 4 12B，一款面向笔记本的本地多模态模型，采用无编码器统一架构，视觉和音频输入直接进入 LLM 主干。该模型在标准基准上接近 26B MoE 模型表现，内存占用不到其一半，可在 16GB 显存或统一内存的消费级笔记本上运行，并首次在中型模型中支持原生音频输入。
推荐理由：Gemma 4 12B 用无编码器架构把多模态能力压到 16GB 显存，读者可据此判断本地智能体部署的门槛变化。
Berkeley AI ResearchAI 评分3434 自适应并行推理：高效推理扩展的新范式
伯克利 AI 研究团队系统梳理了并行推理领域进展，重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。现有方法如 Self-consistency、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定，而非模型自主选择。
Berkeley AI ResearchAI 评分3434 GRASP：面向世界模型长时程规划的梯度规划器
伯克利 AI 研究团队提出梯度规划器 GRASP，通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代中直接注入随机性以探索、并重塑梯度让动作获得清晰信号，从而让基于学习动力学（世界模型）的长时程规划变得可行。该方法针对长时程 rollout 中梯度爆炸/消失、非贪婪结构导致的局部极小值以及高维视觉模型下脆弱的“状态-输入”梯度问题。
Berkeley AI ResearchAI 评分3636 Berkeley AI Research 提出 SPEX 与 ProxySPEX：大规模识别 LLM 关键交互
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法，用于在大规模场景下识别 LLM 的关键交互。SPEX 利用稀疏性与低阶性将交互搜索转化为稀疏恢复问题，ProxySPEX 进一步借助层次结构，以约少 10 倍的消融次数达到 SPEX 的性能。在情感分析任务上，SPEX 在上下文扩展至数千特征时仍保持高忠实度，优于 LIME、Banzhaf 等方法。