vLLM 的 transformers 建模后端实现原生速度
Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 LLM 架构上已达到或超过 vLLM 手写原生实现的吞吐。在 Qwen3-4B 单卡、Qwen3-32B 张量并行、Qwen3-235B-A22B-FP8 MoE 数据加专家并行三种配置下，该后端均追平或超越原生吞吐。
推荐理由：原文给出 transformers 后端在 vLLM 中追平原生实现的具体架构与并行配置，读者可据此判断迁移成本。
部署工程
全部主题把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
最新精选
第 21–40 条 · 共 44 条Hugging Face Blog精选AI 评分6262
Hugging Face Blog精选AI 评分6262 微软在 Foundry Managed Compute 上线 Hugging Face 模型集合
微软在 Build 2026 宣布 Foundry Managed Compute 与 Hugging Face 模型集合，提供每周刷新的开源权重模型目录，可一键部署到托管 GPU 平台。
推荐理由：原文给出模型目录、运行时与一键部署路径，读者可据此判断开源模型在企业侧的上手成本。
Hugging Face Blog精选AI 评分6262 Hugging Face 与 SkyPilot 打通零出网存储，可在任意云挂载 Hub 数据
Hugging Face 与 SkyPilot 联合推出 store: hf 存储后端，用一条 hf:// URL 和现有 HF_TOKEN 即可把 Hugging Face Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务，并在 20 多家云、Kubernetes、Slurm 和本地集群上运行。
推荐理由：原文给出跨云挂载 Hub 数据的具体配置与实测吞吐，读者可据此判断能否省下跨云读取成本。
Google Research精选AI 评分6767 Google 发布 TabFM：面向表格数据的零样本基础模型
Google 发布 TabFM，一个面向表格数据分类与回归的零样本基础模型，把表格预测重构为上下文学习问题，无需手动训练、超参数调优和特征工程，单次前向传播即可对未见过的表格生成预测。
推荐理由：原文给出 TabFM 的架构设计与 TabArena 基准结果，读者可据此判断零样本表格预测能否替代传统树模型流程。
Google Research精选AI 评分6060 Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano
Google Research 发布新架构，把多 Token 预测（MTP）头接到已冻结的 Gemini Nano v3 上，在 Pixel 9 和 10 系列上实现开箱即用的推理加速。
推荐理由：Google 把 MTP 头接到冻结的 Gemini Nano v3 上，给出端侧推理提速与省内存的具体做法，可看移动端部署思路。
Mistral AI精选AI 评分6262 Mistral 发布 OCR 4，支持边界框、块分类与置信度分数
Mistral 发布 OCR 4，在提取文本之外返回边界框、块类型分类和逐页逐词置信度分数，支持 170 种语言并可在单个容器中自托管部署。该模型在 OlmOCRBench 上取得 85.20 分，独立标注者在 600 多份文档的盲评中平均 72% 更偏好其输出。
推荐理由：OCR 4 在文本之外返回边界框、块分类与置信度，读者可据此判断它如何改变 RAG 与智能体的文档处理流程。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 DiffusionGemma 实验模型，文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式并行生成整块文本，在专用 GPU 上推理速度最高提升 4 倍。
推荐理由：Gemma 4 家族新增文本扩散实验模型，读者可据此了解本地低并发推理的加速路径与质量取舍。
Mistral AI精选AI 评分6969 Mistral 发布工业工程 AI 栈与 Vibe 智能体，并宣布法国 10 MW 数据中心
Mistral 在 AI Now Summit 2026 上发布面向工业工程的 AI 栈，与 Airbus、BMW、ASML 合作优化设计、仿真与生产，并强调对专有数据和 IP 的完全控制。
推荐理由：Mistral 一次性公布工业 AI 栈、Vibe 智能体与自建数据中心，可据此判断其企业级全栈布局。
Mistral AI精选AI 评分8080 Mistral 将 Le Chat 升级为统一智能体 Vibe，推出 Work Mode 与 Code Mode
Mistral 将 Le Chat 升级为统一 AI 智能体 Vibe，覆盖工作与编码两类场景，原有对话、设置和套餐自动迁移。
推荐理由：Mistral 把 Le Chat 升级为统一智能体 Vibe，读者可了解其工作与编码两种模式的能力边界和定价。
Mistral AI精选AI 评分7171 Mistral AI 发布开源 Search Toolkit 公开预览版
Mistral AI 发布 Search Toolkit 公开预览版，这是一个用于构建 AI 应用生产级搜索管线的可组合框架，将摄取、检索和评测统一到共享接口下，开源并支持云端、本地和边缘部署。
推荐理由：Mistral 把检索管线的摄取、检索与评测收进同一框架，读者可据此判断自建 RAG 的集成成本会如何变化。
Mistral AI精选AI 评分6262 Mistral 推出物理 AI，将 Emmi AI 并入企业平台
Mistral 宣布将 Emmi AI 并入公司，推出面向工业工程的物理 AI 能力，作为其企业平台的一部分。该能力从几何与边界条件直接预测物理场，单次前向推理在单张 GPU 上以秒级完成，用于加速产品设计、工装工艺设计和实时数字孪生，合作方包括 ASML、Airbus、Safran 和 Siemens Energy。
推荐理由：Mistral 把物理仿真模型并入企业平台，读者可了解其能力边界与工业落地场景。
Mistral AI精选AI 评分6262 Mistral 在 Studio 发布 Connectors，内置与自定义 MCP 均可通过 API 调用
Mistral 在 Studio 发布 Connectors，所有内置连接器和自定义 MCP 现可通过 API/SDK 用于全部模型与 Agent 调用，并支持直接工具调用与 human-in-the-loop 审批流程。
推荐理由：Mistral 把 MCP 连接器做成平台内置能力，读者可据此判断企业级 Agent 集成层会如何被收拢。
Mistral AI精选AI 评分7171 Mistral AI 发布 Workflows 公开预览，为企业 AI 提供编排层
Mistral AI 发布 Workflows 公开预览，定位为企业 AI 的编排层，提供持久执行、可观测性和容错能力，把 AI 流程从概念验证推进到生产环境。
推荐理由：Mistral 把企业级 AI 编排的持久执行、可观测与人工审批打包进 Studio，读者可据此判断生产化落地的门槛变化。
Google DeepMind精选AI 评分6262 Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构
Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构，将训练拆分为异步通信的计算孤岛，降低带宽需求并隔离硬件故障。测试中该系统在整块 learner unit 掉线后仍能继续训练并重新接入，用 Gemma 4 模型达到与传统训练相当的基准性能。
推荐理由：原文给出跨数据中心异步训练在带宽、容错与混合硬件上的实测结果，可据此判断分布式预训练的工程取舍。
Google Research精选AI 评分6262 Google 发布 TurboQuant 等三种向量量化算法，将 KV cache 压缩至 3 bit
Google 发布 TurboQuant 压缩算法，并配套提出 QJL 与 PolarQuant，用于解决向量量化中的内存开销问题。
推荐理由：Google 提出 TurboQuant 等三种向量量化算法，可在不损失精度下把 KV cache 压到 3 bit，读者可了解其原理与实测结果。
Mistral AI精选AI 评分6767 Mistral AI 推出 Forge，让企业用自有知识训练前沿模型
Mistral AI 发布 Forge，一套让企业基于自有专有知识构建前沿级 AI 模型的系统，支持预训练、后训练和强化学习等阶段。Forge 同时支持 dense 和 MoE 架构，并可按需支持多模态输入，模型可在企业内部基础设施中训练与治理。官方称已与 ASML、Ericsson、欧洲空间局等机构合作，并支持 Mistral Vibe 等智能体用自然语言完成微调、调参与合成数据生成。
推荐理由：Mistral 官方披露 Forge 的训练流程与架构支持，可据此判断企业自建前沿模型的门槛与路径。
Mistral AI精选AI 评分6666 Mistral 发布 OCR 3 文档解析模型
Mistral 发布 Mistral OCR 3，在表单、扫描件、复杂表格和手写内容上相对 Mistral OCR 2 取得 74% 的整体胜率，并称其准确率超过企业文档处理方案和 AI 原生 OCR 方案。
推荐理由：Mistral OCR 3 在表单、手写和复杂表格上的升级与每千页 2 美元定价，可供评估文档解析方案时参考。
Mistral AI精选AI 评分6262 Mistral 发布 AI Studio 生产级 AI 平台
Mistral 发布 AI Studio，一个面向企业团队的生产级 AI 平台，由 Observability、Agent Runtime 和 AI Registry 三大支柱组成。
推荐理由：Mistral 把内部大规模系统的可观测、执行与治理能力打包成企业平台，可据此判断生产级 AI 工作流的落地路径。
Mistral AI精选AI 评分6262 Mistral 为 Le Chat 上线 20+ MCP 连接器与 Memories 记忆功能
Mistral 在 Le Chat 中发布 20 多个基于 MCP 的安全连接器（beta），覆盖数据、生产力、开发、自动化与商务等类别，支持 Databricks、Snowflake、GitHub、Atlassian、Asana、Outlook、Box、Stripe、Zapier 等工具，并允许接入任意远程 MCP 服务器或自定义连接器。
推荐理由：原文列出 20 多个 MCP 连接器的覆盖范围与部署方式，可据此判断企业工具接入 AI 助手的具体路径。
Mistral AI精选AI 评分6262 Mistral 发布 Codestral 25.08 及企业级编码栈
Mistral AI 发布 Codestral 25.08，并推出覆盖补全、语义检索与智能体工作流的企业级编码栈。官方称 Codestral 25.08 相比前代接受补全量提升 30%、建议后保留代码增加 10%、失控生成减少 50%，chat 模式下指令遵循与代码能力各提升 5%。
推荐理由：原文给出 Codestral 25.08 的补全提升数据与 Devstral 在 SWE-Bench Verified 上的成绩，可据此判断企业自部署编码方案的能力边界。