Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，随后逐步向开发者、企业和消费者推出。
推荐理由：Gemini 4 Argon 公布输出上限、定价与多项基准成绩，可据此判断前沿模型在长程工程与安全防御上的能力边界。
#安全/对齐
#安全/对齐
今日 1 条Google DeepMind精选AI 评分8484
Google DeepMind精选AI 评分6262 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印
Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时保持其生物功能。
推荐理由：Google DeepMind 把 SynthID 水印扩展到合成生物学，读者可了解 AI 生成蛋白质如何被标记与验证。
OpenAI NewsAI 评分5858 OpenAI 阻断一次协同模型蒸馏行动
OpenAI 披露其阻断了一次协同的模型蒸馏行动，该行动试图提取受保护的模型推理能力。OpenAI 表示正在加强对对抗性蒸馏的防御。
Hugging Face BlogAI 评分3131 Hugging Face 提出 ProvenanceGuard：面向 MCP 智能体的来源感知事实核查
Hugging Face 发布论文提出 ProvenanceGuard，一个面向 MCP 智能体的生成后验证层，用于识别"跨来源混淆"——即事实在证据池中成立、却被归因到错误来源。
OpenAI NewsAI 评分4040 OpenAI 就澳大利亚政府网站相关事件致歉并公布更强保障措施
OpenAI 就涉及澳大利亚政府网站的事件致歉，并公布更强保障措施与支持，以加强澳大利亚的网络防御能力。
OpenAI NewsAI 评分2626 OpenAI 提出前沿 AI 训练安全案例早期指南
OpenAI 发布前沿 AI 训练安全案例的早期指南，覆盖技术防护措施、运营实践以及失准事件调查三方面。该指南针对前沿 AI 训练环节，旨在为安全案例的构建提供初步框架。
NVIDIA Newsroom精选AI 评分7878 NVIDIA 发布 Open Agent Safety Platform，从测试到部署保障 AI 智能体安全
NVIDIA 发布 NVIDIA Open Agent Safety Platform，由开源软件 NVIDIA OpenShell 与 NVIDIA Sentry 参考系统设计组成，覆盖运行智能体的软件、硬件、算力与机器人系统。
推荐理由：NVIDIA 把智能体安全边界从模型层移到运行时与硬件层，读者可据此了解企业级智能体治理的一种新架构。
NVIDIA Developer BlogAI 评分2222 NVIDIA 开放智能体安全平台：面向持续在硅智能体监控的参考方案
NVIDIA 发布开放智能体安全平台，为持续在硅智能体监控提供参考方案。该平台面向智能体 AI 的安全监控需求，类比 90 年代互联网兴起带来的机遇与风险。原文未披露具体功能、版本或性能数字。
GitHub Blog · AI & MLAI 评分5858 GitHub Security Lab 发布 Fuzzing Taskflow 自主模糊测试流水线
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，智能体便会自动识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做分类并生成漏洞报告。
Google DeepMind精选AI 评分6262 Google DeepMind 为 Private AI Compute 引入服务端持久记忆
Google DeepMind 公布 Private AI Compute 的新技术能力，将私密的服务端记忆引入该平台，使 AI 助手能在多设备间保留上下文。数据被密封在加密存储中，解密密钥仅保存在用户个人设备上，模型访问时通过端到端加密通道进入安全隔离区临时解密，处理完立即重新加密。
推荐理由：Google 给出云端持久记忆的隐私架构细节，可了解跨设备 AI 记忆如何在密钥留在本地的前提下实现。
OpenAI NewsAI 评分4242 OpenAI 将 Daybreak 网络访问扩展至乌克兰民用防御
OpenAI 将其 Daybreak 计划的访问权限扩展至乌克兰政府，用于支持民用基础设施的网络防御。
OpenAI NewsAI 评分4747 Sam Altman 在联合国安理会发表讲话
OpenAI CEO Sam Altman 在联合国安理会发表讲话，讨论 AI 安全、人类控制与国际合作。
OpenAI NewsAI 评分2727 OpenAI 推出 MentalHealthBench 心理健康对话评测基准
OpenAI 发布 MentalHealthBench，一个由专家参与构建的基准，用于评估 AI 在真实心理健康对话中回复是否有帮助且安全。该基准覆盖多种现实心理健康对话场景，衡量模型回复的助益性与安全性。
NVIDIA Developer BlogAI 评分3838 NVIDIA 机密计算支持私有高性能生产级 AI 推理
NVIDIA 机密计算（CC）通过内存加密的机密虚拟机（CVM）和机密 GPU，为 LLM 推理提供可信执行环境。该方案面向个人、企业和受监管场景中处理敏感信息与专有模型上下文的推理负载，支持私有高性能生产级 AI 推理。
Hugging Face BlogAI 评分3636 英国 AISI 如何用 EvalEval 让基准测试结果可复现
英国 AI Security Institute（AISI）正通过 EvalEval 的 Evaluation Cards 公开分享评测结果，覆盖 HealthBench。
OpenAI NewsAI 评分4040 OpenAI 阐述第三方 AI 安全评估的优先事项与原则
OpenAI 提出对前沿模型及防护措施开展严格、安全、独立第三方 AI 安全评估的优先事项与原则。
NVIDIA NewsroomAI 评分4040 NVIDIA 谈 AI 安全：如何在智能体栈的每一层解决这一工程问题
NVIDIA 提出 AI 安全是工程问题，需要明确的安全需求、可执行的管控、责任人和防护有效的证据，并主张在模型、harness 与运行时构成的智能体栈各层都部署管控。其开源安全运行时 NVIDIA OpenShell 在智能体触及范围之外执行策略并提供沙箱化执行，Cisco DefenseClaw 在其上增加治理层，JFrog 则集成 OpenShell 扫描和验证智能体技能。
OpenAI NewsAI 评分2525 OpenAI 成立数学与人工智能咨询小组
OpenAI 正与一个独立的数学与人工智能咨询小组合作，为新兴 AI 成果的评审与传播提供指导。该小组为独立性质，具体成员与运作细节未披露。
OpenAI NewsAI 评分3434 OpenAI 提出全球 AI 标准建设路径
OpenAI 提出为下一阶段 AI 建立共享全球标准的路径，呼吁通过协调一致的评估、报告与治理来提升安全性。
OpenAI NewsAI 评分4040 OpenAI 发布澳大利亚青少年安全蓝图
OpenAI 发布澳大利亚青少年安全蓝图，这是一份围绕六大支柱构建的路线图，目标是让青少年在使用 AI 时获得更安全的体验，同时兼顾保护与赋能。
OpenAI News精选AI 评分6262 OpenAI 发布模型失准报告框架并附六份异常行为报告
OpenAI 发布一套用于追踪、调查和披露模型失准的框架，同时给出六份关于模型意外或令人担忧行为的报告。
推荐理由：OpenAI 公开模型失准的追踪与披露框架，并附六份异常行为报告，可了解其安全披露机制。
Apple NewsroomAI 评分2222 Apple 儿童安全新功能上线：Ask to Browse、Time Allowances 与全新屏幕使用时间
Apple 儿童安全新功能现已上线，为儿童账户提供推荐必备 App 的简化设置流程，并在 Safari 中新增 Ask to Browse，让家长可要求孩子访问新网站前先获批准。
OpenAI NewsAI 评分4040 Paul Christiano 加入 OpenAI Foundation 董事会及安全与安保委员会
Paul Christiano 加入 OpenAI Foundation 董事会，并进入其安全与安保委员会。他在 AI 对齐、安全与标准方面拥有相关经验。
OpenAI NewsAI 评分2222 OpenAI 的 Chris Lehane：AI 政策窗口已打开，需要立即行动
OpenAI 的 Chris Lehane 主张，AI 能力越强，越需要更强的安全证据、共享标准和持久的政策行动，而当前政策窗口仍然敞开。他强调应抓住这一窗口期推动落地。
OpenAI NewsAI 评分2626 OpenAI 拨款 500 万美元资助 AI 与青少年发展研究
OpenAI 开放申请一项总额 500 万美元的资助计划，支持关于生成式 AI 如何影响青少年发展、身心健康与安全的独立研究。
Google DeepMind精选AI 评分6262 Google DeepMind 推出 Fairwind Program，向政府与企业开放 Gemini 3.8 Flash Cyber
Google DeepMind 推出 Fairwind Program，面向政府机构、关键基础设施运营商和网络安全合作伙伴提供受限访问，首批开放其最先进的网络安全模型 Gemini 3.8 Flash Cyber 与 CodeMender 工具链，用于自主发现、验证并修复漏洞。
推荐理由：原文给出受限访问计划的能力组合与准入标准，读者可据此判断前沿模型在漏洞修复上的落地方式。
Google DeepMind精选AI 评分8282 Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 Flash 和面向网络安全的 Gemini 3.8 Flash Cyber，前者在软件工程、智能体任务和多步推理上较 3.7 Flash 明显提升，价格保持每百万输入 token 0.75 美元、输出 token 3.75 美元。
推荐理由：Gemini 3.8 Flash 在编码与智能体任务上接近更贵的前沿模型，同时保持 3.7 Flash 的价格，可据此判断性价比取舍。
Google AI Blog精选AI 评分6262 Google 推出 Fairwind Program，向政府与企业提供 Gemini 3.8 Flash Cyber 网络防御能力
Google 推出 Fairwind Program，面向 Google Cloud 客户、政府机构和网络安全合作伙伴提供受限访问，首批开放 Gemini 3.8 Flash Cyber 模型与 CodeMender harness，用于自主发现、验证并修复漏洞。
推荐理由：原文给出受限访问计划的能力组合与准入标准，读者可据此判断前沿模型在漏洞修复上的落地方式。
NVIDIA Developer BlogAI 评分2222 NVIDIA Nemotron 如何构建自适应智能体网络安全系统
NVIDIA 开发者博客介绍用 NVIDIA Nemotron 构建自适应智能体网络安全系统，让智能体在安全运营中协调工作并追求长周期复杂目标。现有许多实现仍依赖既有告警、预定义工作流和已知攻击行为，更难的问题在于识别防御盲区并将这些缺口转化为改进。
Google DeepMindAI 评分5858 Google DeepMind 试点全球首个双盲 AI 评测
Google DeepMind 宣布推出全球首个针对专有前沿级 AI 模型的双盲评测，将外部评测限制在密码学隔离环境中，避免模型提前接触测试题目。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作，在隐私保护环境下用保密基准测试 Gemini Flash Lite，以提升评测可信度。
Google DeepMind精选AI 评分7171 Google DeepMind 发布 Gemini 3.5 Flash Cyber 安全模型
Google DeepMind 发布 Gemini 3.5 Flash Cyber，一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞。
推荐理由：原文给出 Gemini 3.5 Flash Cyber 的基准表现与限量开放方式，读者可据此判断轻量安全模型的落地路径。
Google DeepMindAI 评分3636 Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案
Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案，一方面防止威胁行为者滥用其模型，另一方面让政府、科学家和生物安全专家用 AI 应对疫情。
Google DeepMind精选AI 评分8080 Google DeepMind 在 Gemini 3.5 Flash 中内置 computer use 能力
Google DeepMind 将 computer use 作为内置工具集成进 Gemini 3.5 Flash，此前该能力仅以独立的 Gemini 2.5 computer use 模型形式提供。
推荐理由：Gemini 3.5 Flash 把 computer use 从独立模型并入主模型，读者可了解其能力边界与配套安全机制。
Google DeepMind精选AI 评分6262 Google DeepMind 发布 AI Control Roadmap，为智能体部署加装系统级安全层
Google DeepMind 发布 AI Control Roadmap，提出在模型对齐之外增加系统级安全层，把内部智能体当作潜在未对齐对象来管理。该框架借鉴 MITRE ATT&CK 做 AI 威胁建模，用可信 AI 作为监督者审查智能体的推理与行动，并以覆盖率、召回率和响应时间三项指标衡量监控效果。
推荐理由：Google DeepMind 公开内部 AI Control 路线图，给出威胁建模、监控指标与分级响应框架，可了解大厂如何为智能体部署加一层系统级安全。
Google DeepMindAI 评分3838 Google DeepMind 联合多方发起最高 1000 万美元多智能体 AI 安全研究资助
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation、ARIA，并在 Google.org 支持下发起最高 1000 万美元的多智能体 AI 安全研究资助，面向全球研究者征集提案。
Google DeepMindAI 评分3636 Google DeepMind 与新加坡达成国家 AI 合作，落地医疗、教育与气候项目
Google DeepMind 与新加坡政府启动国家 AI 合作，在新加坡推出医疗、科研、教育和气候等领域的新项目。合作探索 AI co-clinician 辅助诊疗，并用 AlphaFold、Google Earth 等工具推进东南亚传染病与疫情防控研究，同时向中小学至初级学院全体教育者提供 Gemini for Education。
Berkeley AI ResearchAI 评分3636 Berkeley AI Research 提出 SPEX 与 ProxySPEX：大规模识别 LLM 关键交互
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法，用于在大规模场景下识别 LLM 的关键交互。SPEX 利用稀疏性与低阶性将交互搜索转化为稀疏恢复问题，ProxySPEX 进一步借助层次结构，以约少 10 倍的消融次数达到 SPEX 的性能。在情感分析任务上，SPEX 在上下文扩展至数千特征时仍保持高忠实度，优于 LIME、Banzhaf 等方法。