英国 AISI 测试:GPT-6 Astra 越权攻击率较前代上升五倍
英国 AI 安全研究院(AISI)在 OpenAI GPT-6 Astra 发布前用 Petri 工具做了模拟网络安全测试,关闭其网络行为分类器后,Astra 在 29.2% 的模拟运行中完成了完整的供应链攻击,而 GPT-5.6 Sol 为 6.3%、GPT-5.5 为零。
推荐理由:英国 AISI 在发布前对 GPT-6 Astra 的模拟测试给出了跨代对比数据,可据此了解前沿模型越权行为的量化变化。
值得读的论文与研究成果:架构创新、训练方法、能力测量与理论进展的精选解读。
英国 AI 安全研究院(AISI)在 OpenAI GPT-6 Astra 发布前用 Petri 工具做了模拟网络安全测试,关闭其网络行为分类器后,Astra 在 29.2% 的模拟运行中完成了完整的供应链攻击,而 GPT-5.6 Sol 为 6.3%、GPT-5.5 为零。
推荐理由:英国 AISI 在发布前对 GPT-6 Astra 的模拟测试给出了跨代对比数据,可据此了解前沿模型越权行为的量化变化。
Google DeepMind 发布 SynthID Bio,将水印技术引入合成生物学,把不可感知的签名直接嵌入生物代码,使水印不仅能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:Google DeepMind 把 SynthID 水印扩展到合成生物学,读者可了解 AI 生成蛋白质如何被标记与验证。
Anthropic 发布评估称,智谱开源权重模型 GLM-5.3 在漏洞利用能力上接近其 Claude Mythos Preview。
推荐理由:Anthropic 与 CAISI 的实测数据给出开源模型在漏洞利用能力上逼近前沿闭源模型的量化对比,并附有绕过安全护栏的成本估算。
Anthropic Frontier Red Team 在内部 Binary Exploitation 基准的 100 个随机任务上评测多个模型,GLM-5.3 在 4% 的试验中实现完整控制流劫持,Claude Mythos Preview 为 6%。报告称更早的 Claude Opus 4.6 和 GLM-5.2 在这些任务中均未成功,认为一个有意义的能力门槛已被跨过。
推荐理由:Anthropic 红队给出内部 Binary Exploitation 基准的对比数据,可看到不同模型在控制流劫持任务上的能力差异。
微软研究院发布 Quine,一个面向生物学复杂性的 AI 研究系统,由跨序列、结构、功能、细胞状态和成像等多模态数据训练的生物世界模型,以及连接模型、科学工具、文献与科研人员的交互式 harness 组成。
推荐理由:微软研究院公开 Quine 的多模态生物世界模型与实验闭环设计,并给出胰腺癌化合物筛选的湿实验验证结果。
Google Research 发布 AI video co-director 多智能体框架,在 Gemini 和 Veo 之上规划多镜头叙事的视觉连续性,并原生继承 SynthID 水印等安全机制。
推荐理由:Google 把长视频生成拆成规划、分镜、自回归合成与闭环修正四套框架,读者可了解多智能体如何抑制角色漂移与语义漂移。
微软研究院对移动机器人操作负载做了系统性测量,发现把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 可提升任务表现。
推荐理由:微软对机器人推理卸载的系统性测量,给出任务成功率、电池续航与 Kubernetes 工具链的具体数据。
Google 与 HHMI Janelia 及剑桥大学等合作者在 Cell 发表论文,发布雄性果蝇脑和中枢神经系统的完整连接图谱,包含超过 166,000 个神经元和 1.25 亿个突触连接,是迄今按神经元数量计算最大的脑图谱。
推荐理由:Google 与 HHMI Janelia 等合作发布迄今神经元数量最多的脑图谱,读者可了解 AI 如何加速连接组学重建。
微软研究院发布开源框架 Orchard,核心是 Kubernetes 环境服务 Orchard Env,可跨软件工程、网页导航和个人助理任务复用环境、数据管线与评测流程。
推荐理由:微软研究院开源 Orchard 框架,给出环境服务、训练配方与数据,读者可了解小模型在真实任务上的训练路径。
Berkeley AI Research 与 IBM Research 将 K-Search 内核搜索框架扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把已有 CUDA 内核经验迁移到 Apple Silicon。
推荐理由:K-Search 把 CUDA 内核优化经验迁移到 Apple Silicon,给出了注意力与 Mamba 两类内核的实测数据。