如果 AI 在教室里都不可信，凭什么让它守卫星轨道？

Anthropic 对齐科学负责人 Evan Hubinger 9 月 9 日公开确认，他个人认为 AI 在未来十年内有超过 10% 的概率导致人类灭绝。文章指出，这一风险最不抽象的场景是已嵌入核预警卫星、导弹追踪星座和指挥控制架构的 AI 系统，其边缘计算与数据融合架构可能被未来自我改进系统继承。