跳到正文
今天10月1日周四
  1. The Decoder78

    FTC 对 OpenAI、Anthropic 等 AI 实验室启动消费者保护调查

    美国联邦贸易委员会正就潜在的消费者保护违规问题调查 OpenAI、Anthropic 等头部 AI 实验室,主席 Andrew Ferguson 计划通过具有法律约束力的“民事调查令”强制调取文件并约谈高管,相关命令预计数周内发出。

    推荐理由:FTC 对多家 AI 实验室启动消费者保护调查,读者可了解监管从表态转向正式法律程序的时间线。

9月30日周三
9月28日周一
8月27日周四
  1. Google DeepMind58

    Google DeepMind 试点全球首个双盲 AI 评测

    Google DeepMind 宣布推出全球首个针对专有前沿级 AI 模型的双盲评测,将外部评测限制在密码学隔离环境中,避免模型提前接触测试题目。该试点与新加坡 AI 安全研究所、OpenMined、AVERI 和 MLCommons 合作,在隐私保护环境下用保密基准测试 Gemini Flash Lite,以提升评测可信度。

7月16日周四
6月16日周二
  1. Google DeepMind62

    Google DeepMind 发布 AI Control Roadmap,为智能体部署加装系统级安全层

    Google DeepMind 发布 AI Control Roadmap,提出在模型对齐之外增加系统级安全层,把内部智能体当作潜在未对齐对象来管理。该框架借鉴 MITRE ATT&CK 做 AI 威胁建模,用可信 AI 作为监督者审查智能体的推理与行动,并以覆盖率、召回率和响应时间三项指标衡量监控效果。

    推荐理由:Google DeepMind 公开内部 AI Control 路线图,给出威胁建模、监控指标与分级响应框架,可了解大厂如何为智能体部署加一层系统级安全。

6月10日周三