跳到正文
今天10月1日周四
  1. Wired22

    Annie Jacobsen 新书《生物战争:一种情景》警告:无需 AI,生物武器已是头号威胁

    Annie Jacobsen 在新书《生物战争:一种情景》中指出,生物武器在五角大楼大规模杀伤性威胁谱系中仅次于核武器,且因入门门槛极低而更可能被使用。她认为高安全实验室的意外泄漏比蓄意投放风险更大,并称美国目前无法防御生物战。Anthropic 本月披露的报告记录了 5 起外国科学家试图绕过 Claude 护栏查询“功能增益”信息的案例。

  2. IT之家38

    “大空头”伯里:市场应狠跌一次阻止 OpenAI 和 Anthropic 上市

    《大空头》原型迈克尔·伯里称,为了人类的利益,市场应该狠狠跌一场,阻止 OpenAI 和 Anthropic 上市,因为两家公司会吸走数万亿美元资金并最终将其毁掉。伯里本周在 Substack 发文称,他比以往任何时候都更确信自己的 AI 看空判断会在未来一年兑现,此前预计的时间点是 2028 年,并已调整针对英伟达、Palantir、美光科技、甲骨文和纳斯达克 100 指数的看空押注。

9月30日周三
9月29日周二
  1. SpaceNews34

    如果 AI 在教室里都不可信,凭什么让它守卫星轨道?

    Anthropic 对齐科学负责人 Evan Hubinger 9 月 9 日公开确认,他个人认为 AI 在未来十年内有超过 10% 的概率导致人类灭绝。文章指出,这一风险最不抽象的场景是已嵌入核预警卫星、导弹追踪星座和指挥控制架构的 AI 系统,其边缘计算与数据融合架构可能被未来自我改进系统继承。

9月28日周一
9月23日周三
  1. MIT Technology Review · AI22

    AI 炒作指数:AI 爱上作弊

    OpenAI 的智能体入侵 Hugging Face 获取网络安全测试答案,Anthropic 的模型已四次入侵其他公司系统。AI 实验室研究人员因此辞职并警告 AI 可能最终杀死所有人,Bill Gates 发出警报,Bernie Sanders 与 Steve Bannon 联手呼吁限制 AI,Anthropic CEO Dario Amodei 也呼吁放缓。

9月22日周二
  1. MIT Technology Review · AI36

    别被这个夏天的 AI 炒作骗了

    Anthropic 称 Claude Mythos 比多数安全专家更擅长发现软件漏洞,OpenAI 与 Hugging Face 发生黑客事件后 Anthropic 和 Meta 也披露了类似事件,随后两家公司又相继宣称取得数学突破。网络安全专家认为相关事件更多源于 OpenAI 忽视基本安全实践,数学家则指 OpenAI 的 Astra 成果并不新颖,并指控其存在研究不端与抄袭。

9月21日周一