AI 新闻日报 · 2026-05-09

今日要点

• Anthropic 训练 Claude 解释行为动因
• AI 正撕裂两种漏洞披露文化
• Mozilla:AI 工具挖出 271 漏洞几无误报
• SpaceX 拟投 550 亿在德州造 AI 芯片
• ChatGPT 上线"可信联系人"安全功能

详细

1. Anthropic:教 Claude 解释自己的"为什么" (Anthropic Research)

Anthropic 发布一项可解释性研究,训练 Claude 在回答时同时输出其内部决策依据,而非事后生成合理化叙述。团队用激活层探针验证模型自述与真实计算路径的一致性,目的是减少"幻觉式自解释"。对开发者而言,这类工作有望让行为调试和对齐审计更可落地。阅读原文

2. AI 正在打破两种漏洞披露文化 (jefftk.com)

作者指出,AI 驱动的自动化漏洞挖掘让"负责任披露"和"全公开"两套传统机制都面临崩塌:前者被海量低质量报告淹没,后者则可能被批量武器化。文章讨论了维护者过滤噪音、厂商调整 bounty 规则的现实压力。对安全从业者是近期必须面对的流程问题。阅读原文

3. Mozilla:Mythos 发现的 271 个漏洞"几乎零误报" (Ars Technica)

Mozilla 表示已"完全押注"AI 辅助漏洞发现,其使用的 Mythos 工具在 Firefox 代码库中找出 271 个有效漏洞,误报率极低。与上一条形成对照:在成熟工程流程内使用的 AI 扫描器正在产出高质量结果,而非泛滥的垃圾报告。这对做代码安全工具链的团队有直接参考价值。阅读原文

4. SpaceX 计划 550 亿美元在德州建 AI 芯片厂 (The Verge)

SpaceX 在奥斯汀附近 Grimes 的公开听证文件显示,其 "Terafab" 芯片工厂投资至少 550 亿美元,目标是自研 AI 芯片。这是马斯克把 xAI、Tesla、SpaceX 的算力需求垂直整合的新一步,也意味着又一个不依赖台积电/英特尔代工的大规模 AI 芯片玩家进场。阅读原文

5. ChatGPT 推出"可信联系人"安全机制 (The Verge)

OpenAI 为 ChatGPT 上线可选功能:成年用户可指定亲友为"Trusted Contact",当系统检测到自残或自杀相关话题时会通知对方。这是在多起 AI 陪伴相关悲剧与监管压力下的产品级响应,也为其他聊天类产品提供了一个可能成为行业基线的安全设计范式。阅读原文

一句话总结

今天行业主题是 AI 对工程与安全流程的"双向冲击":它既在放大漏洞披露的噪音,也在真实减少代码里的漏洞。