Anthropic: Transformer Circuits（资讯）
40
推荐理由：对于从事 AI 可解释性研究的开发者，这些更新提供了评估模型内部机制的新工具，值得关注并尝试应用到自己的工作中。
全部 AI 动态
AI 相关资讯全量信息流
5月13日
21:35
Transformer Circuits 团队发布了 2024 年 8 月的更新，包含一系列小型进展。主要更新包括：可解释性评估（interpretability evals）的初步框架，用于衡量模型内部机制的可解释性；以及自解释（self-explanation）机制的复现工作，探索模型如何解释自身行为。这些工作为理解大型语言模型的内部运作提供了新工具和方法，有助于推动 AI 安全与可解释性研究。