跳到正文
Latent Space· Latent Space·· 15 天前AI 评分58

Goodfire 提出神经网络已足够清晰,Neel Nanda 等人提出质疑

[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment

AI 导读

Goodfire 的 Nick Cammarata 发布文章提出“神经网络已经足够清晰”,称许多著名的多义性与叠加案例其实是误读,用进一步的智能体分析即可拆解。他提到 2023 年在 OpenAI 的自动可解释性工作只找到约 2% 可读神经元。Neel Nanda 表示这未改变他的核心判断,仍认为存在表征叠加,Leo Gao 则主张用神经元模拟的 KL 指标来评判解释。

来源:Latent Space · latent.space