一键安装此插件:
42plugin install ndif-team/skills/attribution-patching
利用梯度近似激活补丁,通过两次前向和一次反向传播高效生成全层、位置及注意力头的归因热力图,适用于大规模模型筛选与电路发现。
从属套包
ndif-team/kit/skills