MIT 研究:Astra 直接改写 Qwen 权重,0.016% 参数让数学成绩提升近 6 倍
热点事件持续更新
MIT 研究:Astra 直接改写 Qwen 权重,0.016% 参数让数学成绩提升近 6 倍
1 篇报道1 个报道来源4 小时前更新
先了解这件事
事实说明
雷峰网报道,MIT CSAIL 尝试让 GPT-6 Astra 检查 Qwen3.5-0.8B 的内部权重,定位问题后直接修改参数。Astra 只改动约 0.016% 的权重,使 Qwen 的 MATH-500 成绩从 7.9% 提升到 48.1%。研究还显示,Astra 能仅凭权重识别 4 个同架构游戏网络分别学会的游戏,并在移除输入 Embedding 和输出层后,通过 Induction Head 等结构判断字符级 Transformer 的训练语言。研究者将这种能力称为 Weight-Space Programming,即权重空间编程。
最新进展11月4日 16:32
MIT 研究:Astra 直接改写 Qwen 权重,0.016% 参数让数学成绩提升近 6 倍报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- 雷峰网 · 人工智能精选MIT 研究:Astra 直接改写 Qwen 权重,0.016% 参数让数学成绩提升近 6 倍
雷峰网报道,MIT CSAIL 尝试让 GPT-6 Astra 检查 Qwen3.5-0.8B 的内部权重,定位问题后直接修改参数。Astra 只改动约 0.016% 的权重,使 Qwen 的 MATH-500 成绩从 7.9% 提升到 48.1%。研究还显示,Astra 能仅凭权重识别 4 个同架构游戏网络分别学会的游戏,并在移除输入 Embedding 和输出层后,通过 Induction Head 等结构判断字符级 Transformer 的训练语言。研究者将这种能力称为 Weight-Space Programming,即权重空间编程。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。