AI“软件进化”远超硬件！别傻等新芯片了！

来源：探索AGI

嘿，大家好！这里是一个专注于前沿AI和智能体的频道~

今天给大家分享一篇来自forethought的深度研究报告，内容是关于 “软件智能爆炸”（Software Intelligence Explosion, SIE）。

SIE简单来说，就是AI通过改进自身的“软件”（算法、架构、训练方法等），可能会触发一个自我加速的正反馈循环，在现有硬件基础上实现能力的超高速增长~

虽然，这听起来比较科幻？但是我们可以扒一扒这个，还挺有意思的。

AI进步的两条腿：硬件与软件

通常我们理解AI进步，主要靠两条腿走路：

• 硬件升级：更强的算力，比如更牛的GPU芯片，能训练更大更强的模型。就像盖楼，地基（硬件）越牢固，楼（模型）就能盖得越高。

• 软件优化：更好的算法、模型架构、训练数据、训练方法等等。就像改进建筑技术，用同样的砖瓦也能盖出更精巧、更实用的房子。

过去，大家的目光可能更多聚焦在硬件的突飞猛进上，比如芯片性能翻了多少倍。但这份报告强调，软件层面的进步，可能比我们想象的要快得多，而且潜力巨大！

以大模型为例，近些年的数据显示，达到同样效果所需的训练效率（可以理解为软件优化的成果），大约每6个月就能翻一倍！这还没完全算上像提示工程（Prompting）、微调（Fine-tuning）、AI Agent外部工具调用（Scaffolding）这些“后期调优”带来的巨大提升。

什么是ASARA？引爆SIE的关键扳机

要理解SIE，首先得认识一个新的概念：ASARA(AI Systems for AI R&D Automation)。

完全自动化AI研发所有任务的AI系统。

也就是，不仅能写代码、跑实验，还能提出新想法、设计新架构、验证新算法，最后独立完成从构思到部署的全过程。

一旦ASARA出现，会发生什么？

报告认为，这可能会触发一个惊人的正反馈循环：

1. 第一代ASARA被创造出来。

2. 利用现有硬件，可以运行海量（可能是百万甚至千万级别）的ASARA副本，远超现在全球顶尖AI研究员的数量。

3. 这些ASARA开始疯狂地进行AI软件研发，速度远超人类。

4. 它们研发出更先进的AI软件，从而创造出更强大的第二代ASARA。

5. 更强的ASARA进行研发的效率和能力更高，进一步加速AI软件的进步...

这个循环一旦启动，AI软件的进步速度可能会越来越快，就像滚雪球一样，最终导致能力的“爆炸式”增长——这就是所谓的“软件智能爆炸”（SIE）。

SIE会不会发生？关键看一个“r”值

看到这里了，肯定有问题了：AI研发不是越来越难吗？低垂的果实都被摘完了，后面的突破肯定需要更多努力吧？

这也是阻止SIE发生的关键阻力——研发收益递减。

但需要注意的是，进行研发的“劳动力”——ASARA本身，也在变得越来越强！

那么，到底是“研发难度增加”跑得快，还是“AI能力增强”跑得快呢？

Forethought用了一个简单的经济学模型和一个关键变量r（可以理解为“软件研发回报率”）来描述这个竞争：

• r = 1：AI能力增强的速度，正好抵消了研发难度增加的速度。AI软件会保持稳定的指数级增长（比如，每过X个月能力翻倍）。

• r < 1：研发难度增加太快，AI能力跟不上。进步会越来越慢，最终“熄火”（Fizzle）。

• r > 1：AI能力增强的速度，超过了研发难度增加的速度！这意味着每次能力翻倍所需的时间会越来越短，AI进步不断加速，最终导致软件智能爆炸（SIE）！

那么，现实世界中，这个r值到底是多少呢？

来自与 AI 相关的各个领域的 r r 估计的总结

通过分析历史数据（比如计算机视觉、LLM等领域软件效率的提升速度，以及投入的研究人力增长速度）得出一个初步结论：目前 AI 软件的r值，很有可能大于 1！（报告中给出的计算机视觉领域的中位数估计是1.4，LLM可能更高，当然也承认存在较大不确定性）。

这意味着，触发SIE的条件，可能已经具备了！

SIE意味着什么？挑战与潜在瓶颈

如果SIE真的发生，那有意味着什么呢？

• 极速的能力飞跃：可能在ASARA出现后的几个月甚至更短时间内，AI的能力就能在现有硬件基础上实现成百上千倍的提升，远超人类水平。

• 硬件不再是绝对瓶颈：即使芯片制造速度跟不上，AI也能通过软件自我优化变得极其强大。

• 社会适应挑战：如此快速的技术变革，可能远超社会、政策、伦理的适应速度，带来巨大风险和治理难题。

阻碍或减缓SIE的两大潜在瓶颈：

• 固定的计算资源限制实验规模：AI研发需要大量实验，硬件不增长，实验总通量是有限的。

• • 但也可能被绕过：ASARA也许能设计更聪明的“小”实验来推断“大”结果；或者通过更好的理论指导减少对大规模实验的依赖；甚至可能催生出不那么依赖计算实验的新AI范式（比如回归GOFAI？）。

• 训练时长瓶颈：训练一个强大的AI模型需要数月时间，这会拖慢迭代速度。

• • 但也可能被绕过：软件优化同样可以大幅缩短训练时间；或者未来的进步更多来自微调、模型编辑、Agent架构等“轻量级”改进，而非从头预训练；强大的ASARA可能会找到完全不需要漫长训练的新方法。

总的来说，这些瓶颈可能会延缓SIE的到来，但未必能完全阻止它。

最后

Forethought的这份报告不是在贩卖焦虑，而是基于现有数据和趋势进行的一次严肃推演。

SIE并非科幻小说的情节，而是未来几年或十几年内一个值得高度关注的、真实的可能性。

不要只盯着硬件参数，算法、架构、数据、训练方法的创新可能带来更大的惊喜（或惊吓）

同时，也提醒大家，在追求更强大AI的同时，安全、对齐和治理变得空前重要和紧迫。

阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”

https://wx.zsxq.com/group/454854145828

未来知识库是“ 欧米伽 未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到3月31日 ”未来知识库”精选的百部前沿科技趋势报告

（加入未来知识库，全部资料免费阅读和下载）