本文分析AI从AGI跃迁至超级智能的路径,指出自动化AI研究可将十年算法进步压缩至一年。基于算力规模与研究投入百万倍增长,预测2028年前后可能实现超级智能,带来军事与经济变革。适合关注AI前沿与科技趋势的读者。
Tags:
既然机器设计本身也是一种智力活动,那么一台超智能机器就能够设计出更优秀的机器。随后,毫无疑问,将会发生一场“智能爆炸”,而人类的智能将被远远甩在身后。
因此,人类需要完成的最后一项发明,就是第一台超智能机器。
——I. J. 古德,1965 年
“只要加一个归一化层就行了”——LayerNorm、BatchNorm;
“不要只计算 (f(x)),改成计算 (f(x)+x)”——残差连接;
“修复一个实现错误”——从 Kaplan 缩放定律到 Chinchilla 缩放定律。
算力有限
AI 研究并不只需要好的想法、思考能力或数学能力,还需要实际运行实验,从经验结果中判断一个想法是否有效。即使自动化研究劳动力让研究投入增加一百万倍,也不意味着进步速度会提高一百万倍,因为可用于实验的算力仍然有限。实验算力很可能成为主要瓶颈。不过,即便无法实现一百万倍的加速,我仍然很难想象,自动化 AI 研究人员不能把现有算力的使用效率至少提高十倍。它们能够形成极其强大的机器学习直觉——因为它们可以吸收全部机器学习文献,以及实验室曾经运行过的每一个实验。它们还可以用相当于数百年的人类思考时间,准确判断应该运行哪个实验、如何对实验进行最优配置,以及如何从实验中获得最大的信息价值。即便面对一个很小的实验,它们也可以先投入相当于数百年的人类工程时间,检查代码、排除错误,力争第一次就把实验做对。它们可以通过集中研究最有可能产生巨大收益的方向,减少不必要的算力消耗。它们还能够尝试大量较小规模的实验。考虑到届时有效算力已经大幅增长,所谓“较小规模”,可能意味着一年之内训练十万个 GPT-4 水平的模型,用来测试潜在的架构突破。即使获得相同数量的算力,一些人类研究人员和工程师所产生的进展也能达到其他人的十倍。对于自动化 AI 研究人员,这种差异很可能更加显著。我认为,算力限制是最重要的瓶颈,后文将对此进行更深入的讨论。互补性与能力长尾
经济学中的一个经典教训——可参见鲍莫尔成本病——是:假如一项工作只有 70% 被自动化,那么最初确实可以获得一定收益,但剩余的 30% 很快就会成为新的瓶颈。只要不能实现完全自动化,例如系统最终只是非常优秀的 AI 副驾驶,那么人类 AI 研究人员仍然会成为重要瓶颈,算法进步速度的整体提升也会相对有限。此外,实现 AI 研究自动化可能需要一系列长尾能力。一名 AI 研究人员工作中最后的 10%,可能特别难以自动化。这可能会让起飞过程变得相对缓和,但我的最佳判断是,它大概只会把时间表向后推迟一两年。也许 2026 年或 2027 年的模型只能算作自动化研究人员的原型。之后还需要一两年,完成最后的能力解锁、获得稍微更强的模型、提高推理速度,并解决各种实际问题,才能实现完整的研究自动化。最终,可能到 2028 年左右,我们才会获得十倍的研究加速,并在本十年结束前实现超级智能。算法进步存在内在上限
也许再实现 5 个数量级的算法效率提升,在根本上是不可能的?我对此表示怀疑。算法进步当然存在最终上限。⁴¹ 但既然过去十年已经取得了约 5 个数量级的提升,我们至少应该预期,未来仍存在相当于另一个十年的进步空间。更直接地说,当前的模型架构和训练算法仍然非常初级,理论上应该存在效率远高于现有方法的方案。生物智能这一参照对象同样表明,更加高效的算法完全有可能存在。新想法越来越难发现,因此自动化研究只能维持现有速度
一种反对意见认为,虽然自动化研究会大幅增加有效研究投入,但新想法本身也会越来越难寻找。今天,一家实验室只需要几百名顶尖研究人员,就能够维持每年约 0.5 个数量级的算法进步。但随着容易获得的成果逐渐被开发殆尽,维持同样的进步速度需要越来越多的研究投入。因此,一亿名自动化研究人员可能只是维持现有进步速度所必需的投入,而不能进一步加速进展。我认为这个基本模型在方向上是正确的,但经验数据并不支持如此极端的结论。自动化带来的研究投入增长可能达到一百万倍,这远远超过了历史上为了维持技术进步而必须增加的研究投入。用经济模型的语言来说,假设自动化增加的研究投入恰好只能抵消研究难度的上升,使技术进步速度保持不变,是一种非常反常的“刀锋假设”。新想法越来越难发现,边际收益递减会让智能爆炸迅速熄火
学术界真正有效的研究力量可能只有数千人
如果根据研究质量进行调整,我认为学术界真正能够从事前沿机器学习研究的人数,更可能是几千人,而不是几万人。例如,可以只考虑顶尖大学中的研究人员。这一规模可能并没有显著超过各大前沿实验室的研究人员总数,更远远低于自动化 AI 研究可能带来的数亿名研究人员。学术界往往研究的不是最关键的问题
直到最近——或许直到今天仍然如此——学术机器学习领域的绝大多数人甚至并没有研究大语言模型。如果只统计学术界中真正从事大语言模型研究的优秀研究人员,他们的人数可能明显少于各家实验室相关研究人员的总和。学术界无法接触真正的前沿技术状态
即使学术研究人员确实研究大语言模型预训练,他们通常也无法接触当前最先进的技术体系。前沿实验室内部已经积累了大量关于模型训练细节的知识,而学术界并不掌握这些信息。因此,学术研究人员可能不知道哪些问题才真正重要。或者,他们只能贡献一些一次性的研究结果,但由于实验基线没有得到充分调优,其他人无法判断其方法是否真的构成改进,也很难利用这些结果继续推进研究。学术研究人员远不如自动化 AI 研究人员
2026—2027 年:自动化工程师原型
系统已经可以承担大量工程工作,但在其他领域中仍然存在明显盲区。它已经能够让研究工作加快约 1.5 倍至 2 倍,技术进步开始逐步加速。2027—2028 年:自动化研究人员原型
系统已经可以自动完成超过 90% 的研究工作。仍然存在一些人类瓶颈,同时还需要解决如何协调由大量自动化研究人员组成的庞大组织等实际问题。即便如此,它已经可以让进步速度提高三倍以上。这种加速会迅速完成最后必要的“解除束缚”,使研究自动化最终达到百分之百。2028—2029 年:进步速度提高十倍以上
态势感知:未来十年 Situational Awareness: The Decade Ahead |引言 态势感知:未来十年 Situational Awareness: The Decade Ahead |第一章:从 GPT-4 到 AGI
没有评论:
发表评论