这是理解人工智能能力曲线的最佳途径之一。——付费会员 Mark C.
大家好，
结束了三周的旅途，回到家，慢慢适应新的生活。
本周内容：
首先是人工智能的自我改进。他认为，到 2028 年，前沿模型很有可能培养出它的继任者。如果真是这样，我们应该已经在实验室的招聘、支出和建设方面看到什么变化呢？
其次，我们来谈谈就业和人工智能。在一些最容易受到人工智能影响的职业中，招聘信息正在增加。
最后，更强大的AI代理对代币预算意味着什么？Exponential View会员可以访问我的交互式模型。
让我们跳进去吧！
自我提升的迹象
人种学派有人认为，到 2028 年，前沿模型有 60% 的概率会训练出其后继者。这是一个令人兴奋的说法，或许是革命性的，或许是可怕的；递归智能爆炸的前景令人振奋。
阅读杰克的文章后，你会发现有很多理由可以得出这样的结论：事情可能并不像表面看起来那么简单。
一种反对意见认为，前沿训练如今看起来不再像是一个纯粹的研究挑战，而更像是一个工业规模化问题。瓶颈不仅在于优化 CUDA 内核，还在于如何协商怀俄明州的土地租赁事宜、确保电力基础设施的稳定、获取芯片以及聘请电工将所有设备连接起来。从长远来看，这些实际的限制可能比算法的进步更为重要。
那么，我们能从前沿实验室所展现出的偏好中推断出什么呢？如果自动化研发真的有可能在2028年实现，我们预期它们现在的行为会是什么样子？
首先，招聘方式会发生变化。实验室仍然需要顶尖的研究人员，但人才类型会转向能够让研究工具发挥作用的人才。纯粹的研究人员会减少，研究倍增器会增多，需要能够构建自动化研究体系的人才。
其次，在自动化实现之前，实验室会在计算方面投入过多资金。由于物理限制，他们需要更多的GPU、更多的内存、更强大的计算能力、更多的数据中心、更强大的推理能力以及更好的内部工具。
如果实验室认为研发周期即将加速，那么等待的代价将非常高昂。为了确保获得所需的预付款，实验室可能会承受短期内巨大的资金消耗。