论文：预测人工智能的未来缺少的要素是理解人工智能需要文化，就像人类需要文化一样。
理解我们自己的人性的最重要的科学见解之一是相对较新的见解，即我们不仅仅是基因进化的产物。虽然我们是过去一些类人猿生物的遗传后代，但我们现代人类每一代人也都是通过生物学之外的不同机制传递的共同学习而塑造的。这种人类创造的环境通常被称为“文化”，它构成了我们对我们物种的最佳看法。文化在我们的生活中，尤其是在现代城市生活中如此普遍，以至于它是无形的、难以识别的。但如果没有人类文化的支持，我们人类将变得面目全非。
一个试图在史前荒野中生存的独立、赤身裸体的人类，如果没有其他人类获得的技能和知识，很少能够快速学习以独自生存。很少有人能够独自发现生火的秘密、烹饪食物的好处、发现植物中的药物、学习动物狩猎的所有行为，更不用说需要额外的教育来培养种植农作物的习惯、学习如何敲打石尖、缝纫和捕鱼。
人类主要是一种社会努力。因为我们发明了语言——有史以来最具社交性的东西——我们不仅能够在当下进行协调和协作，而且能够代代相传知识和技能。这通常被描述为与我们身体的基本自然选择进化平行的进化。在我们细胞中发生的长期生物进化中，学习是通过我们的基因传递的。作为一个物种，我们学到的任何好的东西都是通过可遗传的 DNA 传达的。这就是大多数自然生物学习的终点。
但在人类身上，我们发起了一场延伸的进化，将DNA代码之外的美好事物传递给家庭、氏族和整个人类社会所传达的文化。从一开始，这种文化就包含了法律、规范、道德、最佳实践、个人教育、世界观、世界知识、可学习的生存技能、利他主义以及大量来之不易的现实知识。虽然个体社会已经消亡，但人类文化作为一个整体却在不断扩展、深化、成长和繁荣，使每一代人都从这种积累中受益。
我们的最新发明——人工智能——通常是从基因角度来看待的。人工智能的二进制代码被复制、部署和改进。新模型是从以前领先模型的代码中孕育出来的——继承了它们的能力——然后分发给用户。这种人工智能的首要重要用途之一是促进编码艺术，特别是帮助程序员编写新的、更好的人工智能。因此，这种类似 DNA 的代码在传播到人类社会时经历了复合式的改进。我们可以通过代码中的继承来追踪人工智能的特征和能力。
然而，迄今为止，这种基因版本的人工智能对人类的影响有限。虽然人工智能研究的前沿进展很快，但其采用和扩散却进展缓慢。尽管人工智能具有一些意想不到的能力，但迄今为止它还没有深入到社会中。到 2025 年，它已经扰乱了我们的集体注意力，但并没有扰乱我们的经济、工作或日常生活（极少数例外）。
我认为人工智能不会扰乱人类的日常生活，除非它也从基于遗传代码的基础迁移到广泛的、类似异端文化的平台。人工智能需要有自己的文化才能更快地进化，就像人类一样。不能仅仅停留在改善软硬件功能的一个主线上；它必须成为一个嵌入式实体生态系统，能够在代码堆栈之外适应、学习和改进。这个人工智能领域将实现其文化进化，就像人类社会对人类所做的那样。
文明起源于篝火旁的歌曲、故事和民谣，祖父母和萨满等机构传达了我们基因中没有的非常重要的品质。后来，宗教和学校承载了更多。然后我们发明了写作、阅读、文本和图片来代替反应。当我们发明书籍、图书馆、法庭、日历和数学时，我们将大量的遗产转移到了这个不属于任何人所有的协作、分布式文化平台上。
人工智能文明需要一个在技术堆栈之外运行的类似区域。它始于人类每天使用人工智能，以及人工智能耳语者教授的人工智能协作的新兴技能。将会有调整协议和塑造人工智能道德的学校。将会有萨满和医生来监控和培养人工智能的心理健康。内部人工智能需要有企业最佳实践，并且需要有审查委员会来监督他们的角色。用于审查、雇用和推荐各种人工智能的新机构。协同工作效果最佳的人工智能协会。整个部门都需要针对某些角色和应用程序来培训人工智能，因为某些类型的培训需要时间（而不仅仅是下载）。人工智能本身将进化出纯人工智能的语际语言，这需要保存和存档的机制。将会出现相互依赖的人工智能生态系统。监管其他人工智能的人工智能。人工智能需要内容库和中间权重、潜在空间和 PB 级数据，这些数据需要被记住而不是重新发明。人类代理必须在地方、国家和全球层面管理这个人工智能区域的购买和维护。这是人工智能的文明。
一个单独的、赤裸裸的人工智能本身不会做太多事情。人工智能需要广阔的范围才能真正产生影响。他们需要被包围并嵌入到人工智能文化中，就像人类需要文化才能繁荣一样。
斯图尔特·布兰德设计了一个美丽的类比来理解文明特征。他解释说，世界的功能可以按其速度层进行排序，这取决于其下面的所有层。跑得最快的是每天都在变化的时装层。在速度上紧随其后的是技术层，其中包括人工智能技术。它每周都会发生变化。在其之下（并且依赖于它）是基础设施层，其移动速度较慢，而在其之下则更慢的是文化，相比之下，文化是缓慢爬行的。 （最低、最慢的层次是自然，其速度极其缓慢。）所有这些层同时工作，并且相互影响，许多复杂的事物共享多个层次。人工智能还可以在多个层面上发挥作用。它的代码库随着互联网速度的提高而提高，但它的吸收和部署却在文化层面上进行。为了让人工智能真正落地，它必须被人类文化所捕获。这需要时间，也许几十年，因为这就是文化的步伐。无论技术运行得有多快，人工智能文化都会运行得更慢。
这在很多方面都是好消息，因为人工智能外延区所做的部分工作就是整合和整合技术堆栈中的可继承改进，并将它们放入人工智能文化的较慢领域。这让我们有时间适应即将到来的复杂变化。但为了应对这些人工智能的全部后果，我们必须关注代码堆栈之外新兴的人工智能领域。
原文： https://kk.org/thetechnium/epizone-ai-outside-the-code-stack/