一周前,我参加了LessOnline ,这是一个理性主义博客会议,与会者包括许多我认识多年的人,例如 Scott Alexander、Eliezer Yudkowsky、Zvi Mowshowitz、Sarah Constantin、Carl Feynman,还有一些我只在网上认识但很高兴见到的人,例如 Joe Carlsmith、Jacob Falkovich 和 Daniel Reeves。会议在Lighthaven举行,这是伯克利电报大道旁一个令人眼花缭乱的迷宫,里面有通道、会议室、宿舍、花园和葡萄藤,最近被称为书呆子香格里拉、高尔特峡谷、郡,或其他什么地方。我在今年的 LessOnline 上做了两项活动:与 Nate Soares 就正交性论题进行对话,以及关于量子计算和理论计算机科学的“问我任何问题”环节(对于我内容的常规消费者来说,那里并没有什么新意)。
我对LessOnline记忆最深的,并非会议本身,无论是我自己的还是其他人的,而是数百人之间永无休止的交流。这些交流在会议前后、会议期间以及会议结束后,从早到晚(显然,甚至彻夜不眠,虽然我已经老了,不忍直视了)。这感觉就像一个对话群岛,是我参加过的规模最大的一次,也是会议的真正意义所在。(在开幕式上,与会者被劝告尽可能多地跳过会议,转而进行激烈的小组讨论——不仅因为小组讨论更好,也因为会议室太小了。)
在这种对话氛围中,光是从一个建筑走到另一个建筑就得花上几个小时。我的平均自由路径大约只有五英尺,然后就会有人注意到我的名牌,然后拦住我问问题。我最喜欢的开场白是:
“你是斯科特·阿伦森?!就是那个总是在网上争论不休,基本上总是对的,却在争论过程中遭受了不合理精神伤害的量子物理学家?”
“是的,”我回答道,没有费心去纠正“物理学家”的部分。
一天晚上,我走到斯科特·亚历山大面前,他坐在地上,秃着大头,用毯子当僧袍,活像个和尚。“玩得开心吗?”他问。
我回答道:“你知道吗,这么多年一直含糊其辞,我想我终于准备好成为一名理性主义者了。有什么入会仪式之类的吗?”
斯科特说:“哦,你十年前就已经印心了,只是当时没有意识到而已。”然后他纠正自己说:“二十年前。”
在我公开承认自己是理性主义者之后,我做的第一件事就是与斯科特·A、乔·卡尔史密斯以及其他理性主义者就我十二年前在《量子图灵机中的幽灵》一文中提出的观点展开了激烈的争论。简而言之,我的论点是,生物生命的不可逆性和短暂性与数字计算机上运行的程序的可复制性、可倒带性等截然不同,最终可以追溯到宇宙初始状态的微观细节,受量子力学不可克隆定理的约束,并在大脑活动中被无序地放大……或许是通往世界更深层次的线索,我们对它的理解程度堪比古希腊人理解牛顿物理学,但正是在这个层面上,自由意志和意识等奥秘最终需要得到解答。
我之所以卷入这场争论,部分原因是它被提及,但部分原因也在于这似乎是我的信仰与我的理性主义者同僚共识之间最大的冲突。或许我的一部分是想证明我的思想独立性依然完好无损——就像一家报纸被大亨收购后,立即对这位大亨的腐败行为以及他对尿布的癖好展开调查,只是为了证明它能够做到。
不过,有趣的是,我所有的信仰都和以前一样。我仍然是一名计算机科学家、一名学者、一名坚定的民主党选民、一名自由派犹太复国主义者、一名犹太人等等(顺便说一句,所有这些身份在 LessOnline 上都得到了充分的体现,我甚至不认为自己是所有这些身份交汇点中唯一的参与者)。
鉴于我对理性主义者所做的事情有如此大的共鸣,为什么我花了这么长时间才认同自己是理性主义者呢?
首先,虽然15年前我认同理性主义者的兴趣、情感、观点以及他们在大多数问题上的立场,但我也发现他们奇怪地、莫名其妙地痴迷于人工智能是否会很快变得超人般强大,并改变地球生命的基本条件,以及如何顺利实现人工智能转型。为什么他们如此执着,而不是像其他科幻小说中那样担忧,更不用说人类面临的所有近期风险了?
毋庸置疑,经验的发展让我收回了我的反对意见。有时候,怪人之所以怪异,仅仅是因为他们比别人更早地预见了未来。事实上,在我看来,理性主义者在人工智能方面最大的错误在于低估了这场革命发生的速度,并高估了它需要多少新想法(主要是,正如我们现在所知,它需要更多的计算和训练数据)。现在,我也花了一些时间研究人工智能的一致性,我能够使用 LessOnline 进行部分与同事的研究会议。
我不认同理性主义者的第二个原因是文化因素:他们过去和现在基本上都是一群二十多岁的年轻人,在伯克利和旧金山那些他们自己创立的、名单不断变化的“机构”里“工作”,住在集体宿舍里,在那里探索他们奇特的性取向、性别认同和恋物癖,有时还会借助迷幻药。相比之下,我是一位异性恋、一夫一妻制的中年终身教授,嫁给了另一位这样的教授,养育了两个在普通学校上学的孩子。和理性主义者们相处总是让我感觉自己既老了又年轻。
那么,究竟发生了什么变化?首先,随着时间的推移,相当一部分理性主义者如今已结婚生子,或两者兼而有之——事实上,LessOnline 的一大亮点就是在 Lighthaven 校园里跑来跑去的许多可爱幼儿。理性主义者正在成功繁衍后代!一些人是因为明确的生育主义意识形态,或者是因为他们被 Bryan Caplan 在《生育更多孩子的自私理由》一书中的论点所说服。但其他人仅仅是因为同样的冲动,他们的祖先千百年来也这样做。或许是因为,像摩门教徒、阿米什人或正统犹太人一样,但与典型的世俗城市居民不同,理性主义者相信一些东西。尽管他们对人工智能心存疑虑,但他们并没有表现得悲观,而是充满了关于如何为下一代建设更美好世界的想法。
在茱莉亚·怀斯主持的LessOnline育儿讲座上,我周围的家长们和我一样,都在担心同样的问题:我们该如何培养孩子,让他们既独立自主,又善于社交,行为得体,既精通科技,又不会沉迷于iPad游戏?什么样的教育选择能让他们在数学上快速进步,摆脱我们曾经经历过的那种令人窒息的单调乏味?为了孩子的“充实”,我们应该牺牲多少自己的时间,而不是像朱迪思·里奇·哈里斯那样相信,这样的努力很快就会达到收益递减的临界点?
坦白说,我不认同理性主义者的第三个原因是,他们散发着一些(并非全部)邪教的气息,并以以利以谢为宗师。以利以谢以寓言和公案为写作素材。他教导说,世间生命的命运悬而未决,只有少数精通其中利害关系的人才能肩负着掌控未来的重担。以理性主义者所谓的“局外人视角”来看,这类事情的记录究竟如何呢?
好吧,但我在 Lighthaven 到底看到了什么?我看到的东西似乎只是像邪教一样,就像垮掉的一代、布卢姆斯伯里派、早期皇家学会或任何其他有信仰的社群一样。当 Eliezer 本人——那个留着胡须、戴着帽子、带领书呆子们从奴役中走向伯克利应许之地的摩西——出现时,他和其他人一样受到了争论。无论如何,Eliezer 基本上把他的员工传给了新一代:Nate Soares 和 Zvi Mowshowitz 找到了新的、在各种方面更好的方法来谈论人工智能风险;Scott Alexander 在过去十年里一直撰写博客,它是这个社群的智力中心;从 Kelsey Piper 到 Jacob Falkovich 再到 Aella 等人将理性主义引向了新的方向,从主流政治参与到……呃……对狂欢的统计分析。
不过,站在反对者的角度,我要说的是:随着人工智能生成的关于贝叶斯定理和塔斯基对真理的定义而起舞真的很难让人不感到尴尬,我现在可以从经验中证明这一点。
邪教这件事让我想起了长久以来犹豫是否要成为理性主义者的最深层原因:我害怕如果我承认了,那些我渴望获得认可的人(包括我的学术同事,也包括网络上的陌生人)会嘲笑我。多年来,我一直在寻找一种合理的解释,来解释这个群体的吸引力,从而平息那些嘲笑。
我花了数年时间进行心理斗争,(坦白说)才巩固了自己在世上的地位,最终走上了一条真正的道路,当然,这跟不在乎那些仇敌对我的人生选择有何看法无关。想想看:五年前,我明显感觉到整个理性主义者社群可能即将崩溃,凯德·梅茨在《纽约时报》上的文章,以及理性维基、嘲笑俱乐部和其他所有嘲笑理性主义者、指责他们犯下种种恶行的人,都威胁着他们的生存。然而,上周在LessOnline,我看到了一个前所未有的繁荣社区,拥有美丽的现实世界校园,拥有各领域优秀的作家,他们都觉得这里就是我的理想之地,甚至还有一群孩子。有多少嘲笑者过着如此充实的生活?从他们愤怒、沮丧的自我表露来看,可能不多。
但那些嘲笑者说得对吗?即使理性主义者过着幸福的生活,他们也让其他人的生活苦不堪言?他们是像柯蒂斯·雅文那样的隐秘极右君主主义者吗?我很喜欢《纽约客》最近发表的一篇关于雅文的长篇人物特写(在我看来,这一篇特写令人震惊):
对雅文观点最慷慨的回应来自理性主义运动的博主们,他们以权衡证据来支持哪怕看似牵强的主张而自豪。然而,他们强大的耐心也逐渐消磨殆尽。“他从不把我当成平等的人,只把我当成一个被洗脑的人,”著名计算机科学家斯科特·阿伦森谈到他们的对话时说道。“他似乎认为,只要再给我布置一个关于奴隶快乐歌唱的阅读作业,或者再给我一段关于罗斯福的独白,我就能最终明白。”
我在 LessOnline 上目睹的最接近右翼政治的一次会议是与凯尔西·派珀 (Kelsey Piper)以及现任和前任国会工作人员一起举行的会议,讨论温和派民主党人阐明温和、支持富足议程的前景,该议程将引起公众共鸣并最终击败 MAGA。
但理性主义者肯定都是非自愿独身者,苦于找不到性伴侣?我看过最接近这种程度的讲座,是雅各布·法尔科维奇(Jacob Falkovich)帮助一群挤满了人、大多是男性的书呆子,直面约会恐惧,更好地理解女性,理性主义女性则热情地自愿回答关于她们观点的问题。很恶心吧?(另外,对于那些已经有伴侣的人来说,埃利泽的主要伴侣、前伴侣治疗师格雷塔·杜莱巴(Gretta Duleba )做了一场关于感情冲突的讲座。)
所以,是的,说到理性主义者,我宁愿相信自己撒谎的眼睛,也不愿相信那些嘲笑者的指控。嘲笑者甚至可以用他们最喜欢的说法,说我“摘下了面具”,证实了他们一直以来的怀疑。是的,面具摘下来了——面具之下,还是我,那个对Busy Beaver函数和复杂度类BQP/qpoly痴迷不已的人,那个用太多填充词、动手动脚的人,那个强烈支持启蒙运动的人,那个曾经担心自己人生幸福的最佳途径是赢得女人的同情而不是她们的蔑视的人。我很高兴地告诉大家,我错了。从我卑鄙的低谷到现在,一个核心的变化是,从我的家人到我的学术同事,从理性主义者社群到我的博客读者,我终于找到了一些想要我推销的东西的人。
不相关的公告:
我对这篇文章的评论的回复可能很少,因为我将陪我的女儿去加拉帕戈斯群岛进行学校旅行!
几周前,我被“伏击”在德克萨斯大学奥斯汀分校主持了一场关于哲学和理论计算机科学的会议。(也就是说,我被邀请去参加会议,但我以为我只是个参与者,而不是主角。)会议随后被录制并上传到YouTube上——令人惊讶的是,考虑到当时的情况,似乎有些人很喜欢它!
博客之友阿隆·罗森 (Alon Rosen)要求我宣布征集新理论计算机科学奖的提名,以纪念我的前教授(也是 TCS 博客作者)卢卡·特雷维桑(Luca Trevisan),他过早地离开了这个世界。