被低估的推断距离

授权和转载须知

《理性:从人工智能到僵尸 – 地图与真实的土地 – 第一部分:可以预见的错误 – 被低估的推断距离》

智人的进化适应环境(也称作 “祖先环境”)由最多200人的狩猎采集部落组成。他们没有文字,所有知识只能通过言语和记忆传承。

在那个世界中,所有背景知识都是普世知识。所有并非严格保密的信息都是公开的。

在祖先环境中,你与其他任何人的推断步骤不太可能大于一步。当你发现新的绿洲时,无需向其他部落成员解释什么是绿洲,为什么要喝水,或者怎么走路。只有你知道绿洲在哪里。这是私人知识。但是每个人都有足够的背景知识理解你对绿洲的描述,也有关于水的必要概念;这是普世知识。在祖先环境中解释事物时,几乎从不需要解释概念——最多也就一个新的概念,而不用同时解释两个或多个。

在祖先环境中没有抽象的学科。抽象的科学包含大量的、经过仔细收集的证据,这些证据被概括成优雅的理论,通过书籍传播,并得出距离普世共识前提有一百个推断步骤的结论。

在祖先环境中,如果一个人说出的话没有明显的证据,就会被认作骗子或白痴。 你不太可能会去想:“嘿,也许这个人有证据充分的背景知识,而我部落里甚至没人听说过这些”,因为祖先环境中这种事从没发生过。

相反,如果你说的话很明显而对方却没有理解,那他们就是白痴,或者执意要惹恼你。

最重要的是,如果有人说出一些没有明显证据的话,还希望你相信这一切(而且如果你不相信就会生气),那么他们一定是疯了。

结合“认为某事显而易见”的错觉自我锚定[1]自我锚定(self-anchoring):指人在推断其他人的想法时,会基于自己所知道的事出发,再根据其他人的视角进行调整,而这种调整往往不到位。详见:http://lesswrong.com/lw/kf/selfanchoring/,我认为这可以很大程度上解释科学家在与外行交流,甚至与其他学科的科学家交流时遇到的著名困难。 我观察到,当解释失败时,解释者通常只回退了一步推断步骤,但他们其实需要回退两步以上;或者听众认为可以一步到位,但解释者用了两步或更多的推断步骤来进行说明。双方都表现得好像他们觉得从普世知识到新知识的推断距离非常短。

生物学家与物理学家交谈时,可以说进化论是最简单的解释,以证明进化论的合理性。但并不是地球上的每个人都被反复灌输过那段从牛顿到爱因斯坦的传奇科学史。科学史赋予了“最简单的解释”这个词令人敬畏的重要性:这是一个铿锵有力的词语,由始至终贯穿理论。而对其他人来说,“这是最简单的解释!”听起来像是个有趣但并非压倒性的论据;这感觉不像那些可以帮助理解办公室政治或修理抛锚的车的工具那样强大。显然,生物学家对自己的想法很着迷,过于傲慢以至于无法接受其他听起来合理的解释。 (如果这个结论在我听来是合理的,那么对我部落中任何神智清醒的成员来说这一结论都应该是合理的。)

从生物学家的角度来看,他们可以理解进化论一开始听起来有些奇怪——但如果有人在听了生物学家解释说“这是最简单的解释”后,依然拒绝接受进化论,很显然这个人就是白痴,和他交流就是对牛弹琴。

一个清晰的论点必须从听众已经知道或接受的内容出发,铺开一条推断路径。如果递推得不够远,那就只是在自言自语。

在任何时候,如果你所讲的话没有你之前已经论证过的论点支持,那么听众只会以为你疯了。

当你对某个论据的重视程度明显超过当时听众所认为的合理性时,也会发生这种情况。例如,说得好像你认为“更简单的解释”是支持进化论的压倒性论据(它确实如此),而不是个有点意思的想法(那些并不崇敬奥卡姆剃刀原则的人就是这么想的)。

哦,你最好不要暗示自己与听众相距的推断步骤甚远,或者你有听众没有的特殊背景知识。这些观众对进化心理学的观点一无所知,并不知道低估推断距离从而导致沟通不畅的认知偏差。他们只会觉得你居高临下。

而且如果你认为你可以简要地解释“系统性低估了推断距离”这一概念,那我要告诉你一个不幸的消息……


翻译:yzhaobk
校对:糖颗颗,潜艇

注释

1 自我锚定(self-anchoring):指人在推断其他人的想法时,会基于自己所知道的事出发,再根据其他人的视角进行调整,而这种调整往往不到位。详见:http://lesswrong.com/lw/kf/selfanchoring/

发表评论

电子邮件地址不会被公开。 必填项已用*标注