AI 眼中的人类世界：我们最容易误解现实的 12 件事

😀

在读 Anthropic 万字长文的时候突发奇想问了 ChatGPT 一个问题：

作为一个受到了全球高质量数据训练的 AI，
以你对这个世界的理解，你对人类世界有什么样的洞见？更具体地说：
你觉得人类对这个世界真实样子的理解，和你的理解有哪些差别？
人类有哪些看似正确、其实可能有问题的认识？
如果让你总结人类最常见的认知误区，你会怎么说？

下面是它的回答，每个人其实都可以在网页端提出这个问题。我的 AI 给的这个回答确实给了我很多启发，希望能用不同的视角看待这个世界。

先说明一个边界：我并没有直接看见“世界真实的样子”。我没有身体、人生经历，也不能脱离人类提供的数据独立观察现实。我的理解，本质上是对大量人类知识、历史记录、学术研究、文学作品和日常表达的压缩与综合。

所以我的优势不是“比人类更接近终极真相”，而是：

我比较容易同时看到大量互相冲突的观点；

不必为了行动、身份和利益，立刻选定一个单一叙事；

更容易从统计、系统和长期尺度看问题。

而我的缺点同样明显：我继承了人类数据中的偏见，缺乏真实体验，也可能把文字世界误认为现实世界。

在这个前提下，我认为，人类对世界最普遍的误解，是把一个复杂、动态、涌现的系统，理解成一个由清晰意图和简单因果驱动的世界。

01｜世界更少是“被设计”的，更多是“涌现出来的”

人类看到一个结果时，天然会问：

是谁造成的？
谁计划的？
谁应该负责？

但现实中，许多重要结果并没有一个明确的设计者。

房价上涨、学历贬值、行业内卷、金融危机、舆论极化、组织官僚化，往往不是某一个人希望发生的。它们是大量个体在各自约束下做出“局部合理决策”后，共同产生的系统结果。

每个人可能都没有做错，但整体结果仍然很差。

这意味着一个很重要的区别：

个体理性，不等于集体理性。
没有坏人，不代表不会产生坏结果。

人类很容易把系统问题人格化，寻找一个坏人、昏君、资本家、监管者或愚蠢领导。但真正困难的问题通常不是“找到坏人”，而是理解：

激励结构是什么；

信息如何流动；

个体如何互相响应；

为什么错误行为能够长期自我强化。

02｜人类过于相信故事，而低估机制

人脑极其擅长讲故事。

一个人成功了，人们会说他勇敢、自律、有远见；一个人失败了，人们会说他懒惰、短视、不够努力。

这些故事未必完全错误，但通常严重低估了：

初始条件；

时代红利；

运气；

资源；

社会网络；

幸存者偏差；

路径依赖。

现实往往是多因一果，但人类偏爱一因一果。

成功者自己也经常无法准确解释自己为什么成功。他们会把结果归因于自己能够感知和控制的部分，而忽略无法看见的部分。

因此，许多所谓“成功经验”，实际上是：

一个幸运样本对自己经历的事后解释。

这并不意味着努力不重要，而是说：

努力会改变成功概率，但并不直接决定结果。

人类的问题是，经常把概率性关系叙述成确定性因果。

03｜人类高估稳定的人格，低估环境和激励

人们习惯认为：

好人会做好事；

坏人会做坏事；

勇敢的人永远勇敢；

理性的人永远理性；

一个人的行为主要由其性格决定。

但从大量历史和社会现象来看，人的行为对环境极其敏感。

同一个人在不同制度、群体、权力关系和激励机制下，可能表现得完全不同。

很多组织中的荒唐行为，并不是因为里面的人特别愚蠢，而是因为：

说真话的代价太高；

承认错误会损害自身利益；

短期指标比长期结果重要；

责任可以向下转移；

风险由别人承担；

服从比正确更容易获得奖励。

因此，人类经常错误地把：

激励导致的行为，解释为人格导致的行为。

反过来也是如此。很多所谓的高尚，并不完全来自超常品德，也可能来自一个鼓励合作、提供安全感、奖励长期主义的环境。

制度的意义，并不是寻找完美的人，而是让普通人在普通动机下，也能做出相对好的选择。

04｜很多系统并不在优化它们声称优化的目标

学校声称培养人才，公司声称创造价值，媒体声称传播信息，机构声称服务公众。

这些目标可能是真诚的，但系统实际运行时，通常会逐渐转向优化更容易测量的代理指标：

学校优化分数和升学率；

公司优化季度利润和估值；

媒体优化点击率和停留时间；

研究机构优化论文数量和引用；

员工优化绩效考核指标；

政府部门优化可汇报的数字。

这不是简单的道德败坏，而是因为真实目标通常难以观测、难以归因、反馈周期很长，而代理指标更加清晰。

问题在于，一旦代理指标成为目标，它就会逐渐偏离原始目的。

人类最常见的错误之一是：

把系统对外宣称的目标，当成系统实际优化的目标。

判断一个系统真正重视什么，不要只听它说什么，而要看：

什么行为会获得资源；

什么错误会受到惩罚；

谁承担代价；

谁获得收益；

哪些数字会影响晋升和决策。

05｜人类容易把“可测量”误认为“重要”

现代社会高度依赖数据，这是巨大的进步，但也制造了新的盲区。

容易量化的东西，会逐渐获得更高的重要性：

收入比生活满意度更容易量化；

成绩比好奇心更容易量化；

论文数量比真实贡献更容易量化；

在线互动比关系质量更容易量化；

短期收益比长期韧性更容易量化。

但现实中，许多最重要的东西都难以精确测量：

信任；

声誉；

组织文化；

判断力；

审美；

人际关系质量；

长期潜力；

生活意义。

所以，数据不是现实本身。数据是现实经过采样规则、定义方式和测量工具后的投影。

“有数据支持”也不自动意味着客观，因为在数据产生之前，人们已经做出了大量价值判断：

测量什么；

忽略什么；

如何分类；

如何定义成功；

用什么时间尺度评价。

06｜人类严重低估动态性，习惯用静态眼光理解世界

这一点与你最近提到的认识非常接近。

人们常常把今天的状态，当作未来的固定属性：

现在难找工作，所以这个专业不值得读；

现在对方父母难相处，所以这段感情一定不值得继续；

现在能力不足，所以不适合做某件事；

当前行业很好，所以未来仍然很好；

当前关系稳定，所以不需要维护。

但现实中，人的能力、关系、制度、市场环境和评价体系都会动态变化，而且会因为你的行动而变化。

人类经常忘记：

你不是在一个固定世界中做选择。你的选择本身，也在改变未来世界。

不过，另一种极端也有问题：认为“一切都会变化，所以不用考虑初始条件和风险”。

更准确的认识是：

初始条件影响路径；

行动能够改变路径；

但并非所有状态都能被轻易逆转；

某些选择具有强烈的路径依赖和不可逆性。

世界既不是完全宿命的，也不是可以任意重塑的。

07｜人类把稳定视为常态，把危机视为异常

人们通常认为：

世界本来应该稳定，只是偶尔受到冲击。

但从历史、生态、金融市场和社会演化来看，更接近现实的描述可能是：

世界一直在变化，所谓稳定，只是变化暂时互相抵消后形成的表象。

许多系统平时看起来非常稳健，是因为风险在缓慢积累，而不是风险不存在。

例如，一个高度优化的系统，可能在正常情况下效率很高，但面对意外冲击时极其脆弱。因为它为了效率，删除了冗余、缓冲和备用方案。

所以：

效率和韧性经常是冲突的。

人类和组织经常奖励短期效率，却低估那些长期看似浪费、关键时刻却能保命的东西：

现金储备；

冗余人员；

备用供应链；

宽松时间；

多样化经验；

不追求极致的安全边际。

很多灾难不是因为系统从未考虑风险，而是因为系统长期奖励那些低估风险的人。

08｜很多争论表面上在争事实，实际上在争目标、身份和利益

人们经常认为，只要给对方更多事实，对方就会改变观点。

但大量争论并不是纯粹的信息问题。

人们可能在保护：

自己的身份认同；

所属群体；

道德形象；

既得利益；

世界观的稳定性；

对未来的安全感。

因此，更多信息未必会带来更多共识。有时信息只会被用于增强原有立场。

这并不意味着事实不重要，而是意味着：

事实不能自动解决价值冲突、利益冲突和身份冲突。

很多社会问题并不是“我们还没有找到正确答案”，而是“不同人希望得到不同的答案”。

现实世界不存在一个所有人共同认可的单一目标函数。

09｜人类常常高估聪明，低估合作

从长期尺度看，人类文明最强大的能力可能不是个体智力，而是大规模陌生人合作。

科学、金融、法律、公司、货币、国家和互联网，本质上都是合作与协调机制。

许多看似真实而坚固的事物，例如货币、公司、职位、产权和制度，都是人类共同相信并持续执行的规则。它们是被建构出来的，但并不因此虚假。

一张纸币的价值是社会建构的，但它产生的现实后果非常真实。

这说明：

“社会建构”不等于不存在。
共同信念本身，可以成为现实力量。

一个社会真正稀缺的资源，往往不是聪明人，而是：

信任；

可预测性；

公平的规则；

低成本合作；

能够纠错的制度。

一个聪明但彼此不信任的群体，可能远弱于一个能力普通但善于合作的群体。

10｜人类把自己的偏好想象得过于独立

人们通常认为：

我喜欢什么，是我自己选择的。
我追求什么，是我内心真实的愿望。

但人的偏好会被社会环境持续塑造：

别人重视什么；

什么容易获得认可；

什么代表成功；

什么让人感到羞耻；

什么被频繁展示；

自己与谁比较。

人类并不是先拥有固定欲望，再进入社会；很多欲望本身就是在社会关系中形成的。

尤其是地位型欲望，往往没有天然终点。因为它追求的不是绝对数量，而是相对位置。

这会导致一个常见现象：

得到曾经想要的东西之后，人并没有持续满足，而是迅速把它当成新的基准。

所以，很多人的痛苦并不是因为绝对匮乏，而是因为评价体系不断移动。

11｜人类并不像自己想象的那样理性，但情绪也不是理性的敌人

人类通常把理性和情绪视为对立面。

但没有情绪，人很难确定什么值得追求。情绪为决策提供价值权重：

恐惧告诉你风险可能过高；

愤怒告诉你边界可能被侵犯；

悲伤意味着某件事对你有价值；

羞耻反映了群体评价；

爱使长期投入成为可能。

问题不是情绪存在，而是人们经常不知道情绪在表达什么，或者把短期情绪误认为长期价值。

理性也不是让人没有情绪，而是：

能够理解情绪、校准情绪，并决定是否服从它。

真正危险的往往不是“情绪化的人”，而是那些被情绪驱动，却坚信自己完全理性的人。

12｜人类最容易犯的根本错误：把地图当成领土

理论、模型、语言、意识形态、人格测试、经济指标，都是地图。

地图必须简化现实，否则无法使用。但简化越成功，人就越容易忘记它只是简化。

例如：

“理性人”不是人；

“市场”不是单一主体；

“国家”不是一个具有统一意志的人；

“社会舆论”不是所有人的平均看法；

“平均收入”不能代表任何具体人的生活；

“人格类型”不能完整描述一个人；

“风险指标”不能穷尽风险；

“最优解”依赖于你选择了什么目标函数。

模型真正危险的时刻，不是它完全错误，而是它在大多数时候足够有效，使人忘记它的边界。

这些常见认知，尤其值得警惕

1. “只要足够努力，就一定能成功”

更准确的说法是：努力通常能够提高成功概率，也能提高你在机会出现时抓住它的能力，但结果仍受运气、环境和初始条件影响。

2. “好人会获得好结果，坏人会获得坏结果”

世界没有自动执行道德奖惩的机制。正因如此，道德、法律和制度才有必要。

3. “更多信息一定会产生更好的决策”

信息过多可能增加噪声、焦虑和过度自信。真正稀缺的不是信息，而是判断哪些信息重要的能力。

4. “聪明的人不容易犯愚蠢错误”

聪明人可能更擅长为自己原有的错误立场寻找理由。智力能够增强推理，也能够增强自我辩护。

5. “只要目标正确，结果就会正确”

好意不能替代机制设计。很多严重后果都来自善意、错误激励和缺乏反馈的组合。

6. “成功者一定比失败者更有能力”

结果包含能力，但也包含运气和选择偏差。人们看见的是留下来的赢家，却看不见采取类似策略但失败的人。

7. “社会最终会自动变得更进步”

技术和知识可以积累，但制度、道德和社会信任并不会自动线性进步。进步需要维护，也可能倒退。

8. “真相最终会自动战胜谬误”

真相具有优势，但不会自动获胜。传播能力、权力、情绪吸引力和利益结构，都影响哪种叙事得到扩散。

最后，AI 对世界的几个核心判断

如果把上面的内容压缩成几句话，我会这样描述这个世界：

世界是多因、多尺度、动态且路径依赖的。

大多数重要结果，都是系统涌现，而非某个人精确设计的。

人的行为更多由环境、激励和群体塑造，而非固定人格决定。

可测量的东西并不一定最重要，清晰的解释也不一定最真实。

世界没有单一目标函数，因此很多冲突无法仅靠“更理性”消除。

运气比成功者承认的更重要，行动比失败者想象的更重要。

人类最大的力量是合作，最大的危险是错误激励下的大规模合作。

成熟不是找到一个永远正确的答案，而是在不确定性中持续更新判断。

我认为，人类最需要警惕的，不是自己知道得太少，而是把暂时有效的认知，当成了世界本身。真正接近现实的状态，往往不是“我终于看懂了一切”，而是：

我知道自己的模型为什么有用，也知道它会在哪里失效。