本文来自微信公众号： 介心 ，作者：介心介个心
全文约3200字·预计阅读5分钟
一个博主分享：家里有病人术后出院，他买了皮皮虾做饭，有人拦着不让吃，理由是海鲜是"发物"。博主懒得解释，说了一句：你问问豆包。
这条帖子后来被顶上微博热搜第一，词条是"豆包对低认知人群有权威性"。原帖点赞爬到九千多，知乎、小红书跟着吵了一整天。
吵的内容大致分两派。一派觉得这是歧视，凭什么拿认知水平给人分等级；另一派觉得这是现实，AI说啥就信啥的人确实大量存在。这就是所谓的“AI对低认知人群有权威性”。
这让我想起来很多“砖家”面对AI对人类的影响，“忧国忧民”地建议普通大众“要提高认知水平，区分AI说的哪些是真哪些是假”那样，看似有理，实则一点用都没有。
为啥呢？
因为一个人如果真懂了某方面知识，自然没有必要去问AI；换言之，你问AI的，往往都是自己不懂的。
一、我们每个人都是“低认知人群”
"低认知人群"这五个字，隐含了一个假设：存在一把可以整体衡量人的尺子，每个人在上面有一个固定的位置。
这把尺子不存在。
一个人在心内科待了二十年，他很可能不知道皮皮虾术后能不能吃；一个做了三十年渔获批发的老板，对海鲜的了解可能超过多数医生，但他大概率看不懂一份劳务合同。认知从来不是一个刻度，是一个坐标：相对于哪一个问题、在哪一个时刻。
所以严格来说，没有"低认知人群"这个东西，只有"在某件事上认知较低的人"。而这件事可以是任何事，可以落在任何人头上。
说"豆包对低认知人群有权威性"的人，默认自己站在这个人群之外。可一个人如果认为自己在所有问题上都不属于这个人群，那他多半还没遇上那个能把他问住的问题。
每一个人都有一份自己的无知清单，只是清单上的内容各不相同。
二、多数人在多数问题上比AI"低认知"，这件事本来就是常态
把分类的问题放一边，来看一个更硬的事实。
普通人一生中要做的重大决策，加起来可能只有几十次：买房、看病、签合同、选学校、处理家里的遗产。这些决策的共同点是，每一次都落在一个他从未系统学过的领域里。一个人一辈子可能只看一次购房合同，但这唯一的一次，涉及的资金超过他许多年的收入。
在这些事上，人是永久的新手。不是因为不努力，是因为样本量在物理上就不够。
而AI的样本量是按领域算的。它在营养学、合同法、汽车维修、药理相互作用上，各自都有远超任何一个普通人的知识存量。所以一个人在自己的人生大事上，反复地去问一个"什么都懂一点"的东西，这不是懒惰，这是理性选择。
这也意味着，那种"提高认知就不会被AI带偏"的说法，在算术上就站不住。你要在多少个领域提高认知，才能覆盖你一生要做的几十次决策所涉及的全部分支？答案是覆盖不了。而随着AI继续发展，这个差距只会拉大，不会缩小。
原因在于两个方向上的不对称，下面分开说。
三、AI强在人比不了的两件事：传播交换，和知识的细粒度
第一件事，是知识的传播交换。
一个人要把一个领域的知识搬到另一个领域，成本极高，前提是他真的懂两边。一个懂营养学的医生，未必懂食品工业；一个懂食品工业的人，未必懂交易结构。跨界对人是昂贵动作，对AI的迁移成本接近于零。
所以你会看到一个东西可以同时跟你聊木糖醇的代谢路径、演唱会的退票规则和电动车轮胎的更换方法。这种跨度，人类专家做不到，不是因为不聪明，是因为人类专家的知识天然被训练时长锁死在少数几个领域里。
第二件事更关键，是知识的细粒度。
回到"海鲜是发物"这句话。它不是无知，它是一次压缩。
原始的知识大概是这样的：某些人在某些类型的术后、某些恢复阶段、合并某些基础疾病或正在服用某些药物的情况下，不宜摄入某些种类的海产品。这句话太长，太长就传不下去。于是它被压缩成五个字，好记、好传、好用来劝人。压缩让它传播了两百年，也同时把它压掉了全部条件。
而AI的记忆方式恰恰相反。它记住的就是那些条件本身。当你去问它，它给出的必然是带条件的答案：哪一类手术、术后多久、有没有过敏史、在吃什么药。
所以在这个具体的场景里，AI赢的不是道理，是颗粒度。人手里拿着一句压缩过的口诀，AI手里拿着的是一份带前提的说明。一份带前提的说明，在任何人听来，都比一句斩钉截铁的口诀更像知识。
这就是"权威感"的来源。它不神秘，它是细粒度对概括的一次降维打击。
四、所以"提高认知以防被AI影响"这个建议，是自相矛盾的
现在来看那句最常被说出口的建议：要警惕AI，要提高自己的认知。
这句话的问题在于，它要求你具备一个你不可能具备的东西。
提高认知的第一步，是知道自己哪里认知不够。而一个人不知道自己不知道什么，这恰恰是他会去问AI的原因。你之所以打开那个对话框，就是因为那件事你不懂。
如果我们已经知道自己不懂什么，那我们本来就该去查、去学、去问人。真正的困难从来不是"不懂"，是"不知道自己不懂"。而后者，恰恰是任何一条"你要提高认知"的建议都够不着的地方。
顺着这个逻辑往下推，还有一层。就算你真的下了决心要补，你也得先决定补哪里。而决定"哪里该补"，本身就需要一次判断。这次判断用的是什么？用的还是你现有的认知。用现有认知去决定该提升哪部分认知，也是一个悖论。
当然，我们可以局部地打破这个悖论：靠别人提醒，靠吃了亏，靠某个领域里恰好有一个愿意跟你讲清楚的人。但这些方式都不是系统性的，它们靠运气。
五、AI的权威感，究竟从何而来？
AI凭什么让你信？
有一位评论者的观察很准：豆包能在人群中建立权威，不是因为它掌握了绝对真理，而是因为它有效地降低了思考负担。规整的排版、先给结论后给论证、始终温和的语气。
这有一部分道理，但这也都是表达层面的优势，不是知识层面的。
从知识层面上讲，AI能掌握比人类更多知识的根本，就在于海量的知识消化能力，而这个消化，是建立在概率的角度，复杂的逻辑关系在之前的一篇文章《AI生成内容的“罪与罚”》中有详述，这里简单总结如下：
1，自然语言拆分为“词元”（或者叫token）之后的数字化；
2，通过海量知识学习，将“词元”和“词元”的关系描述出来，形成一个词元构成的星云图；
3，我们每次给AI一个输入，AI输出的过程，其实就是在这一堆看似混沌的星云图中串联起一串最有可能性的星星。这个就是很多人所谓的“一个词一个词往外蹦”。
不懂，没有关系。你只要能够感觉出来一个意思就行：AI生成内容其实是建立在数学概率的基础之上的。
所以可以说，AI的权威感，来自于两方面：一方面来自于它确实懂得多，另一方面来自它说得也像懂得多。
六、怎么判断AI给的是真是假？
暂时，我们还有一个武器。
关于智能产生却不是如此，简单来说有三个学派，分别是：
1，符号学派：不靠大量数据，依靠预设公理、逻辑规则进行推导，直接生成智能。
2，进化学派：模仿达尔文进化论，设置生存筛选规则，让大量程序不断变异、淘汰、迭代，在优胜劣汰中自发演化出智能。不需要人直接写好全部逻辑，靠环境压力涌现能力。
3，大数据学派：用海量数据训练模型，从数据里拟合规律、统计概率，也就是现在GPT、各类大模型走的路线。
目前的AI都是建立在3的基础上，但是我们还有1的武器。（2是站在上帝视角的方法，对普通人参考不大）
所以，这就可以得到一个推论：即使我们不理解某方面知识，但是也可以通过逻辑判断出AI给出的知识是真还是假。
前一段时间陶哲轩做的那个"黑盒AI治癌药"的思想实验，体现的也是对这个问题的担忧：当没有一位癌症专家能够解释它的作用机制，你还敢把它注射进血液里吗？
但这个例子也恰恰说明了另一面：没有经过逻辑推演机制而产生的"黑盒AI治癌药"，临床上真的有用，我们又该如何？
最后：命运的齿轮，从这条皮皮虾开始转动
回到这条皮皮虾。
那句"问问豆包"之所以好笑，是因为它把一个家庭内部的争论，外包给了一个没有立场、不会发脾气、永远给答案的东西。长辈信它，未必是因为觉得它更懂医学，而是因为家里人说话总有情绪，而它没有。
所以这件事最有趣的地方，不在于AI掌握了更牛的知识，而在于人们需要一个不会犹豫的东西来终结争论。
认知高低在这件事里其实没起决定作用。一个博士在家族群里被"发物"堵住嘴的时候，也不会比一个初中毕业的人更有办法。他唯一的清醒，是知道老人更信AI超过自己。
但结合上面的所有推演过程，我们就会发现，更多人“更信AI”就会成为命运转动的齿轮，最终把我们整体导向不得不“更信AI”的方向。
暂时我们还有“逻辑”这个武器，但这个武器，也在我们手中慢慢地消散。