文/陈根
最近网上有一则新闻说，豆包每天承接超过2000万次健康咨询，几乎是全国医院日均门诊量的两倍。诊室里，患者掏出手机，对着屏幕念：“大夫，豆包说我这可能是间质性肺炎，你觉得它说得对吗？”医生被迫进入自证模式。有医生自嘲：“北京急需建立豆包医院。”
这不是简单的技术冲击，而是一场关于知识、权威、责任与人类认知边界的深层重构。患者用AI“备课”，表面看是打破了医患信息差，实际却暴露出一个更根本的问题：如果不能正确理解AI——尤其是中文大语言模型普遍存在的幻觉问题——我们很容易把概率生成的流畅文本，误当成可靠知识。
更危险的是，长期如此，我们会逐渐被AI驯化，最终陷入算法强化下的偏执，把人类锁进更狭隘的认知牢笼。
一、幻觉不是bug，而是大模型的结构性特征
大语言模型的核心机制，是根据训练数据的统计规律，预测下一个最可能出现的词。它并不“知道”世界是什么样的，也不具备真正的事实核查能力。当数据覆盖不足、知识过时，或问题涉及复杂推理时，模型仍会生成逻辑自洽、语气自信的回答——即使内容是虚构的。
这就是“幻觉”（Hallucination）。用人话说，就是一本正经地胡说八道，就跟我们人老了之后，记忆力衰退下，但是我们的语言能力还在，于是就会出现在描述事情的时候，出现记忆混乱的情况。我们听起来好像是正确的语言，但是描述的内容并不是真实的情况。
它危险的地方在于，幻觉往往伪装成专业、完整、有条理的结论。用户看到的不是“我不确定”，而是一份听起来像诊断书的文本。医疗场景尤其脆弱——症状描述模糊、患者表述不完整、罕见病或共病时，模型更容易“脑补”出看似合理的解释。
研究显示，即便顶尖通用模型，在复杂临床任务中的幻觉率仍可达20%以上，部分开源模型更高。中文模型在医疗垂直领域的知识密度、循证医学文献覆盖、实时更新能力上仍有明显短板，幻觉风险更为突出。
幻觉不是偶尔出错，而是概率生成的必然副产品。只要模型依赖“预测下一个词”，它就无法彻底摆脱“编造得像真的一样”的能力。
二、当幻觉进入诊室：权力关系的悄然转移
患者为什么愿意信豆包？因为现实医疗有真实痛点：挂号难、问诊时间短、半夜无人答、解释不充分。AI可以反复追问、整理病史、生成“就诊小抄”，确实填补了空白。
但当患者把AI答案当作“准权威”来质疑医生时，诊室里的权力关系发生了微妙转移。医生不再只是面对病情，还要面对一个“第三方权威”——一个不会承担责任、却能生成流畅文本的系统。医生被迫解释“为什么我比它强”，而不是专注于病史、查体与判断。
更深的问题在于：AI给出的不是“知识”，而是“看起来像知识的语言”。它缺乏临床经验的沉淀、个体差异的感知、责任的承担。它不会为误判负责，也不会在患者出现意外时站出来。
真正的医疗决策，从来不是信息检索，而是在不确定性中做出负责任的选择。把AI当成“更高权威”，本质上是把概率文本误当成确定性知识。
三、被AI驯化：从“参考工具”到“认知牢笼”
如果不能正确认识AI的能力边界，更深层的危险就会出现：我们会被AI驯化。
AI的回答往往流畅、自信、结构清晰，容易给人“它比我懂”的错觉。长期依赖这种反馈，人会逐渐把AI的输出当作思维的参照系。
一旦AI给出某个方向的判断，用户就倾向于沿着这个方向继续追问、验证、强化，形成自我闭环。算法的推荐与生成机制，会进一步放大这种倾向——它更擅长提供“符合你当前认知框架”的内容，而不是挑战你的框架。
于是，偏执开始被算法强化。
原本只是一次健康焦虑，可能在反复与AI对话中，变成对某种疾病的过度解读；原本只是对医生建议的怀疑，可能在“AI支持我”的确认中，变成对整个医疗体系的不信任。人逐渐失去从多个角度审视问题的能力，把复杂、模糊、充满个体差异的现实，压缩进AI提供的单一叙事里。
这就是认知牢笼：表面上看，信息更多了、解释更细了；实际上，思维的弹性在下降，对不确定性的耐受在减弱，对权威的判断力在被外包。人类本应通过质疑、经验、责任来扩展认知边界，却可能在流畅的算法文本中，把自己锁进更狭隘的确定性幻觉里。
医疗只是最尖锐的切口。同样的逻辑，正在教育、决策、人际关系、公共讨论中同步发生。当我们把“AI说”当作思考的起点甚至终点时，我们不是在使用工具，而是在被工具塑造。
四、正确认识AI：从“信或不信”到“如何不被驯化”
要避免被误导，更要避免被驯化，必须先建立清晰的认知框架：
1. AI是工具，不是认知主体
它擅长信息整理、知识检索、初步科普，但不具备体格检查、影像判读、临床经验和伦理判断。它不能替代视触叩听，也不能替代“这个患者的特殊之处在哪里”的个体化思考。
2. 幻觉是默认状态，而非例外
在医疗这种高风险领域，必须把“可能出错”作为前提。看到流畅、自信的回答时，第一反应应是“它凭什么这么说？有没有相反可能？我的情况有没有特殊性？”
3. 使用边界必须清晰
适合问AI的：常见病科普、检查报告基础解读、用药注意事项、就医前整理症状。
绝不适合完全依赖的：初诊、急重症、用药方案、是否手术、是否住院等关键决策。
4. 带着AI答案去医院时，正确姿势是“参考”而非“质疑”
可以把AI整理的症状和疑问带去，帮助自己表达得更清楚，但最终诊断与治疗必须交给专业医生。把AI当成“第二意见”的参考材料，而不是“更高权威”。
5. 刻意保持认知弹性
真正的健康素养，不是会问AI，而是知道AI什么时候可靠、什么时候不可靠。主动寻找反例，主动保留不确定性，主动把最终判断权留在自己和专业人士手中。不让算法的流畅文本，成为思维的唯一坐标。
在概率生成的时代，守护思考的自主性
豆包日均2000万健康咨询的数字，说明AI已经深度嵌入普通人的健康决策链条。这既是效率的提升，也是风险的放大。
技术本身没有善恶，但它会放大使用者的认知局限。当大量用户把概率生成的文本当作“准医疗意见”，当诊室里医生被迫与AI“对答案”，当幻觉被流畅语言包装成确定性结论，当人逐渐把AI的输出内化为自己的判断框架——我们真正需要警惕的，不是AI太强，而是我们对AI的理解太浅，以及由此带来的自我驯化。
真正能让我们受益的，不是盲目信任，也不是全盘否定，而是正确认识AI的能力边界，尤其是它“一本正经胡说八道”的幻觉本质。只有这样，我们才能把AI用在刀刃上——作为辅助信息工具，而不是替代思考的“数字权威”。
技术不会为自己的错误负责。人必须为自己的健康、为自己的认知边界负责。在算法日益强大的时代，保持对“确定性”的警惕，守护思考的自主性，比获得一个流畅的答案更重要。
否则，我们以为自己在使用AI，最终却可能被AI使用。
