今天看了一篇 2024 年发表在Nature上的评论文章，题目是 Artificial Intelligence and Illusions of Understanding in Scientific Research（人工智能与科学研究中的“理解幻觉”）。作者是来自耶鲁和普林的两位教授。文章写得很好，也很有意思，像我这样的门外汉读起来也完全没有压力。

在使用 AI 的过程中，我们很容易产生所谓的 “illusion of understanding”（理解幻觉），即我们认为自己懂得比实际要多。

这种幻觉其实很常见：当人们可以随时搜索答案，或在做题时有 AI 辅助，往往会高估自己真正掌握知识的程度，把“随时可用的信息”误当成“自己的理解”（我好像也有这个问题

又或者：在科研中，科研人员看到一个预测效果很好的模型，就误以为已经理解了背后的机制。

问题在于，这种理解幻觉一旦不只是发生在个体层面，而是被整个科研系统反复放大，就会产生结构性的后果。

第一个后果是 monoculture of knowing (认知方式的单一化)。

当某些研究方法更便宜、更高效，或更容易得到制度性奖励，这些方法就迅速普及，逐渐主导知识生产。AI 正是这样一种工具。它尤其擅长、也更容易推动可被量化评估的研发方式。于是，那些需要关注主观经验、细微差别和复杂语境，或本身难以被机器量化的问题，由于难以从 AI 方法中获益，就可能面临被边缘化的风险。这就是作者所说的 monoculture of knowing，我们认识世界的方式可能变得越来越单一。

另一个是monoculture of knowers（认知主体的单一化）。

当 AI 被当作一种中立、权威的认知主体引入科研体系时，人类研究者之间原本存在的差异，如不同背景、经验、训练和视角，就可能被弱化甚至抹平。科研可能会再次走向“好像只有一种正确视角”的状态，这正是认知主体的单一化。

作者最后强调，他们并不主张拒绝 AI，而是我们在追求效率和产出的同时，必须持续反思 AI 如何被纳入科研的知识共同体，以及这种纳入方式是否正在悄然削弱理解的深度、多样性和批判性

任何在我出生时已经有的科技都是稀松平常的世界本来秩序的一部分； 任何在我15-35岁之间诞生的科技都是将会改变世界的革命性产物； 任何在我35岁之后诞生的科技都是违反自然规律要遭天谴的； Anything that is in the world when you’re born is normal and ordinary and is just a natural part of the way the world works. Anything that's invented between when you’re fifteen and thirty-five is new and exciting and revolutionary and you can probably get a career in it. Anything invented after you're thirty-five is against the natural order of things.