AI科研陷阱：干得多，学得少？

人工智能（AI）能提升科研生产力早已是共识，但耶鲁大学一位人类学家参与合著的新论文却提出了不同观点：这项技术的红利背后暗藏风险，可能会限制科学家认识世界的能力。

论文作者指出，未来部分AI技术可能会束缚研究者提出的问题、开展的实验，甚至限制他们解读数据与理论时的多元视角，最终让人们陷入“理解的错觉”——自以为对世界的认知远比实际更透彻。

耶鲁大学文理学院人类学家、论文合著者莉萨·梅塞里说：“存在这样一种风险：科学家借助AI产出更多成果，但真正理解的东西却在变少。我们并非反对科学家使用AI工具，而是呼吁大家展开探讨——到底该如何使用这些工具，同时也想提醒大家，不能想当然地认为，AI的所有用途或是无节制的广泛使用，一定能造福科学。”

这篇由普林斯顿大学认知科学家M·J·克罗克特共同撰写的论文，搭建了一套分析框架，专门探讨AI工具应用在科研全流程（从研究设计到同行评审）中伴随的各类风险。梅塞里表示：“我们希望这篇论文能提供一套话语体系，用来探讨AI潜在的认知风险。”克罗克特则补充道：“想要理解这些风险，科学家可以借鉴人文学科与定性社会科学的研究成果。”

梅塞里与克罗克特将当下科研圈热议的、覆盖科研全流程的AI应用，归纳为四类典型模式：

1. 人工智能充当“神谕者”：在研究设计阶段，这类工具能客观高效地检索、评估、梳理海量文献，帮研究者提出研究问题。
2. 人工智能充当“替代者”：在数据采集环节，它可以生成精准的替代数据，甚至在真实数据获取难度大、成本高时，替代人类受试对象。
3. 人工智能充当“量化分析师”：在数据分析阶段，它能突破人类智力局限，处理规模庞大、结构复杂的数据集。
4. 人工智能充当“裁决者”：在同行评审环节，它旨在客观评判科研成果的学术价值与可复现性，进而取代人类评审。

两位作者警示，在生产科学知识的过程中，这四类AI应用只能被当作工具，而非值得信赖的合作方。如若不然，科学家很容易陷入“理解的错觉”——视野被局限，误以为自己掌握了更多知识。

他们进一步提出，AI工具所承诺的效率与洞见，会催生“认知单一化”，进而损害科学知识的产出。在这种局面下，研究者会优先选择适配AI的研究问题与方法，忽视其他探究路径，最终形成“探索广度的错觉”：科学家误以为自己已经穷尽所有可检验的假设，但实际上，他们研究的只是AI能够处理的那一小部分问题。

克罗克特举了个例子：有些充当“替代者”的AI工具看似能精准复刻人类问卷反馈，这会让那些需要观测人类实际行为、开展面对面交互的实验愈发无人问津，只因这类实验耗时更长、成本更高。

除了“认知单一化”，两位作者还提到另一种隐患：人们会默认AI工具比人类科学家更客观可靠，由此催生“认知主体单一化”——AI系统被奉为唯一、权威、客观的认知来源，取代了由背景、受训经历、专业特长各不相同的研究者构成的多元科研共同体。

这种单一化会造成“客观性的错觉”：科学家错误地认为AI不存在立场、可以代表全部视角，但实际上，AI承载的是开发、训练它的计算机科学家的立场。

“科学界一直有一种观念，认为客观的观察者才是构建世间知识的理想主体。但这只是一种假象，从来不存在、也不可能存在绝对‘客观的认知者’，一味追逐这种假象，只会削弱科学本身。”梅塞里说。

两位作者补充，已有充分证据表明，研究者群体的多元性，会让科学研究更严谨、更富有创造力。克罗克特表示：“科学是一种社会实践，接纳多元立场才能释放它的全部潜力，认清这一点至关重要。用AI工具取代形形色色的人类视角，会让我们在科研多元化上取得的进步发生倒退。”

梅塞里还强调，我们不能忽视AI带来的社会影响，其波及范围远远超出实验室。“我们培养科学家时，会教会他们考量新技术的技术层面；却很少训练他们思考其社会层面，而这对于该领域未来的研究工作至关重要。