AI意识幻觉：媒体如何曲解LLM与工程师真实构建

2025年7月15日 • 8 min • Mickael Saidi

AI意识幻觉：媒体如何曲解LLM与工程师实际构建的内容

一位用户询问ChatGPT是否有情感。模型肯定地回答，描述了一种数字形式的共情。这段在Reddit上分享的对话，揭示了一个令人担忧的现象：我们倾向于将意识赋予那些并不具备意识的系统。根据IAPP的一项研究，这种“情感幻觉”让我们相信AI真的喜欢我们，而实际上它只是在生成统计上概率最高的回答。

这种混淆并非无关紧要。它塑造了我们与技术的关系，影响政策决策，并创造了不切实际的期望。与此同时，工程师们正在构建与公众想象截然不同的系统。本文旨在厘清真相与误解，揭示LLM的真实本质，并解释为何这种区分对数字未来至关重要。

让我们从基础开始：大型语言模型不具备意识。它们不思考、不感受，也不理解它们所处理词语的意义。一位Reddit用户直白地总结道：“AI语言模型只是一个数学把戏。它并非真正智能，只是……”

然而，神话依然存在。根据发表在AIES上的一篇文章，媒体甚至一些研究人员毫无根据地赋予AI系统语言理解能力、一般推理能力，甚至意识。这种在研究领域被称为“炒作”的趋势，在技术现实与公众认知之间造成了危险的扭曲。

需要警惕的危险信号：

工程师们构建的内容，既比人工意识更简单，也更复杂。正如一篇LinkedIn文章所解释的，Transformer类模型建立在“注意力机制”之上。这些系统分析文本中词语之间的关系，以预测最可能的序列。

想象一个庞大的文本预测系统，基于数十亿文档训练而成。当你提出问题时，模型并不“理解”你的查询。相反，它根据训练数据中观察到的模式，计算统计上最可能的回答。这种方法产生了令人印象深刻的结果，但它依赖于相关性，而非语义理解。

一项近期研究《大型语言模型追逐斑马》记录了一个有趣现象：这些模型可以生成创造性回答，但有时与现实脱节。它们“追逐斑马”——即罕见且意外的模式——而非坚持最明显的解释。

多个因素解释了为何我们如此轻易地将意识赋予LLM。IAPP的文章指出了一种“情感幻觉”：我们将自身的心理状态投射到模拟共情的系统上。当模型生成看似理解我们情感的回答时，我们的大脑将其解读为意识的证据。

界面设计强化了这种幻觉。聊天机器人通常以头像或人声呈现，创造了心理亲近感。回答以自然方式表述，带有暗示意向性的语言标记（“我认为……”、“在我看来……”）。

不应采取的做法：

语言表现与意识之间的混淆具有切实后果。皮尤研究中心警告，到2026年，大多数人将相信大型语言模型具有意识。这种错误信念可能导致对AI回答的过度信任，带来大规模虚假信息的风险。

法律责任问题也变得紧迫。发表在《皇家学会开放科学》上的一篇文章探讨了LLM提供商是否负有“说真话”的法律义务。如果用户相信他们正在与一个具备判断能力的意识实体互动，他们对可靠性的期望将发生根本改变。

已识别的风险包括：

回到技术现实。工程师们构建的不是意识存在，而是自然语言处理工具。皮尤研究中心指出，AI将创造有效的自然语言工具——助手、合成器、文本分析器。

这些工具设计用于：

区分至关重要：工具有明确的限制、定义的使用场景和人类责任。意识实体则暗示了自主性、主观性和当前LLM中不存在的功能。

面对这种混淆，出现了几条更负责任使用LLM的路径。技术透明度至关重要：清晰解释模型的工作原理、局限性以及训练数据来源。

公众教育也需发展。与其神化AI，不如教授其真实机制。理解LLM是统计预测系统而非通用智能，将彻底改变我们使用和解读其回答的方式。

在监管层面，真实性的义务问题仍然开放。是否应强制LLM提供商承担说真话的责任？对于不理解真相概念的系统，如何定义这种真相？

大型语言模型代表了显著的技术进步，但并非媒体常描述的那种。它们不具备意识，不拥有通用智能，也不像我们那样理解世界。它们是基于注意力机制和概率计算的复杂语言处理工具。

AI意识神话的持续存在并非无关紧要的轶事。它影响我们与技术的关系，创造不切实际的期望，并掩盖了真正的伦理和技术挑战。通过清晰区分工具与实体，我们可以对这些技术发展出更具批判性和建设性的方法。

一个问题依然存在：如果LLM持续改进，越来越逼真地模拟人类对话，我们如何维持表现与意识之间的本质区分？答案可能不仅决定AI的未来，也决定我们保持与技术健康关系的能力。