0 序

• 最近几年，AI大模型（比如GPT、Gemini、Claude、通义千问等）在公众视野中迅速走红。它们能写诗、编程、回答问题，甚至模仿人类语气聊天，让人不禁感叹：“人工智能是不是快超过人类了？”

• 但作为一名深耕大数据与AI领域多年的工程师，我想泼点冷水——这些模型虽然强大，却远非万能。它们更像是“高明的鹦鹉”，而非真正理解世界的智能体。今天，我们就来聊聊大模型的三大核心问题：局限性、潜在风险和使用时必须注意的事项。

本文不是在引导大家拒绝使用AI软件。相反地，而是鼓励大家使用AI产品的同时，需明晰AI的局限性与风险，而不尽信AI，避免使用者在未来因AI而产生某些个可能错误的决策。

在使用ai大模型的过程中，及时有哪些局限性、不足之处，了解其能力边界在哪。对我们人类提问者的最终决策，是非常重要的。

• 任何一项新兴事物的出现，必然是起源于旧事物，又大有不同于旧事物之处。定需客观看待，不可轻视，也不可无限夸大。

1 概述：AI大模型的局限性、风险与注意事项

局限性：看起来也许AI无所不能，其实不少使用场景中是受限的。
风险：便利背后也可能藏着陷阱

1.1 AI大模型的局限性、风险

1. 缺乏真实理解

大模型本质上是基于海量文本训练出的概率预测器。它并不“理解”语言背后的含义，只是学会了如何组合词语使其听起来合理。
典型案例：2023年，有用户让某知名大模型解释“量子纠缠”，模型给出了看似专业、逻辑严密的回答，甚至还引用了虚构的论文和作者。这种“一本正经地胡说八道”（业内称为“幻觉”）正是其缺乏真实知识体系的表现。

2. 无法处理动态或实时信息

• 大多数大模型的知识截止于训练数据的时间点。

• 问题：模型训练数据截止于特定时间点，无法实时获取新知识。
• 了解到这一点的意义：

a、提问时如果涉及在模型的知识库截止时间之后的，建议使用联网模式，而非深度思考模式。
b、一般情况下，期望响应更优质的深入思考的内容，还是默认深度思考模式----即 使用推理模型。

• 影响：对时效性强的领域（如新闻、科技进展）支持有限。(2025年上半年时此问题较为显著，2025年Q4再来看此现象，已有显著好转。)

• 典型例子: 如果你问“2024年诺贝尔物理学奖得主是谁？”，而它的训练数据只到2023年底，它要么答错，要么编造一个听起来合理的答案。

• 典型例子：2025年初时，DeepSeek App 在非联网模式下，大模型的知识有截止时间（deepseek v3：2024.07 openai gpt-4：2023.09）

3. 幻觉（Hallucination）与事实性错误

• 问题：模型生成内容看似合理但包含虚构事实、错误数据或逻辑矛盾。
• 影响：在医疗诊断、法律咨询等专业领域可能导致严重后果。
• 案例：ChatGPT曾错误描述历史事件或虚构学术论文引用。

4. 推理能力有限

• 尽管某些模型能解决复杂的数学题或逻辑谜题，但这种能力高度依赖训练数据中的模式匹配，而非真正的因果推理。一旦问题稍作变形，就可能彻底失效。

• 问题：数学证明、多步逻辑推理、因果推断等任务错误率高。
• 影响：难以替代人类专家处理高复杂度问题（如科研、工程设计）。
• 案例：GPT-4在解决国际数学奥林匹克（IMO）问题时准确率不足30%。

此情况，在逐步好转中，但仍客观存在。

5. 偏见与歧视放大器 (数据偏见与伦理风险)

• 大模型从互联网数据中学习，而网络本身就充满性别、种族、地域、文化等偏见。如果不加干预，模型会复现甚至强化这些偏见。

例如，早期版本的招聘辅助AI曾因训练数据中男性工程师占多数，而系统性地给女性简历打低分。

6. 隐私泄露隐患

• 用户输入的问题可能包含敏感信息（如病历、公司内部数据）。如果这些内容被用于后续训练或泄露，后果不堪设想。虽然主流厂商已加强隐私保护，但开源模型或小平台的风险依然存在。

7. 滥用与误导

• 大模型可被用于生成虚假新闻、伪造专家观点、批量制造钓鱼邮件等。

典型例子: 2024年某国选举期间，就有组织利用AI生成大量煽动性言论，干扰舆论走向。

8. 服务器计算资源与能耗较高 (短期视角) => 引发:国家间/企业间的算力竞赛

个人观点：但长期来看，大模型的使用成本、资源消耗必然会逐渐下降，任何技术革命都有【降本】这个特点。

• 问题：训练和推理需消耗巨量算力，碳排放与成本居高不下。
• 影响：部分中小企业可能难以负担私有化部署的服务器、人力等成本，加剧“AI资源垄断”。
• 影响数据：训练GPT-3耗电约1,287兆瓦时，相当于120个家庭年用电量。

9. 多模态理解与生成局限

• 问题：对图像、视频、音频等多模态内容的理解深度不足。
• 影响：跨模态任务（如视频内容总结、医学影像分析）准确率低。
• 案例：DALL-E 3生成的图像常出现肢体扭曲或逻辑错误。

10. 可解释性与透明度缺失

• 问题：模型决策过程为“黑箱”，难以追溯错误根源。
• 影响：在医疗、司法等需透明度的领域应用受限。
• 案例：模型拒绝贷款申请时无法提供具体依据。

11. 对抗攻击与安全性漏洞

• 问题：输入微小扰动即可误导模型输出错误或有害内容。
• 影响：易被恶意利用生成虚假信息、钓鱼内容。
• 案例：通过特定提示词可绕过安全限制生成暴力文本。

12. 长上下文处理能力不足

• 问题：超长文本（如百页文档）的关键信息提取与记忆能力弱。
• 影响：法律合同分析、长篇小说创作等场景表现不稳定。
• 案例：Claude 3在10万token上下文中的信息召回率低于60%。

13. 个性化与情感交互局限

• 问题：难以长期记忆用户偏好，情感共情能力机械化。
• 影响：教育、心理咨询等需深度个性化的场景体验不佳。
• 案例：AI心理咨询师可能重复模板化回应，缺乏针对性。

1.2 使用建议：如何与大模型安全共处？

1. 永远保持怀疑：对模型输出的事实性内容（尤其是数字、人名、事件）务必交叉验证。

重要决策时，对大模型输出的事实内容保持谨慎，可多个AI大模型软件中同时提问，交叉验证。

2. 不输入敏感信息：切勿将个人身份信息、商业机密或未公开的研究数据输入公共AI平台。

3. 明确使用边界：AI适合辅助创作、头脑风暴或初稿生成，但关键行业、关键岗位、关键决策（如医疗诊断、法律判断等）绝不能完全依赖它。

4. 关注来源与更新：优先选择透明度高、有明确伦理准则和更新机制的模型服务。

2 总结

• AI大模型是工具，不是神谕。它的强大在于效率与广度，而非深度与真理。作为使用者，我们既要善用其能，也要清醒认识其边界。唯有如此，才能在AI浪潮中既乘风破浪，又不失方向。

技术越强大，责任越重大。愿我们在拥抱AI的同时，始终保有一份审慎与敬畏。

Y 推荐文献

1. Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? —— FAccT会议论文，深刻揭示大模型的伦理与技术风险。
2. Weidinger, L., et al. (2021). Ethical and social risks of harm from Language Models. arXiv:2112.04359.
3. OpenAI. (2023). GPT-4 Technical Report. —— 官方技术文档，包含能力与局限性的实证分析。
4. Marcus, G. (2022). Artificial Confidence: Even the newest, buzziest systems of artificial general intelligence are stymied by the same old problems. Scientific American.
5. 国家互联网信息办公室等. (2023). 《生成式人工智能服务管理暂行办法》—— 中国对AIGC的监管框架，值得从业者关注。

X 参考文献