DeepSeek与AI幻觉-清华大学-202502.pdf
该文档是关于 DeepSeek 与 AI 幻觉的报告，由清华大学新闻与传播学院新媒体研究中心和人工智能学院双聘教授@新媒沈阳团队和博士后张家铖于2025年2月制作。报告探讨了AI幻觉的定义、DeepSeek产生幻觉的原因、AI幻觉的评测方法、如何减缓AI幻觉以及AI幻觉的创造力价值。
**核心内容包括：**
1. **AI幻觉的定义：** 模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质是统计概率驱动的“合理猜测”。分为事实性幻觉（与现实世界不一致）和忠实性幻觉（与用户指令不一致）。
2. **DeepSeek 产生幻觉的原因：** 数据偏差、泛化困境、知识固化和意图误解等。
3. **AI幻觉的潜在风险：** 信息污染风险、信任危机、控制欠缺和安全漏洞等。
4. **AI幻觉评测：** 通过通用性测试和事实性测试评估不同大模型的幻觉率，结果显示，不同模型幻觉率存在差异，且推理能力与幻觉率存在双向作用机制。
5. **如何减缓AI幻觉：** 通过联网搜索、双AI验证/大模型协作、提示词工程（知识边界限定、对抗性提示）等方法降低幻觉。
6. **幻觉高发场景：** 知识边界模糊、复杂推理、技术性诱发、数据引用、情感驱动和特殊领域等。
7. **应对AI幻觉的技术方案：** RAG框架、外部知识库、精细训练和评估工具等。
8. **AI幻觉的创造力价值：** 在科学发现（蛋白质设计）、文艺与设计（超现实引擎）、娱乐与游戏（创造新的视觉和听觉体验）和技术创新等方面具有潜在价值。
总的来说，报告全面分析了AI幻觉，并提出了应对和利用幻觉的策略，强调了理解幻觉、享受幻觉，发掘幻觉带来的创意灵感。
相关报告
-
42.68 MB 52页 DeepSeek：回望AI三大主义与加强通识教育-浙江大学-202502.pdf
-
11.47 MB 98页 DeepSeek内部研讨系列：DeepSeek与AIGC应用-北京大学-202502.pdf
-
6.71 MB 55页 DeepSeek模型本地部署与应用构建-清华大学-202502.pdf
-
15.88 MB 145页 清华大学《文科生零基础AI编程：快速提升想象力和实操能力》202502.pdf
-
3.03 MB 37页 DeepSeek政务应用场景与解决方案（最新版）-清华大学-202503.pdf
-
38.77 MB 57页 DeepSeek的本地化部署与AI通识教育之未来-浙江大学-202503.pdf
-
16.73 MB 117页 2025年DeepSeek完全实用手册V1.0——从技术原理到使用技巧-至顶AI实验室-202502.pdf
-
18.77 MB 100页 DeepSeek+DeepResearch：让科研像聊天一样简单（完整版）-清华大学-202502.pdf
-
23.57 MB 73页 2025 DeepSeek自学手册：从理论到实践-ai呀蔡蔡-202502.pdf
-
15.57 MB 86页 DeepSeek+DeepResearch——让科研像聊天一样简单-清华大学-202502.pdf
-
9.92 MB 59页 DeepSeek+DeepResearch应用报告-清华大学-202502.pdf
-
16.78 MB 75页 DeepSeek如何赋能职场应用——从提示语技巧到多场景应用（0212）-清华大学-202502.pdf
-
7.72 MB 44页 DeepSeek原理与效应-天津大学-202502.pdf
-
4.54 MB 65页 普通人如何抓住DeepSeek红利-清华大学-202502.pdf