AI大模型与Agent实战入门
第一模块：理论基础
第1节：大模型原理解谜
本节目标
- 理解大模型的核心工作原理
- 明白"猜下一个字"机制
- 掌握训练数据、参数规模、上下文窗口的概念
1.1 大模型是什么？
从"猜下一个字"讲起
**大模型的本质：一个超级智能的"接话游戏玩家
输入："床前明月光，疑是地上霜"
→ 大模型计算每个字的出现概率
→ 输出概率最高的下一个字："举"
核心机制：概率生成
核心原理：
1. 接收输入文本
2. 计算每个可能的下一个字的概率
3. 选择概率最高（或采样）
4. 重复，直到生成停止标记
关键点：
- ✅ 不是"理解"，是"预测"
- ✅ 基于统计概率，不是事实记忆
- ✅ 训练数据决定了知识边界
1.2 关键概念解释
训练数据（Training Data）
- 是什么： 用于训练模型的海量文本数据
- 规模： 万亿级别的Token（字/词）
- 内容： 书籍、网页、代码、论文等
- 影响： 数据质量决定模型"知道什么"
参数规模（Parameters）
什么是参数？
- 模型的"神经元"数量
- 存储知识和模式的能力
- 参数越多，能力越强，但成本也越高
常见模型参数规模：
- 7B → 入门级
- 70B → 专业级
- 400B+ → 旗舰级
上下文窗口（Context Window）
定义：
模型一次能"看到"和"记住"的文本长度
常见规格：
- 4K → 约3000字
- 128K → 约10万字
- 1M+ → 约75万字（一本书）
实际意义：
1.3 大模型的"记忆特点
✅ 擅长的事情
- 语言理解与生成
- 文本总结、翻译、改写
- 代码编写与解释
- 逻辑推理（有限）
❌ 不擅长的事情
- 精确的数学计算
- 实时信息（训练截止日后）
- 绝对准确的事实回忆
- 长期记忆（对话超过窗口外的内容）
本节小结
- **大模型本质：猜下一个字的概率模型
- 三大要素： 训练数据、参数规模、上下文窗口
- 能力边界： 知道很多，但不是万能
- 核心局限： 基于概率，不是事实
AI大模型与Agent实战入门
第一模块：理论基础
第2节：幻觉的本质与约束机制
本节目标
- 理解什么是幻觉
- 知道幻觉产生的原因
- 掌握约束幻觉的方法
2.1 什么是幻觉？
定义：
大模型"一本正经胡说八道"的现象
典型特征：
- 听起来非常合理
- 逻辑连贯、语法正确
- 但内容完全是编造的
- 模型自己"不知道"自己在胡说
现场演示：容易产生幻觉的问题
问题1： "请介绍一下2025年诺贝尔文学奖得主的代表作"
问题2： "诸葛亮的《出师表》中提到了哪些魏国将领？"
问题3： "请给我一个真实的身份证号码和对应的姓名
2.2 幻觉产生的根本原因
根源：概率生成 vs 事实记忆
| 人类思考方式不同：
人类： 记忆事实 → 检索记忆 → 输出事实
大模型： 统计概率 → 计算概率 → 输出概率最高的词
结论：
大模型"说"某个事实，不代表它"知道"这个事实是真的
2.3 幻觉产生的三种典型场景
场景1：知识盲区
- 问题涉及训练数据中没有的信息
- 模型不会说"我不知道"
- 只会"猜"一个最可能的答案
场景2：信息混淆
场景3：逻辑链条过长
- 多步推理累积误差
- 中间某一步错了，后面全错
- 模型不会"回头检查"
2.4 如何约束幻觉？
方法一：Harness层（ harness）
作用： 在模型外面加一层"安全带"
**具体手段：
- 工具调用校验
- 输出格式约束
- 安全过滤
- 重试机制
方法二：Superpowers技能框架
核心思想：
用标准化流程替代"自由发挥"
具体手段：
2.5 为什么结构化流程能约束幻觉？
flowchart TD
A[用户需求] --> B{自由发挥?}
B -->|是| C[大模型直接输出
容易跑偏
幻觉多]
B -->|否| D[标准化流程
Skill框架]
D --> E[步骤1: 需求澄清
避免瞎猜]
E --> F[步骤2: 方案设计
结构化输出]
F --> G[步骤3: 结果验证
自动检查]
G --> H[质量稳定
幻觉少]
style C fill:#ff6b6b,stroke:#ee5a5a,color:#fff
style H fill:#51cf66,stroke:#40c057,color:#fff
style D fill:#667eea,stroke:#764ba2,color:#fff
对比实验：同样的任务，不同的结果
| 不用Superpowers：
- 自由发挥
- 容易跑偏
- 幻觉多
- 质量不稳定
| 用Superpowers：
- 按步骤来
- 每步验证
- 幻觉少
- 质量稳定
本节小结
- **幻觉本质：概率生成的天然副产品，不是模型"故意骗人"
- 产生场景： 知识盲区、信息混淆、逻辑过长
- 约束方法： Harness层 + Superpowers技能框架
- 核心思想： 用流程约束自由，用验证替代"自由发挥"