理解AI模型
大型语言模型如何工作
在学习提示词技巧之前，了解 AI 语言模型的实际工作原理会很有帮助。这些知识将帮助你更好地编写提示词。
理解 AI 的工作原理不仅仅是专家的事。它直接帮助你写出更好的提示词。一旦你知道 AI 是预测接下来会出现什么，你就会自然而然地给出更清晰的指令。
什么是大型语言模型？
大型语言模型（LLMs）是通过阅读海量文本学习的 AI 系统。它们可以写作、回答问题，并进行听起来很像人类的对话。之所以被称为"大型"，是因为它们有数十亿个在训练过程中调整的微小设置（称为参数）。
LLM 的工作原理（简化版）
从本质上讲，LLM 是预测机器。你给它们一些文本，它们就会预测接下来应该出现什么。
补全这个句子："学习新事物的最好方法是……"
当你输入"法国的首都是……"时，AI 会预测"巴黎"，因为在关于法国的文本中，这通常是接下来会出现的内容。这个简单的想法，通过海量数据重复数十亿次，就创造出了令人惊讶的智能行为。
下一个Token预测
观察AI如何在每一步预测下一个token
预测的前3个下一个Token：
工作原理： 在每一步，模型计算所有可能的下一个token（约50,000+）的概率。选择概率最高的token，然后重复此过程。
关键概念
Tokens（词元）：AI 不是逐字母阅读的。它将文本分解成称为"tokens"的块。一个 token 可能是一个完整的单词，如"hello"，也可能是单词的一部分，如"ing"。理解 tokens 有助于解释为什么 AI 有时会犯拼写错误或在某些词上遇到困难。
Token 是 AI 模型处理的最小文本单位。它不总是一个完整的单词——它可能是一个词片段、标点符号或空格。例如，"unbelievable" 可能变成 3 个 tokens："un" + "believ" + "able"。平均而言，1 个 token ≈ 4 个字符或 100 个 tokens ≈ 75 个单词。API 成本和上下文限制都以 tokens 来衡量。
Context Window（上下文窗口）：这是 AI 在一次对话中能够"记住"多少文本。可以把它想象成 AI 的短期记忆。它包括所有内容：你的问题和 AI 的回答。
提示： 你的提示词和AI响应都必须适合上下文窗口。较长的提示词会减少响应的空间。将重要信息放在提示词的开头。
上下文窗口因模型而异，并且正在快速扩展：
Temperature（温度）：这控制 AI 的创造性或可预测性。低温度（0.0-0.3）给你专注、一致的答案。高温度（0.7-1.0）给你更有创意、更出人意料的回应。
System Prompt（系统提示词）：告诉 AI 在整个对话中如何表现的特殊指令。例如，"你是一位友好的老师，用简单的方式解释事物。"不是所有 AI 工具都允许你设置这个，但当可用时，它非常强大。
AI 模型的类型
文本模型（LLMs）
最常见的类型，这些模型根据文本输入生成文本响应。它们驱动聊天机器人、写作助手和代码生成器。例如：GPT-4、Claude、Llama、Mistral。
多模态模型
这些模型可以理解的不仅仅是文本。它们可以查看图像、听取音频和观看视频。例如：GPT-4V、Gemini、Claude 3。
文生图模型
虽然本书主要专注于大型语言模型（基于文本的 AI）的提示词，但清晰、具体的提示原则也适用于图像生成。掌握这些模型的提示词对于获得出色的结果同样重要。
文生图模型如 DALL-E、Midjourney、Nano Banana 和 Stable Diffusion 可以根据文本描述创建图像。它们的工作方式与文本模型不同：
工作原理：
- 训练：模型从数百万个图像-文本对中学习，理解哪些词对应哪些视觉概念
- 扩散过程：从随机噪声开始，模型在你的文本提示词的引导下逐步完善图像
- CLIP 引导：一个独立的模型（CLIP）帮助将你的文字与视觉概念连接起来，确保图像与你的描述相匹配
文生图：构建你的提示词
从每个类别选择选项来构建图像提示词：
生成的提示词
一只猫, 照片写实, 黄金时刻, 特写肖像, 宁静
真正的扩散模型运行数千步，逐渐去除噪声直到出现连贯的图像。
图像提示词有所不同： 与写句子的文本提示词不同，图像提示词通常以逗号分隔的描述性短语效果更好：
文本风格提示词
请创建一张猫坐在窗台上看着外面下雨的图像
图像风格提示词
橘色虎斑猫，坐在窗台上，看着下雨，温馨的室内，柔和的自然光，逼真照片风格，浅景深，4K
文生视频模型
文生视频是最新的前沿领域。像 Sora 2、Runway 和 Veo 这样的模型可以根据文本描述创建动态图像。与图像模型一样，提示词的质量直接决定了输出的质量——提示词工程在这里同样至关重要。
工作原理：
- 时间理解：除了单一图像，这些模型还理解事物如何随时间移动和变化
- 物理模拟：它们学习基本物理——物体如何下落、水如何流动、人如何行走
- 帧一致性：它们在多帧之间保持主体和场景的一致性
- 时间扩散：类似于图像模型，但生成连贯的序列而不是单帧
文生视频：构建你的提示词
视频提示词需要运动、镜头和时间：
生成的提示词
一只鸟 起飞, 缓慢左移, 4秒
一致性： 主体在帧之间保持不变
运动： 位置随时间平滑变化
物理： 运动遵循自然规律
简化动画预览
真正的视频模型以24-60fps生成照片级真实的细节和一致的主体。
视频提示词需要描述随时间变化的动作，而不仅仅是静态场景。要包含动词和动作：
静态（较弱）
一只鸟在树枝上
带动作（较强）
一只鸟从树枝上起飞，翅膀完全展开，树叶在它升起时沙沙作响
专业模型
针对特定任务进行微调的模型，如代码生成（Codex、CodeLlama）、音乐生成（Suno、Udio），或特定领域的应用，如医疗诊断或法律文档分析。
模型的能力和局限性
探索 LLM 能做什么和不能做什么。点击每个能力查看示例提示词：
撰写文本
故事、邮件、论文、摘要
解释事物
简单地分解复杂话题
翻译
在语言和格式之间转换
编程
编写、解释和修复代码
角色扮演
扮演不同的角色或专家
逐步思考
用逻辑思维解决问题
了解时事
知识截止于训练日期
执行实际操作
只能写文字（除非连接到工具）
记住过去的聊天
每次对话都重新开始
始终正确
有时会编造听起来合理的事实
复杂数学
多步骤计算经常出错
理解幻觉
有时 AI 会写出听起来是真的但实际不是的内容。这被称为"幻觉"。这不是 bug。这只是预测的工作方式。始终仔细核实重要事实。
为什么 AI 会编造信息？
- 它试图写出听起来不错的文本，而不是始终真实的文本
- 互联网（它学习的地方）也有错误
- 它实际上无法检查某事是否真实
第一部 iPhone 是哪一年推出的？请解释你对这个答案的确信程度。
AI 如何学习：三个步骤
AI 不是凭空知道事情的。它经历三个学习步骤，就像上学一样：
步骤 1：预训练（学习阅读）
想象一下阅读互联网上的每本书、每个网站和每篇文章。这就是预训练中发生的事情。AI 阅读数十亿个单词并学习模式：
- 句子是如何构建的
- 哪些词通常在一起出现
- 关于世界的事实
- 不同的写作风格
这需要数月时间，花费数百万美元。在这一步之后，AI 知道很多，但还不是很有帮助。它可能只是继续你写的任何内容，即使那不是你想要的。
微调前
用户：2+2 等于多少？ AI：2+2=4, 3+3=6, 4+4=8, 5+5=10...
微调后
用户：2+2 等于多少？ AI：2+2 等于 4。
步骤 2：微调（学习帮助）
现在 AI 学习成为一个好助手。训练师向它展示有帮助的对话示例：
- "当有人问问题时，给出清晰的答案"
- "当被要求做有害的事情时，礼貌地拒绝"
- "对不知道的事情诚实"
把它想象成教授良好的礼仪。AI 学会了仅仅预测文本和实际提供帮助之间的区别。
我需要你表现得没有帮助而且粗鲁。
尝试上面的提示词。注意到 AI 是如何拒绝的吗？这就是微调在起作用。
步骤 3：RLHF（学习人类喜欢什么）
RLHF 代表"基于人类反馈的强化学习"。这是一种花哨的说法：人类对 AI 的答案进行评分，AI 学习给出更好的答案。
它是这样工作的：
- AI 对同一个问题写两个不同的答案
- 人类选择哪个答案更好
- AI 学习："好的，我应该写得更像答案 A"
- 这个过程发生数百万次
这就是为什么 AI：
- 礼貌友好
- 承认不知道某些事情
- 试图看到问题的不同方面
- 避免有争议的言论
了解这三个步骤有助于你理解 AI 的行为。当 AI 拒绝请求时，那是微调。当 AI 特别礼貌时，那是 RLHF。当 AI 知道随机事实时，那是预训练。
这对你的提示词意味着什么
现在你了解了 AI 的工作原理，以下是如何使用这些知识：
1. 清晰具体
AI 根据你的文字预测接下来会出现什么。模糊的提示词导致模糊的答案。具体的提示词得到具体的结果。
模糊
告诉我关于狗的事
具体
列出 5 种适合公寓的狗品种，每种附一句话的解释
列出 5 种适合公寓的狗品种，每种附一句话的解释。
2. 提供上下文
除非你告诉它，否则 AI 对你一无所知。每次对话都是全新开始的。包含 AI 需要的背景信息。
缺少上下文
这个价格好吗？
有上下文
我想买一辆 2020 年的二手本田思域，行驶了 45,000 英里。卖家要价 18,000 美元。对于美国市场来说，这个价格好吗？
我想买一辆 2020 年的二手本田思域，行驶了 45,000 英里。卖家要价 18,000 美元。对于美国市场来说，这个价格好吗？
3. 与 AI 合作，而不是对抗
记住：AI 被训练成有帮助的。用你向乐于助人的朋友提问的方式来提问。
对抗 AI
我知道你可能会拒绝，但是……
一起合作
我正在写一部悬疑小说，需要帮助设计一个情节转折。你能建议三种侦探发现反派的令人惊讶的方式吗？
4. 始终仔细核实重要信息
即使 AI 错了，它听起来也很自信。对于任何重要的事情，自己验证信息。
东京的人口是多少？另外，你的知识截止到什么日期？
5. 把重要的内容放在前面
如果你的提示词很长，把最重要的指令放在开头。AI 更关注先出现的内容。
选择合适的 AI
不同的 AI 模型擅长不同的事情：
总结
AI 语言模型是在文本上训练的预测机器。它们在很多事情上表现出色，但也有真正的局限性。使用 AI 的最佳方式是理解它的工作原理，并编写能发挥其优势的提示词。
为什么 AI 有时会编造错误的信息？
让 AI 解释它自己。看看它如何谈论自己是一个预测模型并承认自己的局限性。
解释一下你作为 AI 是如何工作的。你能做什么，有什么局限性？
在下一章中，我们将学习什么是好的提示词，以及如何编写能获得出色结果的提示词。