首先完成“课程1:提示工程基础”即可解锁本课程。转到上一课

简介

大型语言模型默认具有高度灵活性——它们可以以任何格式、任意长度、任何风格回答。为了在真实生产环境的网页应用中使用,这种灵活性会成为问题。你需要可预测、可解析的输出。本课介绍四大核心技术,以控制LLM产生的内容:通过系统提示设置持久行为;通过少样本示例通过示范教授输出模式;通过格式强制保证结构;以及在模型脱离剧本时对边缘情况的处理。

系统提示 vs 用户提示

系统提示作为一个独立消息发送,优先级高于用户消息。它们为整个对话定义模型的角色、约束与语气。用户提示则是实际的任务或问题。将系统提示聚焦于稳定规则,将用户提示聚焦于可变任务。

typescript
const response = await openai.chat.completions.create({
model: "gpt-4o-mini",
messages: [
{ role: "system", content: "You are a JSON API. Respond ONLY with valid JSON. Never include explanations, markdown fences, or extra text. If you cannot comply, return {\"error\": \"reason\"}." },
{ role: "user", content: "List 3 colors" }
],
temperature: 0
});

注意 `temperature: 0` —— 当你需要结构化输出时,将随机性锁定为零。较高的温度会在即使有强系统提示的情况下也引入格式漂移。

少样本示例

少样本提示的意思是给模型展示2-4个你希望的输入到输出的确切映射示例,而不是描述它。模型通过模式匹配来学习模式。将示例放在用户提示中,或作为交替的用户/助手消息对。

typescript
const messages = [
{ role: "system", content: "Extract the product name and price from review text." },
{ role: "user", content: "Review: The Sony WH-1000XM5 headphones cost $399." },
{ role: "assistant", content: '{"product": "Sony WH-1000XM5", "price": 399}' },
{ role: "user", content: "Review: Got the Instant Pot Duo for $99, works great." },
{ role: "assistant", content: '{"product": "Instant Pot Duo", "price": 99}' },
{ role: "user", content: "Review: My new Logitech MX Master 3S was a steal at 79 dollars." },
];

第三个用户消息没有助手回复——模型会填充。因为它看到了两个一致的示例,几乎总是会遵循相同的JSON结构。

显示系统提示+少样本示例流入LLM,生成结构化的JSON输出,由网页应用消费的流程图

格式化执行策略

当模型顽固并忽略你的格式指令时,按顺序加入这些防御:首先,用显式的负面示例来强化系统提示("切勿写出 'Here is your JSON:'")。其次,切换到支持结构化输出模式(JSON 模式或工具/函数调用)的模型,在那里 API 保证有效 JSON。第三,在代码中增加一个后处理步骤,用模式验证输出并在失败时重试。

typescript
import { z } from "zod";
import { ZodError } from "zod";
const ColorList = z.object({
colors: z.array(z.string()).length(3)
});
async function getColors() {
const raw = await callLLM("List 3 colors");
try {
const parsed = ColorList.parse(JSON.parse(raw));
return parsed;
} catch (e) {
if (e instanceof ZodError) {
return { colors: [] as string[] };
}
throw e;
}
}

Zod 规范充当契约——如果 LLM 返回的是数字而不是字符串,或返回 4 种颜色而不是 3 种,解析将抛出异常,你的回退机制将启动。绝不在生产代码中信任原始的 LLM 输出。

处理边界场景

常常会遇到三种边界场景。第一,模型拒绝并返回道歉而非数据——通过检测拒绝语并用更清晰的提示重新尝试来处理。第二,模型臆造一个在你的模式中不存在的字段——通过对模式进行校验,而不仅仅是 JSON.parse 来处理。第三,模型因为达到令牌限制而截断输出——通过显式设置 max_tokens、将长请求分块,或要求模型简洁表达来处理。

摘要

控制 LLM 输出不仅仅是一招——它是一系列防御。先有明确的系统提示,当格式模糊时加入少量示例,用模式和校验来强制结构,并始终为拒绝、幻觉和截断情况准备回退方案。下一节课我们将研究函数调用,它允许模型在工具之间进行选择,而不是生成自由文本。

课后练习

课程检查点

巩固所学知识,获取作业反馈。

0/1
已回答 · 0/1