Terminez d'abord "Leçon 1 : Fondations de l’ingénierie des prompts" pour débloquer cette leçon.Aller à la leçon précédente

Introduction

Les grands modèles de langage sont, par défaut, flexibles — ils peuvent répondre dans n’importe quel format, n’importe quelle longueur, n’importe quel style. Pour une utilisation en production réelle dans des applications web, cette flexibilité devient un problème. Vous avez besoin de sorties prévisibles et analysables. Cette leçon couvre quatre techniques centrales pour contrôler ce que produit un LLM : les invites système pour définir un comportement persistant, les exemples en peu-shot pour enseigner les motifs de sortie par démonstration, l’application de formats pour garantir la structure et la gestion des cas limites lorsque le modèle tente de sortir du cadre.

Invites système vs Invites utilisateur

Les invites système sont envoyées comme un message séparé avec une priorité plus élevée que les messages utilisateur. Elles définissent le rôle du modèle, les contraintes et le ton pour l’ensemble de la conversation. Les invites utilisateur constituent la tâche ou la question réelle. Gardez l’invite système axée sur des règles stables et l’invite utilisateur axée sur la tâche variable.

typescript
const response = await openai.chat.completions.create({
model: "gpt-4o-mini",
messages: [
{ role: "system", content: "You are a JSON API. Respond ONLY with valid JSON. Never include explanations, markdown fences, or extra text. If you cannot comply, return {\"error\": \"reason\"}." },
{ role: "user", content: "List 3 colors" }
],
temperature: 0
});

Notez `temperature: 0` — lorsque vous avez besoin d’une sortie structurée, figez l’aléa à zéro. Des températures plus élevées introduisent des dérives de format même avec une invite système solide.

Exemples en peu-shot

Les invites en peu-shot signifient montrer au modèle 2 à 4 exemples de la correspondance exact input→output souhaitée, au lieu de la décrire. Le modèle apprend le motif par correspondance de motifs. Placez les exemples dans l’invite utilisateur ou comme paires message utilisateur/assistant alternées.

typescript
const messages = [
{ role: "system", content: "Extract the product name and price from review text." },
{ role: "user", content: "Review: The Sony WH-1000XM5 headphones cost $399." },
{ role: "assistant", content: '{"product": "Sony WH-1000XM5", "price": 399}' },
{ role: "user", content: "Review: Got the Instant Pot Duo for $99, works great." },
{ role: "assistant", content: '{"product": "Instant Pot Duo", "price": 99}' },
{ role: "user", content: "Review: My new Logitech MX Master 3S was a steal at 79 dollars." },
];

Le troisième message utilisateur n’a pas de réponse d’assistant — le modèle le complète. Comme il a vu deux exemples cohérents, il suivra presque toujours la même forme JSON.

un organigramme montrant que l’invite système + les exemples en peu-shot alimentent le LLM, produisant une sortie JSON structurée consommée par l’application web

Stratégies de renforcement du format

Lorsque le modèle est têtu et ignore vos instructions de format, superposez ces défenses dans cet ordre : d’abord, renforcez le prompt système avec des exemples négatifs explicites (« Ne pas écrire 'Here is your JSON:' »). Ensuite, passez à un modèle qui prend en charge le mode sortie structurée (mode JSON ou appel d’outils/fonctions) où l’API garantit un JSON valide. Troisièmement, ajoutez une étape de post-traitement dans votre code qui valide la sortie avec un schéma et réessaie en cas d’échec.

typescript
import { z } from "zod";
import { ZodError } from "zod";
const ColorList = z.object({
colors: z.array(z.string()).length(3)
});
async function getColors() {
const raw = await callLLM("List 3 colors");
try {
const parsed = ColorList.parse(JSON.parse(raw));
return parsed;
} catch (e) {
if (e instanceof ZodError) {
return { colors: [] as string[] };
}
throw e;
}
}

Le schéma Zod agit comme un contrat — si le LLM renvoie un nombre au lieu d’une chaîne, ou renvoie 4 couleurs au lieu de 3, le parsing échoue et votre mécanisme de secours s’active. Ne faites jamais confiance à la sortie brute du LLM en production.

Gestion des cas limites

Trois cas limites reviennent constamment. Premièrement, le modèle refuse et retourne des excuses plutôt que des données — gérez cela en détectant les phrases de refus et en réessayant avec une invite plus claire. Deuxièmement, le modèle hallucine un champ qui n’existe pas dans votre schéma — gérez cela en validant par rapport au schéma, pas seulement avec JSON.parse. Troisièmement, le modèle renvoie une sortie tronquée car il a atteint la limite de tokens — gérez cela en définissant explicitement max_tokens et en découpeant les longues requêtes, ou en demandant au modèle d’être concis.

Résumé

Contrôler la sortie de LLM n’est pas une seule astuce — c’est une pile de défenses. Commencez par un prompt système clair, ajoutez des exemples en mode few-shot lorsque le format est ambigu, imposer la structure avec des schémas et des validations, et prévoyez toujours une solution de repli pour les refus, les hallucinations et les truncations. Dans la prochaine leçon, nous aborderons l’appel de fonctions, qui permet au modèle de choisir entre des outils plutôt que de générer du texte libre.

Entraînement

Point de contrôle de la leçon

Révisez la leçon et recevez des conseils sur votre travail.

0/1
Répondu · 0/1