经过良好设计的 Prompt 通常由四个基本元素组成

  • 任务说明：向模型明确提出具体的任务要求。任务说明应当清晰，直接，并尽可能详细地描述期望模型完成的任务
  • 上下文：向模型提供的任务相关背景信息，用以增强其对任务的理解以及提供解决任务的思路。
  • 问题：向模型描述用户的具体问题或需要处理的信息。
  • 输出格式：期望模型给出的回答的展现形式。

随着 Prompt 内容的丰富和复杂化，输入到模型中的 Prompt 长度也随之增加，这不可避免地导致模型推理速度的减慢和推理成本的上升。

因此，在追求模型性能的同时有效控制和优化 Prompt 的长度成为亟待解决的问题。