Google人工智能提示工程.pdf

Google人工智能提示工程.pdf
这份文档是关于提示工程(Prompt Engineering)的白皮书,由李·布恩斯特拉(Lee Boonstra)撰写,并由谷歌发布。文档旨在介绍如何通过设计高质量的提示(Prompts)来引导大型语言模型(LLMs)产生更准确和有用的输出。 主要内容包括: 1. **介绍:** 强调提示工程的重要性,任何人都可以编写提示,但有效的提示需要迭代和优化。 2. **提示工程定义:** LLM本质是一个预测引擎,提示工程的目标是设计高质量的提示,引导LLM预测正确的token序列,涉及优化提示长度、写作风格和结构。 3. **LLM输出配置:** * **输出长度:** 控制生成的token数量,影响计算成本和响应时间。 * **采样控制:** 包括温度(Temperature)、Top-K和Top-P,用于控制token选择的随机性和多样性。 * 温度控制随机性,较低温度产生更确定性的响应,较高温度产生更多样化的响应。 * Top-K选择最可能的K个token,Top-P选择累积概率不超过P的token。 * 强调需要根据应用和期望的结果调整这些参数,并理解不同参数之间的相互影响。 4. **提示技巧:** * **零样本提示 (Zero-shot Prompting):** 仅提供任务描述和文本,不提供示例。 * **单样本和少样本提示 (One-shot & Few-shot Prompting):** 提供一个或多个示例,帮助模型理解任务并指导输出模式。 * **系统、上下文和角色提示 (System, Contextual and Role Prompting):** * 系统提示设定总体环境和目标。 * 上下文提示提供与当前任务相关的细节。 * 角色提示为模型分配特定的角色或身份。 * **Step-back Prompting:** 首先提出与特定任务相关的普遍问题,然后将该问题的答案反馈到后续的特定任务提示中。 * **思维链 (Chain of Thought, CoT):** 通过生成中间推理步骤来提高LLM的推理能力。 * **自洽性 (Self-Consistency):** 结合采样和多数投票,生成多样化的推理路径并选择最一致的答案。 * **思维树 (Tree of Thoughts, ToT):** 允许 LLM 同时探索多个不同的推理路径。 * **ReAct (Reason & Act):** 结合自然语言推理和外部工具,使 LLM 能够执行某些操作。 * **自动提示工程 (Automatic Prompt Engineering, APE):**使用模型生成更多提示,评估并优化它们。 5. **代码提示 (Code prompting):** * 强调LLM在代码生成、解释、翻译和调试方面的能力。 * 通过例子展示如何使用提示来生成代码片段、解释代码功能、将代码从一种语言翻译成另一种语言,以及调试代码中的错误。 6. **多模态提示 (Multimodal prompting):** 使用多种输入格式(文本、图像、音频、代码)来引导模型。 7. **最佳实践:** * 提供示例。 * 保持简洁明了。 * 明确输出要求。 * 使用指令而非约束。 * 控制最大token长度。 * 使用变量。 * 尝试不同的输入格式和写作风格。 * 在少样本提示中混合类别。 * 适应模型更新。 * 尝试不同的输出格式(如JSON)。 * 使用 JSON schema 结构化输入。 * 团队协作。 * 记录提示尝试。 * CoT的最佳实践:将答案放在推理之后,将温度设置为0。 总而言之,这份文档为读者提供了一个全面的提示工程指南,涵盖了各种提示技巧和最佳实践,旨在帮助读者更好地利用LLM解决各种问题。
在线阅读 下载完整报告 | 6.5 MB | 68页
阅读和下载会消耗积分;登录、注册、邀请好友、上传报告可获取积分。
成为VIP会员可免费阅读和下载报告