登录注册

Google人工智能提示工程.pdf

Google人工智能提示工程.pdf

这份文档是关于提示工程（Prompt Engineering）的白皮书，由李·布恩斯特拉（Lee Boonstra）撰写，并由谷歌发布。文档旨在介绍如何通过设计高质量的提示（Prompts）来引导大型语言模型（LLMs）产生更准确和有用的输出。

主要内容包括：

  1. 介绍： 强调提示工程的重要性，任何人都可以编写提示，但有效的提示需要迭代和优化。

  2. 提示工程定义： LLM本质是一个预测引擎，提示工程的目标是设计高质量的提示，引导LLM预测正确的token序列，涉及优化提示长度、写作风格和结构。

  3. LLM输出配置：

    • 输出长度： 控制生成的token数量，影响计算成本和响应时间。
    • 采样控制： 包括温度（Temperature）、Top-K和Top-P，用于控制token选择的随机性和多样性。
      • 温度控制随机性，较低温度产生更确定性的响应，较高温度产生更多样化的响应。
      • Top-K选择最可能的K个token，Top-P选择累积概率不超过P的token。
    • 强调需要根据应用和期望的结果调整这些参数，并理解不同参数之间的相互影响。

  4. 提示技巧：

    • 零样本提示 (Zero-shot Prompting)： 仅提供任务描述和文本，不提供示例。
    • 单样本和少样本提示 (One-shot & Few-shot Prompting)： 提供一个或多个示例，帮助模型理解任务并指导输出模式。
    • 系统、上下文和角色提示 (System, Contextual and Role Prompting)：
      • 系统提示设定总体环境和目标。
      • 上下文提示提供与当前任务相关的细节。
      • 角色提示为模型分配特定的角色或身份。
    • Step-back Prompting： 首先提出与特定任务相关的普遍问题，然后将该问题的答案反馈到后续的特定任务提示中。
    • 思维链 (Chain of Thought, CoT)： 通过生成中间推理步骤来提高LLM的推理能力。
    • 自洽性 (Self-Consistency)： 结合采样和多数投票，生成多样化的推理路径并选择最一致的答案。
    • 思维树 (Tree of Thoughts, ToT)： 允许 LLM 同时探索多个不同的推理路径。
    • ReAct (Reason & Act)： 结合自然语言推理和外部工具，使 LLM 能够执行某些操作。
    • 自动提示工程 (Automatic Prompt Engineering, APE)：使用模型生成更多提示，评估并优化它们。

  5. 代码提示 (Code prompting)：

    • 强调LLM在代码生成、解释、翻译和调试方面的能力。
    • 通过例子展示如何使用提示来生成代码片段、解释代码功能、将代码从一种语言翻译成另一种语言，以及调试代码中的错误。

  6. 多模态提示 (Multimodal prompting)： 使用多种输入格式（文本、图像、音频、代码）来引导模型。

  7. 最佳实践：

    • 提供示例。
    • 保持简洁明了。
    • 明确输出要求。
    • 使用指令而非约束。
    • 控制最大token长度。
    • 使用变量。
    • 尝试不同的输入格式和写作风格。
    • 在少样本提示中混合类别。
    • 适应模型更新。
    • 尝试不同的输出格式（如JSON）。
    • 使用 JSON schema 结构化输入。
    • 团队协作。
    • 记录提示尝试。
    • CoT的最佳实践：将答案放在推理之后，将温度设置为0。

总而言之，这份文档为读者提供了一个全面的提示工程指南，涵盖了各种提示技巧和最佳实践，旨在帮助读者更好地利用LLM解决各种问题。

在线阅读 下载完整报告 | 6.5 MB | 68页
阅读和下载会消耗积分；登录、注册、邀请好友、上传报告可获取积分。
成为VIP会员可免费阅读和下载报告