理解 Few-Shot Prompting 在 Prompt Engineering 中
Few-Shot Prompting 简介
欢迎来到引导工程中令人着迷的Few-Shot Prompting世界！如果您一直对如何使您的语言模型在最小的示例下执行特定任务疑惑不止，那么您来对了地方。本文旨在成为您理解Few-Shot Prompting的终极资源，让您不仅掌握概念，还知道如何有效实施。那么，让我们开始吧！
Few-Shot Prompting 的工作原理
什么是 Few-Shot Prompting？
Few-shot prompting是一种技术，在这种技术中，您向机器学习模型（尤其是语言模型）提供一小组示例，以指导其在特定任务中的行为。与传统的机器学习方法需要大量训练数据不同，few-shot prompting允许模型仅使用少量示例就能理解任务。当您拥有有限的数据或需要快速结果时，这非常有用。
关键组件：
- Prompt模板：这是保存您的示例的结构。它通常是一个字符串，在其中可以插入变量。
- 示例：这些是指导模型的实际数据点。每个示例都是一个带有输入变量作为键和相应数据作为值的字典。
Few-Shot Prompting 的示例
现在我们已经涉及了few-shot prompting的机制和类型，让我们深入探讨一些实际示例。这些示例将让您更清楚地了解如何在各种情况下应用此技术。
穆罕默德·阿里 vs 艾伦·图灵：谁活得更久？
在这个例子中，我们将使用少量示例和中间步骤来确定谁活得更久：穆罕默德·阿里还是艾伦·图灵。
操作步骤：
-
定义任务：最终目标是找出穆罕默德·阿里和艾伦·图灵之间谁活得更久。
-
确定中间步骤：中间步骤包括找出穆罕默德·阿里和艾伦·图灵去世时的年龄。
intermediate_steps = [
"找出穆罕默德·阿里去世时的年龄。",
"找出艾伦·图灵去世时的年龄。"
]- 运行模型：将这些中间步骤作为few-shot示例提供给模型。
examples = [
{
"question": "穆罕默德·阿里去世时多大？",
"answer": "74"
},
{
"question": "艾伦·图灵去世时多大？",
"answer": "41"
}
]- 分析结果：根据答案，我们可以得出结论，穆罕默德·阿里比艾伦·图灵活得更久。
乔治·华盛顿的外祖父
假设您对乔治·华盛顿的外祖父感到好奇。这是一个非常适合使用Few-Shot Prompting与中间步骤的任务。
操作步骤：
-
定义任务：最终目标是确定乔治·华盛顿的外祖父。
-
确定中间步骤：首先，找出乔治·华盛顿的母亲，然后确定她的父亲是谁。
intermediate_steps = [
"确定乔治·华盛顿的母亲是谁。",
"找出她的父亲是谁。"
]- 运行模型：提供这些步骤作为few-shot示例。
examples = [
{
"question": "乔治·华盛顿的母亲是谁？",
"answer": "玛丽·鲍尔·华盛顿"
},
{
"question": "玛丽·鲍尔·华盛顿的父亲是谁？",
"answer": "约瑟夫·鲍尔"
}
]- 分析结果：根据模型的答案，我们可以得出结论，乔治·华盛顿的外祖父是约瑟夫·鲍尔。
零样本 vs 少样本提示
零样本提示是指当您要求模型执行一个任务而不提供任何示例时的情况。模型仅依靠提示中给出的指令。例如，如果您要求模型将文本分类为正面、中性或负面情感，它将仅基于问题进行分类。
另一方面，少样本提示涉及提供一组示例来指导模型的行为。这些示例充当了一张路线图，帮助模型更好地理解手头的任务。
何时使用零样本，何时使用少样本？
-
零样本提示：适用于不需要上下文理解的简单任务。例如，像"法国的首都是什么？"这样的简单查询可以使用零样本提示有效地回答。
-
少样本提示：最适合复杂的任务，需要更深层次的理解或涉及多个步骤。例如，如果您想找出两位历史人物之间谁活得更久，使用带有中间步骤的少样本提示将是正确的选择。
如何设置 Few-Shot Prompts
- 创建示例列表：第一步是创建一个列表，模型将使用这些示例作为指导。每个示例应该是一个字典。例如：
examples = [
{
"question": "法国的首都是什么？",
请提供此Markdown文件的中文翻译。如果有frontmatter，请确保将language参数翻译为相应的zh。对于代码，请不要翻译代码，只翻译注释。请不要翻译示例提示的内容。
```markdown
## 提示工程中的少训练提问
少训练提示是一种用于提问和指导语言模型的技术。它允许您向模型展示一小组示例以帮助其了解任务，并生成相应的响应。这种方法对于某些任务非常有用，尤其是当您没有大量标注数据时。
在本文中，我们将探讨少训练提示的原理、类型和实际应用。我们还将介绍如何使用PromptTemplate对象和自问自答搜索来设置少训练提示。
### 提示的三个步骤
使用少训练提示进行任务的基本结构一般分为以下三个步骤：
1. **提供示例**: 首先，您需要提供一组示例来指导模型。这些示例是一个问题和它的答案的组合。例如：
```json
[
{
"question": "德国的首都是什么?",
"answer": "柏林"
},
{
"question": "法国的首都是什么?",
"answer": "巴黎"
},
{
"question": "2 + 2等于多少?",
"answer": "4"
}
]- 格式化示例: 下一步是将这些示例格式化为模型可以理解的字符串。这就是PromptTemplate对象发挥作用的地方。下面是如何进行格式化的示例：
from some_library import PromptTemplate
example_prompt = PromptTemplate(input_variables=["question", "answer"], template="问题: {question}\n答案: {answer}")- 向模型提供示例: 最后，您将这些格式化的示例与您希望模型执行的任务一起提供给模型。通常，这可以通过将示例添加到实际的提示中来完成。
prompt = "问题: 德国的首都是什么?"
formatted_examples = example_prompt.format(examples)
final_prompt = formatted_examples + prompt通过遵循这些步骤，您基本上设置了一个几把引子。模型现在将使用这些示例更好地理解和回答最终提示中的问题。
自问自答搜索的少训练提示
最引人注目的少训练提示类型之一是“自问自答搜索”方法。在这种方法中，模型被配置为根据提供的少训练示例向自身提问。当您处理需要模型浏览大量信息的复杂查询时，这一方法尤其有用。
工作原理:
- 配置模型: 首先，您需要为模型设置能够向自身提问的能力。这通常涉及一些初始设置，您可以在其中定义模型可以提问的问题的类型。
self_ask_config = {
"types_of_questions": ["definition", "example", "explanation"]
}- 提供少训练示例: 接下来，您向模型提供一组少训练示例，以指导其提问过程。
examples = [
{
"self_ask_type": "definition",
"question": "什么是光合作用?",
"answer": "绿色植物利用阳光将光合作用转化为食物的过程。"
},
{
"self_ask_type": "example",
"question": "给出一个可再生资源的例子。",
"answer": "太阳能"
}
]- 运行模型: 最后，您使用这些配置和示例运行模型。模型现在将根据示例和定义的类型向自身提问，帮助其更好地理解任务。
中间步骤的少训练提示
另一种强大的少训练提示类型是使用中间步骤来得出最终答案的方法。这对于需要逻辑推理或多步解决的任务特别有用。
工作原理:
-
定义任务: 明确定义最终目标或最终答案应该是什么。例如，如果您想知道两个人中谁活得更久，您的最终目标是确定那个人。
-
确定中间步骤: 列出要回答或执行以得出最终结论所需的步骤或问题。例如，您可能需要首先找出两个人在去世时的年龄。
intermediate_steps = [
"找出穆罕默德·阿里去世时的年龄。",
"找出艾伦·图灵去世时的年龄。"
]- 运行模型: 将这些中间步骤作为少训练示例提供给模型。然后，模型将使用这些步骤逻辑地得出最终答案。
通过理解和实践这些类型的少训练提示，您可以使用语言模型解决各种复杂的任务。无论是回答复杂问题还是解决多步问题，少训练提示都提供了一个稳健而灵活的解决方案。
常见问题（FAQ）
零样本提示与少训练提示有什么区别？
零样本提示是在没有任何先例的情况下要求模型执行任务。而少训练提示则是向模型提供一组示例以指导其行为。
少样本学习的一个例子是什么？
少样本学习的一个例子是通过为每个品种提供仅仅几个示例，来教模型识别不同品种的狗。
提示工程中的一次或少次训练是什么？
一次训练是提供一个示例以指导模型的行为，而少次训练则涉及多个示例。这两种技术都属于提示工程的范畴，提示工程是为机器学习模型设计有效的提示的实践。
提示的三种类型是什么？
提示的三种主要类型是零样本提示、一次提示和少训练提示。每种类型都有其自身的优点和缺点，选择哪种类型取决于具体的任务。
结论
少训练提示是提示工程中一种强大而多功能的技术。无论您处理简单的查询还是复杂的多步任务，少训练提示都可以提供一个稳健的解决方案。通过理解其原理、类型和实际应用，您可以发掘语言模型的全新能力。
请继续关注关于提示工程和机器学习的更多深入文章。祝您提示愉快！
