即时学习，也称为“基于即时的学习”，是一种新兴策略，允许预训练的 AI 模型（也称为“基础模型”）无需额外训练即可重新用于其他用途。
基础模型最初使用大量非结构化数据进行训练，然后使用标记数据针对特定任务进行微调。但是，这种方法需要在模型中引入新参数。例如，微调大型语言 BERT 模型以执行二进制分类将需要一组额外的 1,024 x 2 标记参数。
相比之下，基于提示的学习允许工程师在不需要新参数的情况下达到相同的目的。相反，在预训练阶段将自然语言文本提示（称为“提示”）注入到 AI 模型的输入中。它们的目的是主动为各种潜在的下游任务提供上下文。
什么是提示？
提示是与特定任务相关的上下文自然语言文本。例如，如果工程师想要启用大型语言模型来推荐一部电影，他们可能会在句子片段“worth watching”中添加提示“it is”，并创建提示“It is [blank]”。
如果工程师添加足够的上下文提示，则无需额外参数即可重新使用该模型，以成功预测空白是否应包含“推荐”一词或“不推荐”一词。
离散提示与软提示
上面的示例训练了一个大型语言模型 (LLM)，将一部电影归类为“值得一看”，提示为“It was”，这是一个“离散提示”。可以使用提示工程手动设计离散提示，也可以使用 AutoPrompt 等方法自动设计离散提示。在调整离散提示时，提示保持固定，并调整预训练模型。
相反，“软提示”本质上是在输入序列中注入的随机向量。在调整软提示时，预训练模型保持固定，并微调提示。
基于提示的学习的挑战
基于提示的学习弥合了模型的预训练阶段与其用于多个下游任务之间的差距。但是，尽管基于提示的学习具有优势，但它也带来了一些挑战。
在基于提示的学习中，可能很难：
1. 设计有效的提示。
通过研究人员提出了用于创建提示的手动和自动方法，这两种方法都需要：
训练 AI 模型的人了解其内部运作方式。
一种反复试验的方法。
基于提示的学习仅在有限的应用领域进行了探索——例如文本分类、问答和常识推理。其他领域，例如文本分析、信息提取和分析推理，将需要更具挑战性的提示设计方法。 （另请阅读：以数据为中心与以模型为中心的 AI：改进算法的关键。）
2. 找到提示模板和答案的正确组合。
基于提示的学习高度依赖于提示模板（例如，“它是”）和给定的答案（例如，“值得一看”）。为此，寻找模板和答案的最佳组合仍然具有挑战性，需要大量的反复试验。
尽管存在这些挑战，但作为培训基础模型的下一个演变，即时学习正在迅速出现。但要解释原因，我们需要缩小一点。
即时学习的历史
第一个机器学习模型是用监督学习训练的。监督学习使用标记的数据集和正确的输出样本来教导学习算法如何对数据进行分类或预测结果。但是，可能很难找到足够的标记数据来始终如一地使用此方法。
因此，特征工程成为机器学习管道的重要组成部分。特征工程从原始数据中提取最重要的特征，并在训练期间使用它们来指导模型。传统上，研究人员和工程师使用他们的领域知识来决定什么才算是“最重要”的特性。然而，近年来，深度学习的出现已经用自动特征学习取代了传统的“动手”特征工程。 （另请阅读：为什么特征选择在机器学习中如此重要？）
但这让我们回到了原点——用于训练机器学习模型的大型标记数据集仍然太少。
自我监督学习 (SSL) 是解决这一难题的一种可能方法。在这种无监督学习中，学习模型采用自定义信号作为监督，并将学习到的表示用于下游任务。 SSL 的出现使研究人员能够大规模训练 AI 模型，特别是对于自然语言处理 (NLP)。它还产生了基础模型：可以扩展以完成各种任务的预训练深度学习算法。
概括
人工智能研究领域正在经历范式转变，大型语言基础模型不是训练特定任务模型，而是在大规模数据集上进行预训练。
通过弥合预训练和下游任务之间的差距，基于提示的学习使得为下游任务部署预训练模型变得更加方便。这在由于大型标记数据集数量有限而难以微调预训练模型的任务中特别有用。 （另请阅读：AI 提高企业生产力的 6 大方式。）
