跳到主要内容

如何在对话模版中添加背景信息?

当进行增强检索生成(RAG)时,我们可能需要将背景信息(context)添加到对话中,让大模型参考背景信息生成回答,并通过指标对回答的质量进行评估。

可以在对话模版中插入变量名{{context}},在合成消息样本时,它将会被变量列表定义中的context列表值所替换。

比如,在对话模版的System角色内容中,你可以这样输入:

请根据以下的背景信息回答问题
{{context}}

假设某一组变量的context取值为: context 1, context 2, context 3

在合成样本后,实际的消息内容将会是:

请根据以下的背景信息回答问题
- context 1
- context 2
- context 3