Advertisement

【2024项目实训】千帆大模型 - 天气插件的调用

阅读量:

登陆千帆大模型平台,在左侧栏位系统配置下有系统配置 - 插件编排这个选项

在这里我已经配置好了一个自定义的插件,在这个插件内部使用了文心一言内置的天气插件;

接下来我将详细解释如何进行配置——

1、点击配置插件应用服务

2、选择你预设的场景——对话类或者是生成类

这里我选择的是对话类。

3、进入模型及参数设置

这里包含三个参数——温度、多样性和重复惩罚;

温度:

(1)较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定

(2)范围 (0, 1.0],不能为0

(3)建议该参数和多样性 只设置1个

(4)建议多样性温度 不要同时更改

多样性:

(1)影响输出文本的多样性,取值越大,生成文本的多样性越强

(2)取值范围 [0, 1.0]

(3)建议该参数和温度 只设置1个

(4)建议多样性温度 不要同时更改

重复惩罚:

(1)通过对已生成的token增加惩罚,减少重复生成的现象。

(2)值越大表示惩罚越大

(3)取值范围:[1.0, 2.0]

by the way 重复惩罚类似于自适应梯度下降;

在参数的下方,我们可以设置提示词 ,这相当于对场景进行预设,这样我们在调用的时候就不需要在代码中引入提示词,可以降低代码的耦合度;

这里我们预设一个天气相关的场景,例如:

下面我会给出一个城市,请你默认给出它近三天的天气状况(如果没有要求近几天),你的回答需要包括:温度、风力等级...

开场白:

助手开场内容,可插入变量,变量KEY需要与提示词设置中的变量KEY相同

最长上下文:

保留多轮对话上下文最多组数,区间[1,10]

在天气的预设中我们一般只进行一轮对话且对话之间没有什么必然联系,所以可以默认为5或者设置为1。

4、后续我们在这里打开天气插件

5、调试的示例情况:

对比一下app天气情况:

准确率较高而且相对详细;

如果我们需要达成像app那样的:风力及方向、湿度、体感等,我们都可以在prompt中进行设置并保存为模板,进行重复使用。

全部评论 (0)

还没有任何评论哟~