千帆大模型平台价格文档

您所在的位置:网站首页 百度智能云注册了收费吗安全吗 千帆大模型平台价格文档

千帆大模型平台价格文档

2023-12-27 13:13| 来源: 网络整理| 查看: 265

千帆大模型平台目前需要开通付费后可进入操作台使用。

为方便您快速了解相关价格说明:

方式一:利用以下计费大纲完成快速跳转(点击蓝色字体即可,包括标题)。 如:数据服务、模型训练、模型管理·评估、模型服务、私有资源池、公共资源池和插件相关等价格内容。 方式二:PC端可充分利用本页右侧目录完成快捷查看。 计费大纲

以下列表包含计费的一级功能及其计费子功能,蓝色字体均可点击跳转。

开通付费         余额不足提醒与欠费处理

数据服务 模型训练 模型管理·评估 模型服务 私有资源池 在线标注 Post-pretrain ERNIE-Bot作为裁判员评估 ENIRE Bot 4.0 Tokens资源包 购买托管资源进行服务QPS扩展 数据增强 SFT全量更新 ERNIE-Bot 4.0作为裁判员评估 文心大模型服务 公共资源池 知识库索引 SFT局部调优 第三方大模型服务 SFT中ERNIE-Bot-turbo-0704的Prompt Tuning训练 命中测试 SFT文生图 千帆团队与第三方融合大模型服务 插件相关 FAQ挖掘 RLHF 仅限API调用服务 按选择的基础预置服务进行付费 开通付费

可以在计费管理,开通付费。进入智能云控制台后,在概览页可以看到已开通付费的公有云服务以及用量情况。

按量后付费

目前所使用的调用服务功能均为按量后付费。

根据实际的输入及输出总和tokens数量,系统每小时会对您的百度智能云账户进行扣费。

QPS说明

每项定制服务(除ERNIE-Bot家族)默认QPS为1,1QPS经过测试验证,预计可支持4000日活,能够满足一般测试需求。如有QPS扩充需要,您可通过购买托管资源进行扩展,详细操作可参考资源租赁使用说明。

Tip:当前ERNIE-Bot每16个算力单元,可支持约2.5QPS。    ERNIE-Bot-turbo每16个算力单元,可支持约6QPS。     预置服务ERNIE-Bot、ERNIE-Bot-turbo、Embedding-V1公有云在线调用服务开通时默认为5QPS。

数据服务相关·产品价格

image.png

价格费用举例

大模型服务调用支持使用计算工具计算(输入输出)tokens数。 以ERNIE-Bot调优大模型调用服务为例:

image.png

以上共计20tokens。

示例1 在线标注·自动生成 自动标注仅计算大模型输出tokens的费用

以上示例标注所需费用为0.02千tokens x 0.008(单价)=0.00016元

示例2 知识库·索引模式(Embedding-v1服务) 单次导入文档至知识库仅收取一次调用费:上传文档tokens X Embedding-V1调用单价。

若上传的文档中有27tokens,则所需费用为0.027千tokens x 0.002(单价)=0.000054元

示例3 插件应用·知识库 当插件应用中安装了知识库插件,服务上线后,客户端调用将按照以下进行计费:

输入tokens x Embedding-v1接口的单价 +(输入tokens+输出tokens) x 基础服务接口的单价

假设上线的插件选择的预置服务为ERNIE-Bot,输入tokens为7tokens,输出tokens为20tokens

以上示例所需费用为0.007千tokens x 0.002(单价) + 0.027千tokens x 0.012(单价)=0.000338元

特别注意:大模型会判断客户端的问题是否需要通过知识库应答,如无需知识库进行应答,费用计算可参考服务调用计费。

相关文档:插件中的知识库、服务调用计费

大模型训练相关·产品价格

image.png

注意:强化学习计算公式为以下:训练总价(最高) = (训练集字符数+ 训练集条数 x 2048) x epoch(轮数) x 0.001(千位计算)x token单价

SFT中第三方大模型训练字符转换token系数为(1~1.6),其余模型训练系数仍为(0.5 ~0.8)。

价格费用举例

训练数据:25800字符数 训练集条数为1,000条(强化学习训练所需数据集为query问题集)

示例1 ERNIE-Bot-turbo训练服务-SFT-全量更新 训练总价 = 训练集字符数 x 0.001(千位计算) x 字符转换token系数(0.5 ~0.8)x epoch(轮数) x token单价

预估价格计算方式为:25.8千字符数 x(0.5 ~0.8)x 2(epoch轮数) x 0.1 = 2.58~4.128元

示例2 BLOOMZ-7B大模型公有云训练服务-强化学习 训练总价(最高) = (训练集字符数+ 训练集条数 x 2048) x epoch(轮数) x 0.001(千位计算)x token单价

预估价格(最高)计算方式为:(25800+ 1000 x 2048) x 2(epoch轮数)x 0.001(千位计算) x 0.08 = 331.808元

大模型管理相关·评估价格

当您在模型评估任务中选择含「基于裁判员模型」的打分模式时,ERNIE-Bot 裁判员模型调用单独计入至大模型推理计费项。

功能模块 服务类型 单价 模型评估 ERNIE-Bot 大模型公有云在线调用服务 0.012元 /千tokens 模型评估 ERNIE-Bot 4.0 大模型公有云在线调用服务 0.12元 /千tokens(限时优惠) 价格费用举例

预估费用计算公式:

裁判员大模型_token单价 x 待评估模型数 x (打分Prompt模板与回答预估Token总数 x 评估数据集样本总数 + 评估数据集Token总数 x 预估系数)。

打分Prompt模板与回答预估Token总数 预估设定为 400tokens 预估系数为 1.5~3 示例1 ERNIE-Bot 大模型公有云在线调用服务作裁判员评估 评估数据集样本总数为:500个,评估数据集Tokens总数为:10000tokens,待评估模型数为1。

评估任务总价= 0.012 x 1 x [ (400tokens x 500 + 10000tokens x 1.5~3) x 0.001(千位计算) ] = 2.58 ~ 2.76 元

如待评估模型为n(1≤n≤5,取正整数),则以上示例价格区间为(2.58 ~ 2.76 元) x n 。

大模型服务相关·产品价格

以下为千帆大模型平台预置服务相关价格,您可参考本页右侧目录完成快速跳转。

ENIRE Bot 4.0 Tokens资源包 使用规则 资源包规格 消费逻辑 缓冲策略 仅可通过购买tokens资源包调用服务:购买入口 50元 含420千tokens,可重复购买,有效期1个月,过期作废。 有效期内优先抵扣资源包,资源包耗尽后自动切换至按调用量计费,超过有效期服务无法调用。 2023年12月7日-2024年1月4日:  已开通付费但尚未购买资源包的用户,仍可以通过按量后付费的方式调用服务;  手动终止付费未开通付费的用户,只能通过购买资源包的方式调用服务。2024年1月5日起:  未购买tokens资源包的用户将无法正常使用本服务。 价格费用示例

以下为ENIRE Bot 4.0 Tokens资源包费用示例。

示例1 2023年12月7号调用ENIRE Bot 4.0 2023年12月7日-2024年1月4日为缓冲期,此期间未购买资源包的用户,仍可通过按量后付费的方式调用服务,输入输出均为0.12元/千tokens(限时优惠);如果此期间已购买资源包,可参考示例2内容。 示例2 2024年1月5号调用ENIRE Bot 4.0 需要购买50元的Tokens资源包 情况一:资源包有效期内,量包耗尽后,剩余期间期间可以按量后付费,输入输出均为0.12元/千tokens(限时优惠),到期后,需要重新购买本Tokens资源包 情况二:资源包到期时,量包未耗尽,剩余tokens不作累计,且无法通过按量后付费的方式调用服务,如需继续调用,须重新本Tokens资源包。 文心大模型服务 服务内容 单价 ERNIE-Bot 4.0大模型公有云在线调用服务(输入) 0.12元/千tokens(限时优惠,原价0.15元/千tokens) ERNIE-Bot 4.0大模型公有云在线调用服务(输出) 0.12元/千tokens(限时优惠,原价0.3元/千tokens) ERNIE-Bot-8k大模型公有云在线调用服务(输入) 0.024元/千tokens ERNIE-Bot-8k大模型公有云在线调用服务(输出) 0.048元/千tokens ERNIE-Bot大模型公有云在线调用服务(输入) 0.012元/千tokens ERNIE-Bot大模型公有云在线调用服务(输出) 0.012元/千tokens ERNIE-Bot-turbo-0922大模型公有云在线调用服务(输入) 0.008元/千tokens ERNIE-Bot-turbo-0922大模型公有云在线调用服务(输出) 0.008元/千tokens(限时优惠,原价0.012元/千tokens) EB-turbo-AppBuilder专用版 0.008元/千tokens

需注意:如API调用文心大模型时,function和system参数的输入,都需要按照tokens计费,相关计算逻辑可查看参考文档。

第三方大模型服务 文生文 服务内容 单价 BLOOMZ-7B大模型公有云在线调用体验服务 0.004元/千tokens Llama-2-7B-Chat公有云在线调用体验服务 0.004元/千tokens Llama-2-13B-Chat公有云在线调用体验服务 0.006元/千tokens Llama-2-70B-Chat公有云在线调用体验服务 0.035元/千tokens ChatGLM2-6B-32K大模型公有云在线调用体验服务 0.004元/千tokens AquilaChat-7B大模型公有云在线调用体验服务 0.004元/千tokens SQLCoder-7B公有云在线调用体验服务 限时免费,每个账号每天包含500次调用额度(按调用总次数统计,包括但不限于调用成功的次数)。如需扩容,请使用私有资源池发布该模型,或提交工单说明应用场景、预计月调用量,申请扩充额度。 CodeLlama-7B-Instruct公有云在线调用体验服务 限时免费,每个账号每天包含500次调用额度(按调用总次数统计,包括但不限于调用成功的次数)。如需扩容,请使用私有资源池发布该模型,或提交工单说明应用场景、预计月调用量,申请扩充额度。 XuanYuan-70B-Chat-4bit公有云在线调用体验服务 限时免费,每个账号每天包含500次调用额度(按调用总次数统计,包括但不限于调用成功的次数)。如需扩容,请使用私有资源池发布该模型,或提交工单说明应用场景、预计月调用量,申请扩充额度。 ChatLaw公有云在线调用体验服务 限时免费,每个账号每天包含50次调用额度(按调用总次数统计,包括但不限于调用成功的次数)。如需扩容,请使用私有资源池发布该模型,或提交工单说明应用场景、预计月调用量,申请扩充额度。 Yi-34B-Chat公有云在线调用体验服务 限时免费,每个账号每天包含500次调用额度(按调用总次数统计,包括但不限于调用成功的次数)。如需扩容,请使用私有资源池发布该模型,或提交工单说明应用场景、预计月调用量,申请扩充额度。

注意:平台已预置多款模型版本,部署成服务时,需要收取私有资源池租赁费,服务发布成功后,调用免费。

文生图 服务内容 单价 Stable-Diffusion-XL大模型公有云在线调用服务 调用时无需计费,单个账号提供500张图片额度(按调用总次数统计,包括但不限于调用成功的次数)。额度用尽后,可以提交工单说明应用场景、预计月调用量,申请扩充额度。 千帆团队与第三方融合大模型服务 服务内容 单价 Qianfan-BLOOMZ-7B-compressed大模型公有云在线调用体验服务 0.004元/千tokens Qianfan-Chinese-Llama-2-7B大模型公有云在线调用体验服务 0.004元/千tokens Qianfan-Chinese-Llama-2-13B公有云在线调用体验服务 限时免费,每个账号每天包含500次调用额度。如需扩容,请使用私有资源池发布该模型,或提交工单说明应用场景、预计月调用量,申请扩充额度。 仅限API调用服务 服务内容 单价 Embedding-V1公有云在线调用服务 0.002元/千tokens bge-large-zh公有云在线调用体验服务 0.002元/千tokens bge-large-en公有云在线调用体验服务 0.002元/千tokens 价格费用举例

1. 大模型服务调用支持使用计算工具计算(输入输出)tokens数。

image.png

2. 在线服务部署在资源池后,调用仍需付费。

示例1 ERNIE-Bot大模型公有云在线调用服务(输出) 如上图的总计tokens为20,

价格为0.012(单价) x 0.02千tokens=0.00024元

私有资源池相关·产品价格

资源租赁限时7折优惠,活动时间:2023年09月01日-2024年12月31日。

您可通过购买托管资源进行服务QPS扩展,详细操作可参考资源租赁使用说明。

模块 服务类型 单价 资源池租赁 私有资源池租赁 20元/时*算力单元 资源池租赁 私有资源池租赁 250元/天*算力单元

⼩时范围:1-23;天数范围:1-29;⼩于或⼤于当前范围,请更换其他租赁⽅式。 注意:ERNIE-Bot暂不支持按小时的租赁方式

价格费用举例

私有资源池租赁时间以部署成功生效时间为准。

示例1 购买5天资源 副本数自定义设置为4,算力单元默认为2。

租赁总价格为:5(天)x 2(单副本算力单元)x 4(副本数)x 250(元/天*算力单元)= 10000元活动期间,租赁费用为7折,所以折后价为7000元。

公共资源池相关·产品价格

当您选择SFT中ERNIE-Bot-turbo-0704的Prompt Tuning(此功能已下线改造)训练方式,并完成模型训练后,可以将此模型部署至平台的公共资源池,已上线的服务不受影响。

模块 服务类型 单价 资源池租赁 公共资源池租赁 限时免费

注意:模型发布服务后,调用仍需付费。调用价格可参考服务价格中ERNIE-Bot-turbo大模型公有云在线调用服务内容。

插件相关·产品价格

当您使用插件编排服务时,调用的内置插件或自定义插件当前为试用阶段免费调用,后续将会接入计费,如天气、网页解析和智慧图问等。需注意:知识库插件当前是需要进行单独计费的,详情可查看数据服务价格费用举例中的示例3。

插件服务仅需按选择的基础预置服务进行付费,相关token计费可查看预置服务计费说明,如果是您自己训练的模型服务,可以查看计费管理中,“我的服务”相关费用说明。

价格费用举例

image.png

示例1 选择预置服务为ERNIE-Bot 如上图所示,根据Token计算器,得出输入和输出的token总数,比如20tokens,则按照ERNIE-Bot的收费标准为:

0.012(单价) x 0.02千tokens=0.00024元

余额不足提醒与欠费处理

余额不足提醒

根据您历史的账单金额,判断您的账户余额(含可用代金券)是否足够支付未来的费用,若不足以支付,系统将在欠费前三天、两天、一天发送续费提醒短信,请您收到短信后及时前往控制台财务中心充值。

欠费处理

后付费账单时间是北京时间整点,出账单时间是计费周期结束后1小时内。我们将每小时生成一次后付费账单,账单生成时,会检查您的账户余额是否足以支付本次账单的费用。 例如:10:00~11:00的账单费用会在12:00之前生成,具体以系统出账时间为准。若不足以支付,即为欠费,欠费时系统会发送欠费通知。 欠费后您开通付费的产品将进入欠费状态,请求系统将不再响应。


【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3