网站首页
关于我们
KY体育
产品展示
联系我们
网站地图

【48812】豆包大模型超低价吗?实践运用至少贵27倍

时间: 2024-05-17 09:40:45 |   作者: KY体育

  当咱们运用大模型时,会向大模型发问。在大模型厂商眼里,咱们我们能够把一次发问简略当作一个向大模型提出的恳求(Request),一个恳求会包括输入、输出两部分,也便是用户先向模型发问,模型给出答案。

  问题和答案中包括的文字量一般会用固定的核算方法换算成大模型能够了解的单元,也便是Token(1千个Token大约能够表明700多个汉字)。依据问答内容的特征、模型算力耗费等要素,大模型厂商一般会分别为输入、输出内容设定不同的价格。

  预付费形式,要求用户在运用服务前预先付出必定的费用,一般依照预估的运用量或许服务套餐来计费,也便是我们日常日子中了解的“包年、包月”等形式。

  后付费形式,答应用户先运用大模型服务,之后再结合实践运用量按月或其他周期结算费用,也便是按运用量收费(Pay As You Use)。

  火山引擎最新发布的大模型Doubao-pro-32k,尽管为模型输入设定了超低的后付费价格:0.0008元/千tokens,可是并没有在发布会上展现模型的输出价格为0.002元/千tokens,比较输入价格贵出许多。在经过加权均匀输入、输出价格后(按输入:输出=5:1来核算),实践的收费是0.001元/千tokens。

  此外,更重要的是,用户只要在较低的事务并发(每分钟60次问答恳求,即每秒1次)这个强约束条件下,才干享用得到这样的价格。这在某种程度上预示着,豆包大模型的这个“超低价”只能用来体会和测验,没办法实在用到出产环境中。

  假如用户在实在的事务场景中高频调用豆包大模型,就需要选用预付费形式,该怎么样核算费用呢?

  一般情况下,预付费形式会在每分钟处理内容量(TPM,Tokens per Minute)这个要害目标上约束服务才能。

  此外,由于企业调用大模型有顶峰低谷,很难100%耗费掉完好的TPM单元,依照70%的均匀利用率来核算,Doubao-pro-32k每千tokens的价格将到达0.04元,比较后付费贵出39倍!

  预付费形式下,假如横向比照其他干流大模型,豆包大模型并不具有价格上的优势,反而是百度的文心大模型最廉价。

  由此可见,企业要想实在在事务场景下运用大模型,预付费这种“批发”形式是最经济实惠的,假如后付费这种“零售”形式更廉价,大概率是加了许多约束条件的“尝鲜价”。现在干流大模型中,最廉价、性价比最高的,或许仍是百度的文心大模型。


kaiyun官方网站主页-KY体育 版权所有| XML

(86)-010-6941-6002