百万Token仅需几元?
如今买算力像交电费一样灵活!
在杭州
一家“算力超市”已帮AI影视公司
化解每天15万元的“算力焦虑”
随取随用,按卡计费
到底怎么做到的?
在大模型与各类AI应用加速迭代扩张的当下,头部企业凭借雄厚资本纷纷布局规模化算力集群,而众多中小AI创业主体自建算力设施,不仅前期投入大,还易造成算力资源的浪费。针对这一行业痛点,普惠化、可共享的“算力超市”在不少地方应运而生,让中小AI企业能够按需灵活取用算力资源。
“算力银行”来了:算力也能“零售”
在杭州一家AI影视公司,产品经理用平台生成一部AI短剧,上传剧本后,系统自动拆分角色和场景,短短几分钟一段分镜头就生成了。
这家公司每天最高要消耗约15万元的算力。除了成本,他们对算力的稳定性也格外敏感。
做工业机器人的灵西机器人也面临类似问题。他们需要持续训练模型,但随着机器人应用场景越来越复杂,本地服务器受显存限制,多任务并行困难。
“百万Token几元,价格还在降”
为这两家企业解决算力难题的是当地一家算力资源调度服务平台,就像一个“算力超市”,让他们能够根据实际需要灵活便捷地进行算力采购。
据记者了解,这家“算力超市”目前提供两种类型的产品,
一种是针对算力的产品;
一种是针对大模型Token的产品。
两种产品采用不同的计费模式。
浙江算力科技有限公司副总经理 景荣炜:算力租赁产品有两种计费方式,算力租赁的产品一张卡一小时;第二种是大模型产品包年包月,按Token计费。根据不同的模型,一般以百万Token为单位,当前百万Token约几元,且价格呈下降趋势。
记者了解到,“算力超市”的算力来自多个渠道,用户选好产品,“超市”负责匹配、调度和交付。目前他们服务的用户80%都是中小企业,覆盖了教科文、电商、人工智能、机器人、具身智能等多个传统和新兴行业。