区小号消息 5月9日消息,中国最大的大模型服务平台昨天(8日)正式上线,由中国移动开发的这个平台已接入并提供300余款国内主流AI大模型的服务与能力,是国内汇聚大模型数量最多的平台。据了解,该平台首创词元(Token)集约化运营模式,能够自动分析用户需求,智能为任务匹配最优模型。通过“成本优先”“效果优先”“均衡优先”三种模式,为用户动态筛选适配方案,以更低的词元消耗、更高的执行效率完成工作。当模型出现超时、限流或故障时,平台能自动实现秒级切换,确保业务连续不中断。目前,该平台实现单位词元成本降低30%左右,资源占用率减少50%以上,日均调用量超过千亿级。(央视新闻)

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部