清程极智：AI Pin欧交易所appg已接入30+主流服务商、600+大模型服务

　　新浪科技讯 6月5日上午消息，清程在中科创星硬科技媒体行——清程极智专场活动中，极智清程极智团队在分享中透露，已接欧交易所app面对Token服务市场服务商林立、入主指标混乱、流服选型成本高的商务行业乱象，清程极智推出的大模AI Ping一站式大模型服务评测与API智能路由平台——已接入30余家主流服务商、600余个大模型服务，型服可依托智能路由算法，清程欧交易所app以统一API接口为用户自动匹配最优服务商，极智实现成本降低超37%、已接吞吐提升超90%、入主延迟降低超20%。流服

　　此外，商务针对大模型部署成本高、大模国产算力适配不足等痛点，清程极智推出的赤兔推理引擎已在券商、能源央企等场景落地应用，某能源央企实现3500+员工全国产化算力稳定使用，算力效率提升近40%。

　　2024年初至2026年3月，中国Token日均调用量激增约1400倍，规模突破140万亿。但在 Token 需求爆发的同时，国产算力与国产模型推理环节长期依赖海外引擎，难以充分释放国产硬件性能。

　　据悉，清程极智赤兔推理引擎针对昇腾、海光、沐曦、摩尔线程等国产芯片的硬件特性深度优化，有效解决了国产算力“能用不好用”的难题，基于该引擎部署DeepSeek‑V3满血版模型时，仅需1台8卡910B服务器即可替代传统4台8卡机，硬件成本从600万元降至150万元。（文猛）

海量资讯、精准解读，尽在新浪财经APP

责任编辑：江钰涵

很赞哦!（3）