商汤大装置公布日均 Token 服务量及推理效能
热点事件持续更新
商汤大装置公布日均 Token 服务量及推理效能
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
商汤大装置 CTO 宣善明在峰会上表示,其平台日均 Token 服务量已达 6 万亿,预计 2026 年全年实现 25 倍增长并在第四季度达到日均 10 万亿。 商汤大装置构建了万卡级异构推理集群,宣善明称该集群在特定测试配置下相较于基准方案可将整体 Token 吞吐量提升至原来的 5 倍。
AI 根据报道生成 · 2 小时前更新
最新进展10月19日 13:22
商汤大装置如何提升推理效能报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- 量子位商汤大装置如何提升推理效能
商汤大装置平台日均 Token 服务量已达 6 万亿,预计 2026 年全年实现 25 倍增长并在第四季度达到日均 10 万亿。商汤大装置构建了万卡级异构推理集群,在特定测试配置下相较于基准方案可将整体 Token 吞吐量提升至原来的 5 倍。]]></thought>
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。