华为云宣布 Tokens 服务全面接入 384 超节点：性能从 1920TPS 提升到 2400TPS
IT之家 8 月 27 日消息，在今日举行的第四届 828 B2B 企业节开幕式上，华为云宣布其 Tokens 服务全面接入 CloudMatrix384 超节点，将发挥“大杂烩”优势，以系统创新弥补单点不足，实现性能持续提升。
华为云介绍称，通过 xDeepServe 架构创新，单芯片最高可实现 2400TPS、50msTPOT 的超高吞吐、低时延的性能，超过业界水平。
华为云表示，过去 18 个月，中国 AI 算力需求呈现指数级增长。数据显示，2024 年初中国日均 Token 的消耗量为 1000 亿，截至今年 6 月底，日均 Token 消耗量已突破 30 万亿，1 年半的时间增长了 300 多倍，反映了我国人工智能应用规模快速增长，也对算力基础设施的需求提出了更大的挑战。
IT之家查询获悉，华为云于今年 3 月在以往按卡时计费的基础上正式推出了基于 MaaS 的 Tokens 服务。针对不同应用、不同场景的性能和时延要求，还提供了在线版、进线版、离线版乃至尊享版等多种规格。
华为云表示，Tokens 服务现正式接入 CloudMatrix384，并通过 384 原生的 xDeepServe 框架再次实现了吞吐量的突破，从年初的 1920TPS 提升至 2400TPS，TPOT 仅为 50ms。
目前，华为云 MaaS 服务已支持 DeepSeek、Kimi、Qwen、Pangu、SDXL、Wan 等主流大模型及 versatile、Dify、扣子等主流 Agent 平台。
标签： 华为
相关文章
-
华为手机怎么设置呼叫转移详细阅读
从选择学校到毕业的全流程近年来,越来越多的中国学生选择前往俄罗斯留学，体验多元文化的环境，追求高质量的教育资源，本文将详细介绍如何申请俄罗斯留学，从选...
2025-11-02 8 华为
-
华为nova2怎么设置指纹详细阅读
嗯，用户让我写一篇关于QQ批量申请器怎么用的文章，还给了一个标题和内容要求，我需要理解用户的需求，他们可能是一个刚开始使用QQ批量申请器的人，或者想了...
2025-10-31 10 华为
-
华为手机怎么设置自动开关机详细阅读
女性哺乳假申请书模板及申请理由解析随着社会的发展和女性地位的提升,越来越多的公司开始重视员工的哺乳需求，尤其是在生育家庭中，哺乳假的申请和审批变得越来...
2025-10-31 5 华为
-
华为自动接听怎么设置详细阅读
好，用户让我写一篇关于“滴滴快车车主怎么申请”的文章，先写标题，再写内容，内容不少于1434个字，我需要确定标题，要简洁明了，又能吸引读者，内容部分要...
2025-10-30 9 华为
-
华为ws5200路由器怎么设置详细阅读
美国读博士要怎么申请申请美国读博士是一个充满挑战但也充满机遇的过程，对于国际学生来说，这个过程不仅需要准备充分的学术材料，还需要了解美国的申请流程和注...
2025-10-30 10 华为
-
华为怎么自己设置铃声详细阅读
如何撰写一份完美的撤诉申请在当今法律体系中，撤诉申请作为一种重要的法律程序，常常被应用于 various 法律案件中，无论是民事纠纷、刑事案件，还是行...
2025-10-30 6 华为
最新评论