Token时代,开源同行
/ 涨粉易/当你向一个AI大模型提出一个问题,开源同行模型开始回答生成答案时,开源同行都会消耗若干数量的开源同行Token:作为大模型处理信息的基本单位,每一个Token的开源同行诞生,都不是开源同行某一项技术的功劳,而是开源同行经历了一条漫长的工程链路——从GPU芯片的计算指令,到操作系统的开源同行进程调度,到AI框架的开源同行算子编译,到推理引擎的开源同行显存管理,再到云原生集群的开源同行资源编排,最后生成用户收到的开源同行提问回答。
7月17日至20日世界人工智能大会期间,开源同行沐曦股份将这条看不见的开源同行“Token生产链”搬到线下。在公司展台特设的开源同行“开源工坊”展区,十大开源社区集体亮相——从芯片算力到OS操作系统、开源同行从AI框架到推理引擎、从云原生调度到产业联盟——沐曦股份以完整的“生产链”方式,全景呈现Token背后的开源协作。
每一个Token背后,都是一次开源协作
沐曦股份“开源工坊”展区的主题为“每一个Token背后,都是一次开源协作”,现场通过聚集十大开源社区,展出了一条完整的Token生产链条:
算力层,沐曦股份通过自研GPU与配套软件栈MXMACA,提供了坚实的算力底座。
系统层,龙蜥社区以“AI ×OS × 云”深度融合为主线,打造面向AI原生的下一代Agentic操作系统底座。它是Token从GPU走向应用的第一道系统级桥梁。
训练框架层, PyTorch 基金会携手开源社区破局、全力全速领跑下一代智能创新。
推理层,作为当前最具影响力的两大开源推理引擎,vLLM以PagedAttention技术将KV Cache碎片率降至接近零。SGLang则以RadixAttention大幅降低多轮对话的计算成本。
调度与基础设施层,CNCF驱动着云原生开源基础设施的演进;密瓜智能则主导发起并持续推动CNCF项目HAMi,致力于让异构算力更易用、更高效、更可治理;Red Hat坚持100%开源理念,让AI工作负载在任何云、任何芯片上自由部署。
生态与产业化层,九源联合体聚焦国产智能计算系统建设与软件生态统一;木兰开源社区作为国家级开源社区,为项目孵化与开源治理提供公共服务;模力方舟汇聚最新AI模型,提供从体验到部署的全流程服务。
十个节点,串成一条完整的AI Infra链路。每一个环节的缺失,Token就无法抵达用户。
“每一层都有人卷,每个参与方都能共赢”
“开源,让每一层都有人卷,每个参与方都能共赢。”
每一个Token是否被充分利用,最终体现在每一次生成答案的质量上。模型精度、推理延迟、显存效率、集群吞吐,AI Infra链路上的许多指标都会影响Token的生产效率,进而决定Token的成本。
这样的复杂度也决定了没有任何一家公司能同时把GPU硬件、操作系统、AI框架、推理引擎、云原生调度全部做到极致。开源让每一家公司在自己最擅长的一层深耕,并通过开放协议将优化成果共享给生态中的所有参与者。
沐曦股份通过“开源朋友圈”聚齐十大开源社区,共同探索,相互验证,形成了一条打通GPU、操作系统、推理引擎、集群调度的全栈链路,开源协同也已超越“单点创新”、进入到“全链协同”的全新阶段。
共建人工智能时代的“Android”
如果说Token生产背后是一条开源协同链条共同参与,真正决定这条链路价值的,是它能否被开发者稳定、高效、低成本地用起来。而在整条Token生产链中,沐曦股份最核心的落点,正是它所处的算力层与软件栈——这也是决定国产算力从“可用”走向“通用易用、稳定可靠”的关键一环。
沐曦股份以“自主创新+开放兼容”双轨并行理念为起点,自研MXMACA软件栈。提供了一套完整、高效的全栈软件工具链,涵盖应用开发、功能调试和性能调优等核心环节。同时,软件栈另一项突出优势在于原生兼容国际主流GPU生态,能够帮助用户无需过多修改代码、即可实现极低成本生态迁移。
2025年2月14日, MXMACA软件栈正式开源。目前MXMACA软件栈注册开发者用户已超50万人。
同时,MXMACA已兼容适配40多种AI框架,覆盖训练、推理、科学计算全场景,并支持500+AI模型、4500+开源项目运行,覆盖95%以上的主流AI场景,并实现了对PyTorch 2.8 2410个算子全量覆盖。
按照沐曦股份的构想,公司将围绕MXMACA软件栈,努力打造一个开放、自主、全栈兼容的智能计算生态,目标是建设成人工智能时代的“Android”。
从一颗芯片,到一条链路,再到一个生态,沐曦股份想做的,从来不只是把Token生产出来,而是让每一个Token都被更好地用起来。在开源这条路上,国产算力的答案已经清晰——真正的护城河不是某一层的极致,而是整个生态的共荣。
本文地址:http://dirp.xingliushe.com/html/91c7199837.html
- 相关问答
- 掌握小红书加粉技巧,轻松提升粉丝量
- 快手增粉攻略:如何快速吸引粉丝,揭秘涨粉秘诀!
- 公众号涨粉攻略:轻松突破粉丝瓶颈,实现传播新高度
- 视频号增粉攻略:如何快速提升粉丝量,开启赚钱之路!
- 小红书涨粉秘籍:揭秘最快赛道与实战技巧
- 轻松掌握视频号涨粉技巧,快速吸粉1000+!
- 相关阅读
- 1 视频号增粉策略:快速提升粉丝量的实用方法
- 2 快手涨粉攻略:轻松吸粉,让你的账号火起来!
- 3 揭秘小红书涨粉秘诀:点赞6万却只增粉百人?真相在这里!
- 4 【抖音/公众号/视频号】共享设备增粉攻略,快速涨粉秘籍!
- 5 公众号增粉秘籍:30种高效方法助你快速涨粉
- 6 共享设备新潮流,涨粉攻略一网打尽!
-
【揭秘】如何快速提升公众号、头条号和抖音粉丝量,掌握引流涨粉绝招!
在现代社交媒体时代,公众号、头条号和抖音已经成为品牌和个人展示自我、扩大影响力的重要平台。然而,如何在这三个平台上快速引流涨粉,成为许多运营者关心的问题。以下,我们将揭秘一些实用的方法,帮助你在公众号
-
【快手涨粉攻略】轻松提升人气,粉丝涨不停!
快手作为一款流行的短视频平台,越来越多的人想要在快手上拥有自己的粉丝群体。下面,我将为大家详细介绍如何快手加粉、如何免费涨粉、涨粉是什么意思以及快手如何涨粉。快手怎么加粉快手加粉的第一步是确保你的个人
-
如何让公众号粉丝翻倍增长?七种实用引流策略
在这个信息爆炸的时代,拥有一个活跃的公众号是品牌和个人展示自我、扩大影响力的重要途径。如何有效地为公众号增粉呢?以下是一些实用的方法和技巧,帮助你快速增加公众号的粉丝量。公众号怎么涨粉推广要增加公众号
视频号增粉全攻略:快速突破1000粉丝的秘密
在当今社交媒体的海洋中,微信视频号成为了众多内容创作者和品牌营销者的新战场。如何在这个竞争激烈的环境中脱颖而出,实现粉丝数量的快速增长,成为了许多新手和老手共同面临的难题。本文将深入探讨微信视频号增粉
抖音、公众号、视频号涨粉攻略全解析
随着互联网的快速发展,短视频平台如抖音、公众号、视频号等成为了信息传播的重要渠道。如何在这些平台上快速涨粉,成为许多创作者关心的问题。下面,我将为大家详细解析抖音、公众号、视频号涨粉的攻略。一、抖音增
快手加粉攻略:轻松提升人气,快速增加粉丝!
快手作为当下最受欢迎的短视频平台之一,越来越多的人想要在快手上获得更多的粉丝关注。快手加粉究竟是什么意思?又该如何在快手上快速增加粉丝呢?我将为大家一一解答。快手涨粉是什么意思快手涨粉,顾名思义,就是
亲爱的视频号创作者,你是否在为如何有效增粉而苦恼?别担心,今...
亲爱的视频号创作者,你是否在为如何有效增粉而苦恼?别担心,今天就来分享一些实用技巧,帮助你轻松涨粉,突破100粉大关!微信视频号如何涨100粉想要在微信视频号上快速涨粉,首先得了解平台的运作机制。以下
公众号加粉策略:如何有效提升你的粉丝量
在数字化时代,拥有一个活跃的社交媒体账号是品牌和个人成功的关键。公众号作为微信生态中的重要组成部分,提供了与粉丝互动、分享内容和推广产品的独特平台。对于许多运营者来说,如何有效地增加粉丝数量仍然是一个
小红书快速涨粉攻略:独家技巧让你粉丝倍增!
小红书作为一个分享与社交平台,越来越多的人在这里找到了自己的粉丝群体。如何在小红书上快速涨粉呢?下面,我将分享一些实用的技巧,帮助你快速吸引粉丝。小红书怎样涨粉丝快?技巧分享在小红书上,是吸引粉丝的关