Token时代,开源同行

干货 2026-07-31 08:22:50 1 次
摘要:/ 涨粉易/当你向一个AI大模型提出一个问题,模型开始回答生成答案时,都会消耗若干数量的Token:作为大模型处理信息的基本单位,每一个Token的诞生,都不是某一项技术的功劳,而是经历了一条漫长的工

  / 涨粉易/当你向一个AI大模型提出一个问题,开源同行模型开始回答生成答案时,开源同行都会消耗若干数量的开源同行Token:作为大模型处理信息的基本单位,每一个Token的开源同行诞生,都不是开源同行某一项技术的功劳,而是开源同行经历了一条漫长的工程链路——从GPU芯片的计算指令,到操作系统的开源同行进程调度,到AI框架的开源同行算子编译,到推理引擎的开源同行显存管理,再到云原生集群的开源同行资源编排,最后生成用户收到的开源同行提问回答。

  7月17日至20日世界人工智能大会期间,开源同行沐曦股份将这条看不见的开源同行“Token生产链”搬到线下。在公司展台特设的开源同行“开源工坊”展区,十大开源社区集体亮相——从芯片算力到OS操作系统、开源同行从AI框架到推理引擎、从云原生调度到产业联盟——沐曦股份以完整的“生产链”方式,全景呈现Token背后的开源协作。

  每一个Token背后,都是一次开源协作

  沐曦股份“开源工坊”展区的主题为“每一个Token背后,都是一次开源协作”,现场通过聚集十大开源社区,展出了一条完整的Token生产链条:

  算力层,沐曦股份通过自研GPU与配套软件栈MXMACA,提供了坚实的算力底座。

  系统层,龙蜥社区以“AI ×OS × 云”深度融合为主线,打造面向AI原生的下一代Agentic操作系统底座。它是Token从GPU走向应用的第一道系统级桥梁。

  训练框架层, PyTorch 基金会携手开源社区破局、全力全速领跑下一代智能创新。

  推理层,作为当前最具影响力的两大开源推理引擎,vLLM以PagedAttention技术将KV Cache碎片率降至接近零。SGLang则以RadixAttention大幅降低多轮对话的计算成本。

  调度与基础设施层,CNCF驱动着云原生开源基础设施的演进;密瓜智能则主导发起并持续推动CNCF项目HAMi,致力于让异构算力更易用、更高效、更可治理;Red Hat坚持100%开源理念,让AI工作负载在任何云、任何芯片上自由部署。

  生态与产业化层,九源联合体聚焦国产智能计算系统建设与软件生态统一;木兰开源社区作为国家级开源社区,为项目孵化与开源治理提供公共服务;模力方舟汇聚最新AI模型,提供从体验到部署的全流程服务。

  十个节点,串成一条完整的AI Infra链路。每一个环节的缺失,Token就无法抵达用户。

  “每一层都有人卷,每个参与方都能共赢”

  “开源,让每一层都有人卷,每个参与方都能共赢。”

  每一个Token是否被充分利用,最终体现在每一次生成答案的质量上。模型精度、推理延迟、显存效率、集群吞吐,AI Infra链路上的许多指标都会影响Token的生产效率,进而决定Token的成本。

  这样的复杂度也决定了没有任何一家公司能同时把GPU硬件、操作系统、AI框架、推理引擎、云原生调度全部做到极致。开源让每一家公司在自己最擅长的一层深耕,并通过开放协议将优化成果共享给生态中的所有参与者。

  沐曦股份通过“开源朋友圈”聚齐十大开源社区,共同探索,相互验证,形成了一条打通GPU、操作系统、推理引擎、集群调度的全栈链路,开源协同也已超越“单点创新”、进入到“全链协同”的全新阶段。

  共建人工智能时代的“Android”

  如果说Token生产背后是一条开源协同链条共同参与,真正决定这条链路价值的,是它能否被开发者稳定、高效、低成本地用起来。而在整条Token生产链中,沐曦股份最核心的落点,正是它所处的算力层与软件栈——这也是决定国产算力从“可用”走向“通用易用、稳定可靠”的关键一环。

  沐曦股份以“自主创新+开放兼容”双轨并行理念为起点,自研MXMACA软件栈。提供了一套完整、高效的全栈软件工具链,涵盖应用开发、功能调试和性能调优等核心环节。同时,软件栈另一项突出优势在于原生兼容国际主流GPU生态,能够帮助用户无需过多修改代码、即可实现极低成本生态迁移。

  2025年2月14日, MXMACA软件栈正式开源。目前MXMACA软件栈注册开发者用户已超50万人。

  同时,MXMACA已兼容适配40多种AI框架,覆盖训练、推理、科学计算全场景,并支持500+AI模型、4500+开源项目运行,覆盖95%以上的主流AI场景,并实现了对PyTorch 2.8 2410个算子全量覆盖。

  按照沐曦股份的构想,公司将围绕MXMACA软件栈,努力打造一个开放、自主、全栈兼容的智能计算生态,目标是建设成人工智能时代的“Android”。

  从一颗芯片,到一条链路,再到一个生态,沐曦股份想做的,从来不只是把Token生产出来,而是让每一个Token都被更好地用起来。在开源这条路上,国产算力的答案已经清晰——真正的护城河不是某一层的极致,而是整个生态的共荣。


相关推荐

延伸阅读:

【抖音涨粉攻略】揭秘公众号和视频号高效吸粉技巧

抖音直播挣钱吗|客观分析直播带货打赏涨粉收益优缺点对比

抖音轻松涨粉|普通人零投放优质内容稳定自然涨粉简易实操方法

快手怎么看直播回放|直播回放保存查看二次分发涨粉完整实操步骤教程

快手涨粉秘籍:如何快速增加粉丝数?

个人怎么运营小红书|普通人零基础运营小红书完整起步方案

小红书涨粉网|第三方涨粉网站秒赞风险科普不建议选择

抖音游戏直播|游戏类目直播留人涨粉流量运营完整实操方案

视频号加粉攻略:从零到万粉丝的实战技巧

抖音假涨粉|机器刷粉虚假粉丝低转化限流封号完整风险实测科普

快手直播涨粉是真的吗|区分直播间自然涨粉与虚假刷粉方法

快手客服 24 小时人工客服热线|快手官方客服联系途径与申诉技巧

小红书加粉秘籍,轻松涨粉不再是难题

快手开通粉钻主播能拿多少|快手粉钻主播收益分成标准官方解读

抖音开橱窗和抖店|橱窗小店开通条件流量功能差异完整解析

小红书爆款种草 ai 文案生成器|AI 种草文案生成提示词与优化技巧

共享设备加粉:创新营销策略与粉丝增长新途径

拼多多视频号怎么涨粉|电商商家视频号带货同步涨粉实操技巧

抖音怎么开橱窗有群吗|橱窗带货私域社群沉淀粉丝涨粉转化运营方案

快手涨粉群|互助互关群粉丝低转化长效涨粉利弊解析

视频号加粉秘籍:快速提升粉丝数量的五大策略

视频号有完播率涨粉吗|完播指标对视频号推荐涨粉权重实测分析

抖音游戏直播|游戏类目直播留人涨粉流量运营完整实操方案

抖音 AI 商品短视频制作|AI 生成商品短视频脚本与成片优化实操方案

抖音增粉的秘诀:如何快速提升你的粉丝数量

视频号文案|视频号短视频适配文案创作特点与写作模板

如何快手涨粉|评论区互动引流提升账号自然涨粉实操步骤

抖音涨粉教程|零基础 0 粉起号涨粉分步落地教学内容

视频号加粉:高效策略与实战技巧

快手极速版怎么赚钱|极速版看视频任务变现涨粉完整官方规则解读

发快手最忌三个时间段|快手短视频不建议发布的时段与流量逻辑解析

抖音如何直播|手机电脑直播设备调试留人涨粉全套实操教程

如何快速增加抖音粉丝?

抖音涨粉有哪些攻略|短视频直播千川私域多渠道涨粉实操方法汇总

视频号的涨粉机制|视频号冷启动流量分配涨粉数据影响因素拆解

抖音短视频低播放整改|短视频低播放作品问题排查与整改优化指南

小红书增粉秘籍:新手也能快速涨粉

如何在今日头条上赚钱|普通人自媒体多渠道变现涨粉完整落地规划方案

快手极速版怎么赚钱|极速版看视频任务变现涨粉完整官方规则解读

抖音直播人气|提升直播间在线停留涨粉全套标准化实操方法

如何快速在快手上增加粉丝

快手怎么能涨粉|匹配赛道黄金发布时段提升自然涨粉效率

抖音涨粉|2026 合规短视频自然涨粉实操运营方法

抖音涨粉神曲|热门背景音乐助力抖音涨粉,选曲技巧与版权注意事项

抖音短视频涨粉攻略:如何快速吸粉百万

抖音带货说说|短视频带货引导下单涨粉高转化短句文案合集

视频号小店|视频号小店入驻条件、商品上架与售后运营教程

视频号怎么付费推广涨粉|视频号官方付费涨粉投放预算规划方案

共享设备涨粉:解锁地推、WiFi与云平台的新策略

抖音轻松涨粉|普通人零投放优质内容稳定自然涨粉简易实操方法


显示全部文章

本文地址:http://cppeu.xingliushe.com/html/91c7199837.html
本文标题:Token时代,开源同行
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至页底联系我们举报,一经查实立刻删除。

热门文章

情感问答

最新文章

猜你喜欢