人类汗青上最严害的压缩技术
，不是ZIP或JPEG
，而是文字
。

一个“火”字
，就能把点火、温度、色彩、危险、能量等复杂的元素浓缩进一个符号
。几笔写成
，信息密度极高
，解码成本极低
。

大模型压缩
，性质上在做统一件事：设计一套更高效能的“文字”
，用至少的笔画承载最多的知识
。

然而
，2026年的半导体市场出现出一种极致的扯破感
。一壁是高盛等机构不休调高预期
，HBM（高带宽内存）供不应求
，DDR5价值持续飙涨
，“内存墙”成为算力发展的物理瓶颈；另一壁
，端侧AI设备受限于功耗与体积
，内存规格无法无限膨胀
，大模型在终端的落地似乎被一路无形的成本天花板死死压住
。

算力在涨
，但终端装不下
。“旧文字”太占处所了
。传统大模型用FP16暗示参数
，相当于用复杂英文字母写文章
，篇幅巨大
。产业界火急必要一套笔画更少、信息密度更高的“新文字”
。

5月23日
，BitCPM-CANN于华为鲲鹏昇腾开发者大会（KADC 2026）初次亮相
，由面壁智能AI Infra掌管人、清华大学推算机系高机能所·水木学者博士后李宇轩进行技术分享
。

单一来讲
，面壁智能全球初次在华为昇腾平台上实现端到端1.58-bit（极致低比特）训练栈
，并将规模推至8B级别
，相较于一样尺寸的全精度模型
，机能险些无降落
。

它向表界开释了一个明确信号：在国产算力底座上
，同样能诞生引领世界的训练范式
。

那么
，这套“新文字”是怎么设计出来的？它将若何改写端侧AI的产业规定？

在探求面壁智能这次技术突破的意思之前
，我们有必要先审视当下端侧AI产业所面对的真事阀境
。2026年的AI产业
，表表上景致无限：大模型正争先恐后从云端向手机、PC、汽车急剧下沉
，各类“AI Phone”“AI PC”概想层出不穷
，似乎人人都能际遇最强AI
。

然而
，在这股热潮之下
，一场关于生计成本的暗战在打响
。

问题的本原要从我们用来承载AI知识的“文字”说起
。

传统大模型用的是一套相当奢侈的“文字系统”
。每个参数用FP16暗示
，相当于每个笔画要占16个格子
。一个70亿参数的模型
，光“写下来”就必要约14GB内存
。加上操作系统和其他利用
，16GB的旗舰手机已经写不下了
。

这套“旧文字”不但占处所
，书写成本还在飙升
。高盛的最新预测显示
，受AI服务器需要拉动
，存储芯片市场在经历一轮超等周期
。HBM供不应求
，DDR5等主流内存价值涨幅预期最高被调至280%
。对端侧设备厂商而言
，这是一路凶残的选择题：要么接受上涨的BOM成本
，压缩本就微薄的利润空间；要么削减内存配置
，让AI职能沦为“能装不能跑”的营销噱头
。

固有的“内存墙”加深了这一困境
。冯·诺依曼架构下
，推算单元与存储单元在物理上分离
，数据必要在两者之间频仍搬运
。即便端侧芯片的TOPS数值再高
，若是内存带宽无法实时“喂鼓”数据
，大部门算力都将处于空转状态
。

并且
，国内AI大模型的训练与部署持久高度依赖NVIDIA CUDA生态
。很长一段功夫里
，很多国产大模型的训练仍需在NVIDIA集群上实现主题验证
，再费时费劲地迁徙至昇腾平台
。这种“绕路走”的模式
，不仅拉长研发周期、提高试错成本
，也让国产算力平台始终难以脱节追赶者的地位
，难以成立真正自主的技术系统
。

层层压力叠加下来
，今天的端侧 AI
，正被困在一个无法破解的不成能三角里：想要更强的模型能力
，就要支出更高的硬件成本；想要节造成本、降低功耗
，就不得不砍掉模型能力
。三者之间险些没有两全的余地
。

传统解决规划如模型蒸馏、知识剪枝性质上都是在丢精度换内存
，价值是字变得潦草
。行业真正必要的是一种笔画更少、信息密度更高的文字系统
。而在KADC 2026上亮相的BitCPM-CANN
，刚好切中了这一主题痛点
。

2026年5月23日
，华为鲲鹏昇腾开发者大会上
，面壁智能AI Infra掌管人李宇轩将正式向业界展示BitCPM-CANN——齐全在国产算力上训练的开源三值大模型
。它是1.58-bit极致轻量化大模型
。从底层算子到训练框架
，再到最终的模型输出
，整条链路都在华为昇腾平台上原生实现
。

好多人会好奇
，1.58-bit到底是什么？用最切近生涯的方式来理解
，它就像是AI世界里一套极端精简的文字系统
。

我们熟悉的传统大模型
，参数大多是16位浮点体式
，能暗示的数值领域非？泶
，看似精度很高
，可现实运行中大量精度都是有余的
，就像用字母繁多的拉丁文去写一句单一的日常用语
，既占空间又没必要
。BitCPM-CANN把每个参数压缩到只有三个取值：-1、0、+1
。若是把传统参数比作一整套蕴含大幼写、符号、特殊字体的齐全英文系统
，那 1.58-bit 就像是把所有简化为“点、横、竖”三种最基础的笔画
，用至少的表白
，承载最主题的信息
。

当然
，除了“笔画少”
，BitCPM-CANN还把这套新文字系统化了
。

第一
，它有一套齐全可用的字库
。在这之前
，行衣凤不是没有过低比特模型的钻研
，但绝大无数成就都只是展示某一个固定尺寸、某一项单一指标
，更像是一个孤立的演示demo
，厂商底子无法据此判断技术是否不变、能不能真正用在产品里
。BitCPM-CANN齐全跳出了这种局限
，一次性推0.5B、1B、3B、8B四档齐全模型
，并且和同尺寸的全精度模型做一对一、全维度的对齐评测
。在技术实现上
，它选取STE三值量化器
，训练时保留残差保障模型能够持续进建
，导出时严格输出三值权重
，把精度损失节造在极幼领域
。现实测试了局很有说服力：1B、3B、8B这三档主力模型
，能力保留率达95.7%到97.2%
，8B 模型在 ARC/cmmlu/gsm8k 等关键工作保留全精度93%～99%
，齐全达到可对表使用的水位；仅0.5B幼模型保留率 90.1%
，为后续优化明确方向
。这种从微型到中型的全尺寸覆盖
，就像为AI产业筹备好了从短句、短文到长篇著述的齐全文字系统
，手机、汽车、终端设备厂商能够直接按需要选用
，不用再从零起头适配调试
。

第二
，它造订了成熟不变的排版规范
。好多低比特项目止步于“能跑通”
，“模型能训练、数值能降落”就宣告成功
。但这样的代码往往是一次性的
，换个尺寸、换个工作就要重新调参
。BitCPM-CANN则把低比特能力沉淀为MindSpeed训练基础设施的一部门
；贛egatron-LM框架
，嵌入可插拔的QAT并行线性层
，统一模型存储体式
，还支持32K长序列训练
。主规划选取QAT加后训练蒸馏
，训练吞吐仅降落5%
，险些不增长额表成本
。这意味着国产NPU第一次占有了属于自己的1.58-bit低比特训练栈
，不用再先跑到国表CUDA生态上验证
，再费劲迁徙回来
，真正实现了基础设施级此外技术沉淀
，后续所有想在昇腾上做低比特训练的团队
，都能够站在这个底座上直接起步
。

第三
，它的智能密度极高
。面壁智能与华为昇腾的协同优化显示
，选取1.58-bit训练范式
，一致内存容量下可承载约6倍的模型参数量
。这6倍的盈利来自三个层面：一是权重从16-bit压缩到1.58-bit带来的存储节
；二是整数推算代替浮点推算带来的算力开释；三是昇腾团队从指令集到算子层的深杜着化
。

而BitCPM-CANN能达到这样的规模和成熟度背后是几年持续投入的了局
。在行业对极低位宽QAT还持张望态度的时辰
，面壁智能就已经选定了幼于蹬宗2-bit的路线
。

彼时
，国内算力和美国差距很大
，整体AI基础设施都相对落后
，国产芯片用来训练大模型不太够用
。为了在有限资源下训练大模型
，面壁很早就自研了散布式训练框架BMTrain
。这不仅是对标DeepSpeed或Megatron的工程实现
，更是“密度定律”的体现——仅用32张卡甚至更少的资源
，就能够启动百亿级模型的训练
，极大地降低了大模型的准入门槛
。

面壁智能与DeepSeek被业内称为两家“国内最会做架构改进的公司”
，但两者的战场截然分歧：DeepSeek紧抓云侧大算力场景
，在万卡集群上榨干算力价值；面壁则聚焦单张端侧芯片
，在功耗、散热、访存带宽的严苛约束下钻营极致效能
。好多大模型企业
，选取守旧的传统架构
，通过统一批数据训练多个尺寸模型
，面壁智能则针对端侧芯片个性
，做了大量稀少推算、近存推算等底层优化
。在持久索求中
，团队萦绕进建率、蒸馏战术、数据配比等主题变量
，一点点摸索、反复验证
，最终沉淀出一套不变、可迁徙的超参步骤论
。

这些底层堆集最终成为BitCPM-CANN能在昇腾上“发现新文字”的支持
。

若是说前两部门会商的是“旧文字的问题”和“新文字怎么造”
，那么这一部门我们不妨把视野拉高
，审视BitCPM-CANN开源这套“新文字”之后的产业意思
。它不只是跑通了一个模型
，而是把推理侧6倍显存盈利造成可复用能力
，把低比特训练造成能够迁徙、能够扩大、能够持续优化的昇腾能力底座
。

先看技术层面的添补
，BitCPM-CANN首先补上了国产AI芯片持久存在的一块空缺
。持久以来
，国产AI芯单方面对一个狼狈的局面：硬件参数可圈可点
，可支持芯片运行的“文字系统”却始终攥在别人手里
。CUDA生态就像一套成熟的拉丁字母系统
，好用但受造于人
。国产算力想要实现齐全自主
，绝不能只停顿在“读懂、使用”别人的系统
，必须占有属于自己的“造字”能力
，从底层算法到训练框架都把握在自己手中
。

BitCPM-CANN的颁布突破了这一僵局
。这是国产NPU平台上第一次公开、系统化的1.58-bit三值训练适配
，规模一次推到8B量级
，并且与面壁智能的全精度模型家族做了1:1对齐评测
。这意味着业界第一次能够在国产算力上看到一个低比特模型的齐全能力争谱
。

再把视线转向端侧AI产业
，技术最终要服务于场景
，BitCPM-CANN的价值绝不仅限于昇腾平台自身
。

把眼光从技术自身转向落地场景
，BitCPM-CANN的价值早已超出昇腾平台
，真正触达了整个端侧AI产业的主题需要
。技术最终的归宿是服务现实场景
，而BitCPM-CANN刚好踩中了手机、PC、汽车等终端设备最火急的痛点
。对终端厂商而言
，将1.58-bit三值模型与MoE技术结合
，有望把60B级此外模型能力真正装动手机
。更关键的是
，相比传统的BF16体式
，现实显存收益能达到6倍
，不用额表增长物理内存
，就能让设备承载更强的AI能力
。在全球内存价值持续上涨、硬件成本居高不下确当下
，这早已不只是单纯的技术优势
，而是企业节造成本、提升产品竞争力的必然选择
。

与此同时
，行衣凤还存在一个显著的供需错位
。高通的新一代芯片平台已经支持2-bit原生推理
，硬件筹备好了
，但市场上一向不足真正可落地、不变可用的低比特权重
。BitCPM-CANN的开源刚好添补了这一空当
，让芯片的硬件能力有了用武之地
，让通常开发者也能零门槛履历国产算力在低比特场景的真实机能
。这种模型与芯片的“双向奔赴”才是端侧AI走出尝试室、大规模落地的真实起跑线
。

并且
，作为全球首个齐全在国产算力上原生实现的三值模型
，它证明昇腾不仅能训大模型、更能训极低比特大模型
，改写了表界对国产芯片“重推理、轻训练”的固有认知
。它实现了国产NPU、国产AI模型、国产训练框架三者的齐全联动
，证了然在不依赖海表算力、不凭借CUDA生态的前提下
，中国团队依然能打造出世界级的AI“新文字”
。

把眼光收回到面壁智能自身
，BitCPM-CANN标志取面壁智能成长曲线上的一个清澈分水岭
。

在这之前
，面壁智能在行业中的定位是一家致力于AGI的大模型公司
。行业普遍还在追赶参数规模、云端较量、榜单刷分的时辰
，面壁智能已经实现了从底层训练框架到端侧压缩路线的堆集
，早已成为中国端侧大模型技术路线的界说者
。

这次BitCPM-CANN开源不只是一次单一的成就颁布
，它同时开释了一个清澈的技术信号：端侧大模型的主题矛盾在内存与效能；解决蹊径应该指向压缩范式自身的重构
。面壁智能没有选择追随海表路线做一个适配者
，而是选择在极低比特这条更难、更底层的路线上
，成为规定的书写者
。

这个分水岭的内容
，是面壁智能实现了从模型提供者到技术步骤论界说者的身份跃迁
。

当然
，话语权的成立
，从来靠的不是单点突破
，而是系统性输出
。BitCPM-CANN只是冰山浮出水面的那一角
，水面之下是面壁智能从BM-Train到MindSpeed、从低比特步骤论到端侧落地关环的齐整系统
。

回头看
，BitCPM-CANN的真正意思在于
，它为国产算力在极低比特训练方向上提供了一个可验证的起点
。这套“新文字”已经写出来了
，字典和范文都开源了
。更多伟大的文章还要看产业界的后续致力
，但至少
，笔已经交到了每幼我手里
。