2023年,ChatGPT 横空出世。它是一个住在服务器里的神——你需要网络、需要API Key、需要按token付费。每一次对话,你的问题都要穿越海底光缆,抵达某个万卡集群,在那里被拆成向量、注入1750亿参数、生成回复,再原路返回。
这个模式在2024年达到了顶峰。NVIDIA的市值突破3万亿美元,全球数据中心耗电量超过了整个英国。AI被锁在云端。
2026年7月,一个叫 ternlight 的开源项目出现在GitHub上。494颗星,MIT协议。
一个7MB的WASM文件,包含了嵌入模型+分词器+推理引擎。npm install 之后,在浏览器里直接跑,不需要GPU、不需要API Key、不需要服务器。单次嵌入2.5毫秒。
这不是一个"更小的ChatGPT"。这是一种新的AI存在形态——AI不再是一个你请求的服务,而是你设备的一部分。
| 旧大陆 | 新大陆 | |
|---|---|---|
| 模型大小 | 175GB | 7MB |
| 运行位置 | 数据中心 | 你的浏览器 |
| 延迟 | 200ms+ | 2.5ms |
| 成本 | 按token计费 | 零 |
| 隐私 | 数据上云 | 数据不出设备 |
| 离线 | 必须联网 | 完全离线 |
| 部署 | K8s集群 | npm install |
当AI从服务器端迁移到客户端,分布式研发体系已有的三条产品线恰好卡在红利曲线上:
内嵌7MB嵌入模型。FAQ语义匹配毫秒响应。零API调用。断网也能AI。
Phase 1 · 本周启动
机巢边缘推理。巡检报告离线语义索引。无人机现场即时搜索。不依赖云端。
Phase 2 · 本月
每节点自带7MB嵌入引擎。先本地后远程。带宽节省90%。推理节点GPU训云恩科技定制模型。
Phase 3 · 远期
回看2026年,就像我们现在回看2007年的iPhone——当时的人只是觉得"手机能上网了",很少有人意识到整个互联网的重心将永久地从桌面转移到口袋。
2026年的ternlight也是同样性质的事件。7MB的WASM模型在今天看来只是一个"有趣的玩具",但它揭示了一条不可逆的轨迹:AI推理正在从集中的数据中心,迁移到分散的数十亿台设备上。
到2035年,没有人会再为调用一个嵌入模型而付费。语义搜索会和拼写检查一样,成为每一个文本输入框的默认功能。AI不再是"云端的服务",而是计算的基础设施——像CPU、内存、文件系统一样,无处不在,且免费。
不是从一台服务器到另一台服务器,而是从云端到每一个浏览器、每一部手机、每一台边缘设备。
分布式研发体系 · 浏览器端AI战略 · 2035视角