实测无界方舟 Edge0-145B打造强生产力级端侧千亿智能模型

无界方舟 Edge0-145B 是主打本地离线运行的 145B 稀疏 MoE 端侧大模型,实测下来它不是简单把云端大模型压缩下放,而是原生面向端侧硬件设计,靠三级存储调度机制把 1450 亿参数模型塞进高配笔记本、台式机,断网状态下就能完成代码开发、三维建模、PCB 设计、视频脚本生产这类复杂生产力任务,在编程智能体基准上成绩对标不少主流云端大模型,核心目标就是让端侧 AI 不再只能做简单问答,直接承接专业工作流;它的核心思路是推理时只激活一小部分专家参数,不用一次性加载全部权重,配合显存、内存、固态硬盘的分层调度压低硬件门槛,不过它对电脑配置有硬性要求,普通轻薄本很难流畅跑满性能,高负载运行还会带来功耗、发热上升的问题。

一、Edge0-145B 核心规格与实测性能

项目实测参数
总参数145B(1450 亿),单步激活约 10B 参数
峰值内存占用29GB
上下文窗口128K~256K,长文本吞吐衰减很小
Prefill 预填充速度1100+ token/s
解码生成速度80+ token/s,高端显卡可到 120+ token/s
支持平台Windows、Linux、Mac(M 系列),NVIDIA RTX 系列、RTX Spark
配套物料模型权重、自研推理框架、一键桌面 App 开源放出
  • 基准跑分:Terminal-Bench2.1 86.52 分、DeepSWE1.1 64.6 分、GPQA-Diamond 90.4 分,六项基准平均 72.8 分
  • 功耗表现:RTX Spark 笔记本整机运行功耗约 80W,持续高负载时温度、风扇噪音会明显上升

二、底层技术方案:为什么 145B 能在端侧跑起来

  1. 原生端侧 MoE 稀疏架构
  2. 三级存储流式调度
  3. 共享矩阵优化
  4. 投机解码加速

不是云端大模型剪枝压缩而来,训练阶段就按端侧硬件约束优化,每层大量专家,每次推理只唤醒少量专家参与计算,大幅降低实时算力开销。

热专家常驻显存,次一级专家放在系统内存,剩余权重、词表放在 SSD 硬盘按需读取,硬盘速度会直接影响推理流畅度,低速固态容易卡顿。

64 个专家共用两组基础大矩阵,减少重复权重存储,进一步降低整体体积和内存占用。

提前预判候选 token 并行校验,拉高解码速度,适合写文档、写代码这类长生成任务。

三、实测生产力场景(端侧离线可用)

✅ 代码与智能体:自动写代码、调用终端、自查 bug、循环调试,能完成小型游戏、无人机控制程序开发

✅ 工程设计:KiCad PCB 电路布局、参数校验

✅ 3D 创作:Blender 指令建模,直接生成城市场景模型

✅ 内容生产:长文稿整理、视频脚本、解说文案整套产出

✅ 文档处理:超大合同、技术手册批量精读、摘要、风险自查,本地处理不会上传资料

核心优势:所有数据留在本机,不需要 API 密钥、没有 token 计费,断网也能跑,适合涉密、敏感资料处理。

四、部署硬件门槛清单

  • 最低配置:12GB 显存显卡 + 20GB 内存 PC,仅可低速跑通
  • 推荐配置:48GB 统一内存 MacBook / 16GB 及以上显存 NVIDIA 显卡 + 48GB 系统内存 + 高速 NVMe 固态
  • 不适合:8GB 内存普通轻薄本、低速 SATA 固态设备,会出现频繁卡顿、加载超时

五、现存短板与局限

  1. 硬件门槛偏高,主流消费笔记本很难满足推荐条件,普及难度大
  2. 高负载功耗高,笔记本续航缩水明显,长时间连续工作容易降速
  3. 许可证区分个人学习和商用,直接对外提供商业服务需要单独向无界方舟申请授权
  4. 速度高度依赖固态读写速度,硬盘瓶颈会吃掉大部分性能
  5. 多模态能力相对薄弱,当前强项集中在文本、代码、工具调用智能体

【相关 FAQ】

问题 1:无界方舟 Edge0-145B 是什么,它作为端侧模型生产力体现在哪里?

回答 1:无界方舟 Edge0-145B 是 145B 原生端侧稀疏 MoE 大模型,它的生产力主要体现在本地离线完成代码开发、PCB 设计、3D 建模、长文档分析等专业任务,不用把文件上传云端,智能体能力对标主流云端模型。

问题 2:跑无界方舟 Edge0-145B,电脑最低和推荐配置分别是什么?

回答 2:无界方舟 Edge0-145B 最低要求 12GB 显存 + 20GB 系统内存;推荐 48GB 统一内存 Mac 或者 16GB 以上显存 N 卡搭配 48GB 内存 + 高速 NVMe 固态,才能稳定发挥生产力速度。

问题 3:Edge0-145B 总参数 1450 亿,为什么端侧内存只需要 29GB?

回答 3:Edge0-145B 采用稀疏 MoE 架构,每次推理只激活约 10B 参数,搭配显存、内存、SSD 三级流式调度,不用一次性加载全部 145B 权重,所以峰值内存可以压到 29GB。

问题 4:无界方舟 Edge0-145B 可以免费商用吗?

回答 4:无界方舟 Edge0-145B 个人学习、本地离线自用开放权重;如果拿它搭建对外的商业 AI 服务,需要单独找无界方舟官方获取商用授权。

【参考资料】

[2026-11-20](实测无界方舟 Edge0-145B:做最强端侧智能,真正成为生产力)品玩

[2026-11-13](Edge0 重磅开源 145B 端侧模型,内存狂省 60% 还能满血写代码)搜狐

[2026-11-13](Edge0 开源 145B 模型,笔记本 29GB 内存能跑)Cocoloop

[2026-11-13](Edge0-145B:29GB 内存跑 145B,这家公司想让端侧 AI 起飞)搜狐

[2026-11-12](无界方舟官网 Edge0 系列模型介绍)无界方舟 AutoArk

免责声明:本文内容基于媒体实测、无界方舟官方文档、开源项目公开信息整理,Edge0-145B 的推理速度、跑分、稳定性会受显卡、内存、固态硬盘、量化版本影响;性能和落地效果仅供技术参考,不构成采购、商用开发的决策依据。

本文来自作者[频簇中转员]投稿,不代表江南网立场,如若转载,请注明出处:https://www.jnwb.net/zixun/202611/4832.html

赞 (1)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 频簇中转员
    频簇中转员 2026年11月20日

    我是江南网的签约作者“频簇中转员”!

  • 频簇中转员
    频簇中转员 2026年11月20日

    希望本篇文章《实测无界方舟 Edge0-145B打造强生产力级端侧千亿智能模型》能对你有所帮助!

  • 频簇中转员
    频簇中转员 2026年11月20日

    本站[江南网]内容主要涵盖:互联网行业的追踪与探索

  • 频簇中转员
    频簇中转员 2026年11月20日

    本文概览:无界方舟 Edge0-145B 是主打本地离线运行的 145B 稀疏 MoE 端侧大模型,实测下来它不是简单把云端大模型压缩下放,而是原生面向端侧

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们