惠普与元空智能联手:端侧 AI 模型 Boxer 正式落地
在云端大模型面临数据安全、Token 成本及稳定性等现实瓶颈的背景下,端侧 AI 正成为行业关注的焦点。近日,由北京大学科学智能学院孵化的初创企业元空智能,联合中国惠普有限公司,共同发布了其核心成果——35B 参数的端侧大模型 Boxer,以及配套的断网办公平台 元空 AI Work 和科研智能体 元空 AI for Science。
核心突破:Boxer 模型与端侧智能
元空智能 CEO 逄大嵬指出,云端模型在特定场景下存在物理性局限,而端侧 AI 是解决这些问题的根本方案。Boxer 作为此次发布的旗舰模型,基于开源基座模型,利用元空智能长期积累的 Agent Harness 产生的真实任务轨迹进行后训练。
关键性能指标:
- 模型规模:35B 参数。
- 推理速度:在 40 TOPS 消费级 PC 上,预填充速度超 700 Tokens/s,解码速度超 30 Tokens/s。
- 资源占用:运行内存低于 8GB,可轻松部署于普通笔记本。
- 智能密度:在同尺寸模型测评中排名第一,部分能力已超越 GPT-4o。
断网运行:从办公到科研的全链路自动化
在发布会现场,元空智能联宁鲲鹏博士演示了 Boxer 在断网环境下的强大能力。通过调用本地模型,系统仅需几分钟即可完成金融交易流水的异常排查、发票分类归档,甚至能自动完成复杂实验设计、绘制图表并撰写论文草稿。这证明了端侧模型在处理高合规要求场景(如金融、医药、科研)时的巨大潜力。
生态合作:标准化交付与商业模式创新
此次与惠普的合作,不仅是技术的叠加,更是商业模式的创新。元空智能计划将 AI Work 及 Boxer 模型预装于惠普 Z 系列工作站,提供标准化交付与买断式服务,大幅降低企业应用成本。
- 差异化壁垒:大厂倾向于云端 All-in,而端侧 AI 需要原生的环境闭环与数据积累,这正是元空智能的长板。
- 市场趋势:随着 PC 硬件成本上升及企业 AI 需求爆发,端侧 AI 将在未来两三年迎来爆发式增长,特别是在数据必须本地留存的高价值行业。
未来展望
元空智能明确表示,现阶段将聚焦于 PC、工作站等生产力工具,暂不进入手机场景,以确保在真正联网干活且价值更高的设备上形成网络效应。随着英伟达等硬件厂商将大内存封入芯片,端侧 AI 的临界点即将触发,未来每一台电脑都将成为独立的 AI 计算节点。