第 0 步先说清楚:什么情况下值得装
这条最要紧。别装完发现白折腾。
✅ 装了真有用的三种情况
- 没信号的地方也要问:配电房、地下室、工地、飞机上、偏远现场。
- 内容不想上传:客户电费数据、报价测算、合同草稿、标书内容。
- 喂自己的资料做离线问答:把政策文件、设备清单、报价模板装进去,现场没网也能查。(这条最值钱)
⛔ 如果只是"随便聊聊天、问问问题"——别装
豆包、元宝、通义、智谱清言这类 App 全都免费、不翻墙、模型强得多。
手机本地能跑的最大也就 4B 左右,水平大致在 GPT-3.5 偏下:
简单问答、改写、短总结够用;复杂推理、长文章、数学计算明显偏弱。
这时候折腾本地是降级,不是升级。
⚠️ 两个物理限制,装之前要认
- 发热降频:连续生成 30–90 秒后芯片会降速,可能从 15 字/秒掉到 4–5 字/秒。手机会明显发烫。
- 耗电快:本地跑模型是手机上最耗电的事之一。
→ 所以正确用法是「短问短答」,不是让它写长文。
第 1 步查你手机的「底数」(2 个数字)
这两个数字决定一切。查不到就别往下走。
- 打开手机 设置 → 关于手机(有的叫「我的手机」)。
- 找 运行内存(RAM),记下是多少 GB。
- 同页找 处理器 或 型号,记下来。
⚠️ 两个坑别踩
① 「内存融合」「虚拟内存」「RAM Plus」不算,那是拿存储空间凑的,跑模型没用,只认物理内存。
② 手里这台机器的实际可用内存,比标称少 2–3GB(系统占掉了)。
你的运行内存是:
手机型号 / 处理器:
第 2 步对号入座:你能跑什么
下表速度是 2026 年公开实测,取中等偏保守值。
| 运行内存 | 能跑的模型 | 实测速度 | 结论 |
| ≤4GB | 只能 0.6B | 1–3 字/秒 | ⛔ 别折腾 |
| 6GB | Qwen3-1.7B(约1GB) | 4–8 字/秒 | ⚠️ 能用,慢 |
| 8GB | Qwen3-1.7B 舒适 Qwen3-4B 可试 | 8–16 字/秒 | ✅ 舒适 |
| 12GB+ | Qwen3-4B 舒适 8B 可试 | 15–25 字/秒 | ✅ 最佳 |
芯片底线(比内存更容易被忽略)
能「读得舒服」的最低门槛是 骁龙 855(2019 年的旗舰)。比它更老的芯片,
即使内存够也只有 2–4 字/秒——能跑,但没法对话。
2019 年之后的骁龙 8 系 / 天玑 9000 系 / 麒麟 9000 系都没问题。
参考速度:骁龙8 Gen3 跑 Qwen3-1.7B 实测约 16 字/秒(150 字约 9 秒);
骁龙778G 跑 4B 约 8 字/秒。
第 3 步装 App(阿里官方,国内直连)
用 MNN Chat(阿里巴巴开源,MNN 引擎)。选它的理由很硬:
- APK 挂在阿里云 CDN 上,国内秒下,不走 GitHub、不用翻墙。
- 模型从 魔搭 ModelScope 下载,国内直连(同类 App 大多走 HuggingFace,国内下不动)。
- 纯本地运行,数据不上云;已实测文件为官方 APK(43.8MB)。
① 复制下面这个地址,粘到手机浏览器打开:
https://meta.alicdn.com/data/mnn/apks/mnn_chat_0_8_3.apk
② 剩下的三步:
- 浏览器打开上面地址 → 下载 APK(约 43.8MB,几秒就完)。
- 点安装。第一次会提示「允许安装未知来源应用」→ 按提示去设置里打开,再回来装。
- 装完打开,允许它要的权限即可。
🔴 只从上面这个地址下
别去搜「MNN Chat 下载」——网上那些第三方软件站、APKPure 的包装可能被改过。
阿里官方源就是这个 alicdn 地址,别换。
第 4 步下载模型(务必连 WiFi)
App 本身不带模型,要单独下一次。1–3GB,别用流量。
- 打开 MNN Chat → 进模型市场 / 添加模型。
- 按你第 1 步查到的内存选:
- 8GB → 先装 Qwen3-1.7B(稳),跑顺了再试 Qwen3-4B。
- 12GB 及以上 → 直接 Qwen3-4B。
- 6GB → 只装 Qwen3-0.6B 或 1.7B,别碰更大的。
- 点下载,保持 App 在前台,等它下完(1–3GB,看网速)。
- 下完点「加载 / Load」,等十几秒载入完成。
模型下不完、闪退怎么办
基本都是内存不够。换更小的模型,别硬撑——这是 App 官方文档明说的。
第 5 步验证:是不是真离线
这一步不做,等于没验证。
- 问一句:「用一句话介绍你自己」,确认能答。
- 打开飞行模式(关掉 WiFi 和流量)。
- 再问一句:「苏州现在要注意什么用电政策」(它答得对不对不重要)。
- 只要飞行模式下还能出字,就是真离线成功。
- 留意界面上显示的每秒字数(tok/s),把它记下来填到第 6 步。