/nano 端侧 Gemini Nano 离线推理 — 手机上自己跑小模型

什么是 Gemini Nano

Gemini Nano 是 Google 给 Android 手机做的端侧小模型——直接跑在手机的 NPU 上，不联网、不花钱、响应极快。ZeroAI 的 /nano 命令就是调用它。

怎么用

/nano 总结这段文字的要点
/nano 帮我润色一下这条 Telegram 消息

什么时候用

好处

• 完全离线——手机断网也能用
• 零费用——不消耗任何 API 配额
• 超快——NPU 加速，响应毫秒级
• 数据不出手机——最严格的隐私

限制

• 能力有限——作为端侧小模型，在复杂推理、长文本、多轮对话上远不如云端大模型
• 不是所有手机都支持——Gemini Nano 要求较新的骁龙 / Tensor 芯片
• 适合简单任务——总结、润色、改写、分类这类场景够用

与 Ollama 的区别

Ollama 是你自己拉模型、自己控制的通用端侧方案，Gemini Nano 是 Google 系统级提供的特定小模型。一般来说：

• 手机上原生可用 → /nano（零配置）
• 要选特定模型 → Ollama

资料来源：GitHub ZeroAI README、Google Gemini Nano 官方文档