视觉与多模态 — 看图理解、图文混合推理
视觉能力
ZeroAI 的 Rust 智能体核心支持多模态推理:
- 图片上传——在对话里发图片,智能体可以看懂
- 截图分析——分析一张应用截图、界面截图里有什么
- OCR——提取图片里的文字
- 图文混合推理——结合图片和文字内容回答问题
怎么用
在 Terminal 或任意通道里发图片 + 问题:
[上传一张应用截图]
这个界面里有哪些按钮?帮我梳理一下功能入口
智能体会调用视觉模型(取决于你配置的供应商——GPT-4o、Claude Sonnet、Gemini 都支持多模态)来分析图片。
典型场景
- 界面分析——帮你理解某个应用的界面、某个配置页面有什么选项
- 截图转文字——OCR 提取截图里的文字
- UI 问题排查——"帮我看看这个错误截图是什么意思"
- 图表解读——上传一张数据图表,让智能体解读趋势
注意
视觉推理消耗的 token 比纯文字多,/cost 里能看到差异。如果只是纯文字任务,不需要视觉能力,可以关掉视觉相关的安全开关。
资料来源:GitHub ZeroAI README