搜索「推理」

以开源权重和高性价比出圈的国产大模型，推理能力在数学、代码题上表现稳定。网页版免费、API 价格低，很多团队拿它做二次开发或私有化部署。

把模型下载、量化、推理服务打包成一条命令，Mac 上跑 7B 到 70B 都很顺。隐私敏感场景的标准答案。

不想折腾命令行的本地推理方案：搜索模型、下载、聊天、起本地 API 全在图形界面里完成。适合做离线测试。