llmfit 是一个开源的终端工具,可以一键测试你的电脑硬件到底能流畅跑哪些本地大语言模型(LLM)。
开源地址:https://github.com/AlexsJones/llmfit/
安装
这里以 Windows 为例子,打开“终端”,直接输入
scoop install llmfit
显示“'llmfit' (0.6.4) was installed successfully!”则安装成功。
如该命令无法安装则应该先安装 scoop ,输入下方命令即可
irm get.scoop.sh | iex

使用
终端输入
llmfit
即可

我的老电脑能跑的模型还挺多的!
更多玩法
| 按键 | 动作 |
|---|---|
| ↑ / ↓ 或 j / k | 导航模型列表(上下移动选中行) |
| / | 进入搜索模式(对模型名称、提供者、参数、使用场景进行部分匹配搜索) |
| Esc 或 Enter | 退出搜索模式 |
| Ctrl-R | 清除搜索内容 |
| f | 循环切换适配度过滤器:全部、可运行、完美、良好、勉强 |
| a | 循环切换可用性过滤器:全部、GGUF可用、已安装 |
| s | 循环切换排序列:分数、参数量、内存%、上下文长度、日期、使用场景 |
| t | 循环切换颜色主题(自动保存) |
| p | 对选中模型打开 Plan 模式(硬件规划,反向估算需求) |
| P | 打开提供者过滤弹窗 |
| i | 切换“已安装优先”排序(针对任何检测到的运行时提供者) |
| d | 下载选中的模型(当有多个提供者时弹出选择器) |
| r | 从运行时提供者刷新已安装模型列表 |
| 1 - 9 | 切换提供者可见性(1~9 对应不同提供者) |
| Enter | 切换选中模型的详细视图 |
| PgUp / PgDn | 向上/向下滚动 10 行 |
| g / G | 跳转到列表顶部 / 底部 |
| q | 退出程序 |
极客分享原创文章,转载请注明出处:https://geekshare.org/387/