llmfit:一条命令测试电脑能跑哪些大模型?

llmfit 是一个开源的终端工具,可以一键测试你的电脑硬件到底能流畅跑哪些本地大语言模型(LLM)。

开源地址:https://github.com/AlexsJones/llmfit/

安装

这里以 Windows 为例子,打开“终端”,直接输入

scoop install llmfit

显示“'llmfit' (0.6.4) was installed successfully!”则安装成功。

如该命令无法安装则应该先安装 scoop ,输入下方命令即可

irm get.scoop.sh | iex
llmfit:一条命令测试电脑能跑哪些大模型?

使用

终端输入

llmfit

即可

llmfit:一条命令测试电脑能跑哪些大模型?

我的老电脑能跑的模型还挺多的!

更多玩法

按键动作
↑ / ↓ 或 j / k导航模型列表(上下移动选中行)
/进入搜索模式(对模型名称、提供者、参数、使用场景进行部分匹配搜索)
Esc 或 Enter退出搜索模式
Ctrl-R清除搜索内容
f循环切换适配度过滤器:全部、可运行、完美、良好、勉强
a循环切换可用性过滤器:全部、GGUF可用、已安装
s循环切换排序列:分数、参数量、内存%、上下文长度、日期、使用场景
t循环切换颜色主题(自动保存)
p对选中模型打开 Plan 模式(硬件规划,反向估算需求)
P打开提供者过滤弹窗
i切换“已安装优先”排序(针对任何检测到的运行时提供者)
d下载选中的模型(当有多个提供者时弹出选择器)
r从运行时提供者刷新已安装模型列表
1 - 9切换提供者可见性(1~9 对应不同提供者)
Enter切换选中模型的详细视图
PgUp / PgDn向上/向下滚动 10 行
g / G跳转到列表顶部 / 底部
q退出程序

极客分享原创文章,转载请注明出处:https://geekshare.org/387/

(1)

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注