在拉取模型之前，请使用硬件说明作为快速的现实检查。
开源图谱
v6
74 models精选起点
9 个通道文本、代码、视觉及更多
本地优先包含硬件说明
精选列表
选择您的起点
按模型或组织搜索，然后保存值得测试的模型。
更好的首次运行体验
模型只是决策的一半。
上下文长度、量化和可用内存与基准测试分数同样重要。
开放权重并不总是意味着相同的使用权限。请阅读模型卡。
适合您工作流程的小型本地模型，胜过您无法运行的大型模型。
实地指南
在本地运行模型
Ollama 是最简单的起点。llama.cpp 提供了更多的控制权，而 LM Studio 则为您提供了一个友好的桌面界面。
权重并不是内存占用的全部。更长的对话需要额外的空间来存储 KV 缓存，因此请从较短的上下文开始。
良好的 4-bit 量化通常是质量与实际能在您的机器上运行的模型之间的最佳平衡点。
速度、工具使用和提示词质量因人而异。使用此目录制作一个简短列表，然后在本地进行测试。