Usa la nota de hardware como una verificación rápida de la realidad antes de descargar un modelo.
IA local, claramente catalogada
Encuentra el correcto
abrir modelo
para el trabajo.
Una guía práctica de modelos de pesos abiertos capaces, con el contexto, la licencia y las notas de hardware que necesitas antes de descargar.
59 modelospuntos de partida seleccionados
7 carrilestexto, código, visión y más
Local primeronotas de hardware incluidas
La lista corta
Elige tu punto de partida
Busca por modelo u organización, luego guarda los que valga la pena probar.
Una mejor primera ejecución
El modelo es solo la mitad de la decisión.
La longitud del contexto, la cuantización y tu memoria disponible importan tanto como una puntuación de referencia.
Los pesos abiertos no siempre significan los mismos derechos de uso. Lee la tarjeta del modelo.
Un modelo local pequeño que se ajuste a tu flujo de trabajo es mejor que un modelo grande que no puedes ejecutar.
Guía de campo
Ejecutar un modelo localmente
Ollama es el punto de partida más sencillo. llama.cpp ofrece más control, mientras que LM Studio te brinda una interfaz de escritorio amigable.
Los pesos no son todo el costo de memoria. Las conversaciones más largas necesitan espacio adicional para el caché KV, así que comienza con un contexto más corto.
Una buena cuantización de 4 bits suele ser el punto ideal entre calidad y un modelo que realmente quepa en tu máquina.
La velocidad, el uso de herramientas y la calidad de tus prompts son personales. Usa este catálogo para hacer una lista corta y luego pruébala localmente.