Utilisez la note matérielle comme une vérification rapide avant de télécharger un modèle.
IA locale, clairement cataloguée
Trouvez le bon
modèle ouvert
pour le travail.
Un guide pratique sur les modèles à poids ouverts performants, avec le contexte, la licence et les notes matérielles dont vous avez besoin avant de télécharger.
59 modèlespoints de départ sélectionnés
7 voiestexte, code, vision et plus
Local d'abordnotes matérielles incluses
La sélection
Choisissez votre point de départ
Recherchez par modèle ou organisation, puis enregistrez ceux qui valent la peine d'être testés.
Un meilleur premier lancement
Le modèle ne représente que la moitié de la décision.
La longueur du contexte, la quantification et votre mémoire disponible comptent tout autant qu'un score de référence.
Les poids ouverts ne signifient pas toujours les mêmes droits d'utilisation. Lisez la fiche du modèle.
Un petit modèle local adapté à votre flux de travail vaut mieux qu'un grand modèle que vous ne pouvez pas exécuter.
Guide de terrain
Exécuter un modèle localement
Ollama est le point de départ le plus simple. llama.cpp offre plus de contrôle, tandis que LM Studio vous offre une interface de bureau conviviale.
Les poids ne représentent pas la totalité de la mémoire nécessaire. Les conversations plus longues nécessitent de l'espace supplémentaire pour le cache KV, commencez donc avec un contexte plus court.
Une bonne quantification 4 bits est généralement le juste milieu entre la qualité et un modèle qui tient réellement sur votre machine.
La vitesse, l'utilisation des outils et la qualité de vos prompts sont personnelles. Utilisez ce catalogue pour établir une liste, puis testez-la localement.