Nutzen Sie den Hardware-Hinweis als schnellen Realitätscheck, bevor Sie ein Modell herunterladen.
Lokale KI, übersichtlich katalogisiert
Finden Sie das richtige
Open-Modell
für die Aufgabe.
Ein praktischer Leitfaden zu leistungsfähigen Open-Weight-Modellen mit den Kontext-, Lizenz- und Hardware-Hinweisen, die Sie vor dem Herunterladen benötigen.
74 modelskuratierte Startpunkte
9 SpurenText, Code, Vision & mehr
Lokal zuerstHardware-Hinweise enthalten
Die engere Auswahl
Wählen Sie Ihren Ausgangspunkt
Suchen Sie nach Modell oder Organisation und speichern Sie dann die Modelle, die einen Test wert sind.
Ein besserer erster Durchlauf
Das Modell ist nur die halbe Entscheidung.
Kontextlänge, Quantisierung und Ihr verfügbarer Arbeitsspeicher sind genauso wichtig wie ein Benchmark-Ergebnis.
Offene Gewichte bedeuten nicht immer die gleichen Nutzungsrechte. Lesen Sie die Modellkarte.
Ein kleines lokales Modell, das in Ihren Arbeitsablauf passt, ist besser als ein großes Modell, das Sie nicht ausführen können.
Praxisleitfaden
Ein Modell lokal ausführen
Ollama ist der einfachste Einstiegspunkt. llama.cpp bietet mehr Kontrolle, während LM Studio eine benutzerfreundliche Desktop-Oberfläche bietet.
Gewichte sind nicht die gesamte Speicherrechnung. Längere Konversationen benötigen zusätzlichen Platz für den KV-Cache, beginnen Sie also mit einem kürzeren Kontext.
Eine gute 4-Bit-Quantisierung ist normalerweise der beste Kompromiss zwischen Qualität und einem Modell, das tatsächlich auf Ihren Rechner passt.
Geschwindigkeit, Werkzeugnutzung und die Qualität Ihrer Prompts sind persönlich. Nutzen Sie diesen Katalog, um eine engere Auswahl zu treffen und diese dann lokal zu testen.