CİHAZ ÜZERİNDE ZEKA
Yapay Zeka alanınız
Android motoru bağlandığında yerel olarak çalıştırmak için her şey hazır.
Bu web önizlemesi GGUF çalıştırmaz ve bir API barındırmaz. llama.cpp motoru, Android servisi ve yerel depolama Capacitor projesine entegre edilmelidir.
Genel bakış
ÖZEL SOHBET
Sohbet
Cihazda çalışan bir modelle sohbet edin.
YEREL KÜTÜPHANE
Modeller
LocalMind ile kullanmak istediğiniz GGUF dosyalarını yönetin.
Önizleme, seçilen dosyanın adını ve boyutunu okuyabilir ancak dosyayı kalıcı depolama alanına kopyalayamaz veya llama.cpp'ye yükleyemez. Android'de, belge seçiciyi ve yerel köprüyü bağlayın.
Varsayılan olarak seçilmiş bir model yok.
Kütüphaneniz burada başlar
Koleksiyonunuzu düzenli tutmak için .gguf dosyaları ekleyin. Çıkarım için yerel llama.cpp entegrasyonu gereklidir.
Performans
Bellek hedefi garanti değildir: tüketim modele, bağlama, önbelleklere ve işletim sistemine göre değişir.
YEREL AĞ ERİŞİMİ
API Sunucusu
Telefonunuzu, aynı Wi-Fi üzerindeki uygulamalar için yerel bir uç nokta olarak kullanın.
Web önizlemesi port açmaz. Derlenmiş Android sürümünde yerel sunucu, uygulama aktif olduğu sürece, aynı ağda ve yüklü bir model varken çalışır.
1024 ile 65535 arasında bir bağlantı noktası kullanın.
Burada oluşturulan anahtarlar bu uygulamada saklanır. Önizleme, yerel servis olmadan istekleri kimlendirmez.
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'Android'de gösterilen adresi, geçerli bir anahtarı ve yüklü bir modeli kullanın; telefon ve bilgisayar aynı yerel ağda olmalıdır.
SFEU · Eric Almeida Montanario tarafından patentlenmiştir
Parmağınızla veya fareyle çizin. Ekranı tekrar kullanmak için kapat'a dokunun.
