INTELIGENCJA NA URZĄDZENIU
Twoja przestrzeń AI
Wszystko gotowe do lokalnego uruchomienia — gdy silnik Android zostanie podłączony.
Ten podgląd internetowy nie uruchamia GGUF ani nie hostuje API. Silnik llama.cpp, usługa Android i natywna pamięć muszą zostać zintegrowane w projekcie Capacitor.
Przegląd
PRYWATNA ROZMOWA
Chat
Rozmawiaj z modelem uruchomionym bezpośrednio na urządzeniu.
BIBLIOTEKA LOKALNA
Modele
Zarządzaj plikami GGUF, których chcesz używać w LocalMind.
Podgląd może odczytać nazwę i rozmiar wybranego pliku, ale nie może go skopiować do pamięci trwałej ani załadować do llama.cpp. W systemie Android połącz selektor dokumentów i most natywny.
Żaden model nie został wybrany jako domyślny.
Twoja biblioteka zaczyna się tutaj
Dodaj pliki .gguf, aby utrzymać kolekcję w porządku. Inferencja wymaga natywnej integracji llama.cpp.
Wydajność
Cel pamięci nie jest gwarantowany: zużycie różni się w zależności od modelu, kontekstu, pamięci podręcznej i systemu operacyjnego.
DOSTĘP W SIECI LOKALNEJ
Serwer API
Użyj telefonu jako lokalnego punktu końcowego dla aplikacji w tej samej sieci Wi-Fi.
Podgląd WWW nie otwiera portów. W skompilowanej wersji na Androida serwer lokalny działa, gdy aplikacja jest aktywna, znajduje się w tej samej sieci i ma załadowany model.
Użyj portu z zakresu od 1024 do 65535.
Klucze utworzone tutaj są przechowywane w tej aplikacji. Podgląd nie uwierzytelnia żądań bez usługi natywnej.
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'W systemie Android użyj wyświetlonego adresu, ważnego klucza i załadowanego modelu; telefon i komputer muszą znajdować się w tej samej sieci lokalnej.
SFEU · Opatentowane przez Erica Almeidę Montanario
Rysuj palcem lub myszką. Dotknij zamknij, aby wrócić do korzystania z ekranu.
