ИНТЕЛЛЕКТ НА УСТРОЙСТВЕ
Ваше ИИ-пространство
Все готово для локального запуска — когда будет подключен движок Android.
Этот веб-предпросмотр не запускает GGUF и не предоставляет API. Движок llama.cpp, сервис Android и нативное хранилище должны быть интегрированы в проект Capacitor.
Обзор
Состояние этого устройства в реальном времени
Ваши модели появятся здесь после добавления.
Активности пока нет
ПРИВАТНЫЙ ЧАТ
Чат
Общайтесь с моделью, запущенной прямо на устройстве.
ЛОКАЛЬНАЯ БИБЛИОТЕКА
Модели
Управляйте GGUF-файлами, которые вы хотите использовать в LocalMind.
Предварительный просмотр может считывать имя и размер выбранного файла, но не может скопировать его в постоянное хранилище или загрузить в llama.cpp. В Android подключите селектор документов и нативный мост.
Ни одна модель не выбрана по умолчанию.
Ваша библиотека начинается здесь
Добавьте файлы .gguf, чтобы организовать свою коллекцию. Для вывода требуется нативная интеграция llama.cpp.
ВИДИМОСТЬ СИСТЕМЫ
Производительность
Реальные метрики будут отображаться, если они будут предоставлены нативным движком.
Предварительный просмотр в браузере не имеет надежного доступа к ОЗУ процесса, загрузке ЦП или внутренним метрикам llama.cpp. Никакие оценки не будут представлены в качестве измерений.
Целевой объем памяти не гарантирован: потребление зависит от модели, контекста, кэша и операционной системы.
ДОСТУП В ЛОКАЛЬНОЙ СЕТИ
API-сервер
Используйте свой телефон в качестве локального эндпоинта для приложений в той же сети Wi-Fi.
Реальный сервер, доступный по сети, требует наличия фонового сервиса Android, сетевых разрешений и интеграции с движком. Эта страница не открывает сетевой порт.
Используйте порт от 1024 до 65535.
Защищенный доступ
Каждый запрос должен содержать ключ в заголовке Authorization: Bearer. Никогда не открывайте эндпоинт без аутентификации.
Ключи, созданные здесь, хранятся в этом приложении. Предпросмотр не аутентифицирует запросы без нативного сервиса.
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'Пример будет работать только после интеграции и запуска нативного HTTP-сервиса с загруженной моделью.
