デバイス内インテリジェンス
あなたのAIスペース
Androidエンジンが接続されれば、ローカルで実行する準備はすべて整っています。
このウェブプレビューではGGUFを実行せず、APIもホストしません。llama.cppエンジン、Androidサービス、およびネイティブストレージをCapacitorプロジェクトに統合する必要があります。
概要
このデバイスのリアルタイム状態
モデルを追加するとここに表示されます。
アクティビティはありません
プライベートチャット
チャット
デバイス上で動作するモデルと会話しましょう。
ローカルライブラリ
モデル
LocalMindで使用するGGUFファイルを管理します。
プレビューでは選択したファイルの名前とサイズを読み取ることができますが、永続ストレージへのコピーやllama.cppへのロードはできません。Androidでは、ドキュメントセレクターとネイティブブリッジを接続してください。
デフォルトとして選択されているモデルはありません。
ライブラリはここから始まります
ここに.ggufファイルを追加してコレクションを整理してください。推論にはネイティブのllama.cpp統合が必要です。
システム可視性
パフォーマンス
ネイティブエンジンから提供された場合に、実際のメトリクスが表示されます。
ブラウザのプレビューでは、プロセスのRAM、CPU負荷、またはllama.cppの内部メトリクスに信頼できる形でアクセスできません。測定値としての推定値は表示されません。
メモリ目標は保証されるものではありません。消費量はモデル、コンテキスト、キャッシュ、およびオペレーティングシステムによって異なります。
ローカルネットワークアクセス
APIサーバー
同じWi-Fi上のアプリ向けに、携帯電話をローカルエンドポイントとして使用します。
ネットワーク経由でアクセス可能な実際のサーバーには、Androidフォアグラウンドサービス、ネットワーク権限、およびエンジンへの統合が必要です。このページではネットワークポートは開きません。
1024から65535までのポートを使用してください。
保護されたアクセス
各リクエストは Authorization: Bearer ヘッダーにキーを含める必要があります。認証なしでエンドポイントを公開しないでください。
ここで作成されたキーはこのアプリに保存されます。プレビューでは、ネイティブサービスなしにリクエストを認証することはできません。
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'例は、ネイティブHTTPサービスを統合し、モデルをロードして起動した後にのみ機能します。
