デバイス内インテリジェンス
あなたのAIスペース
Androidエンジンが接続されれば、ローカルで実行する準備はすべて整っています。
このウェブプレビューではGGUFを実行せず、APIもホストしません。llama.cppエンジン、Androidサービス、およびネイティブストレージをCapacitorプロジェクトに統合する必要があります。
概要
プライベートチャット
チャット
デバイス上で動作するモデルと会話しましょう。
ローカルライブラリ
モデル
LocalMindで使用するGGUFファイルを管理します。
プレビューでは選択したファイルの名前とサイズを読み取ることができますが、永続ストレージへのコピーやllama.cppへのロードはできません。Androidでは、ドキュメントセレクターとネイティブブリッジを接続してください。
デフォルトとして選択されているモデルはありません。
ライブラリはここから始まります
ここに.ggufファイルを追加してコレクションを整理してください。推論にはネイティブのllama.cpp統合が必要です。
パフォーマンス
メモリ目標は保証されるものではありません。消費量はモデル、コンテキスト、キャッシュ、およびオペレーティングシステムによって異なります。
ローカルネットワークアクセス
APIサーバー
同じWi-Fi上のアプリ向けに、携帯電話をローカルエンドポイントとして使用します。
ウェブプレビューではポートを開きません。ビルド済みのAndroid版では、アプリがアクティブで、同じネットワークにあり、モデルがロードされている間、ローカルサーバーが動作します。
1024から65535までのポートを使用してください。
ここで作成されたキーはこのアプリに保存されます。プレビューでは、ネイティブサービスなしにリクエストを認証することはできません。
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'Androidでは、表示されているアドレス、有効なキー、およびロード済みのモデルを使用してください。スマートフォンとコンピュータは同じローカルネットワークにある必要があります。
SFEU · Patenteado por Eric Almeida Montanario
指またはマウスで描画してください。「閉じる」をタップすると画面操作に戻ります。
