デバイス内インテリジェンス
あなたのAIスペース
Androidエンジンが接続されれば、ローカルで実行する準備はすべて整っています。
このウェブプレビューではGGUFを実行せず、APIもホストしません。llama.cppエンジン、Androidサービス、およびネイティブストレージをCapacitorプロジェクトに統合する必要があります。
概要
プライベートチャット
チャット
デバイス上で動作するモデルと会話しましょう。
あなただけのプライベートな会話。
GGUFモデルを追加し、Androidエンジンを接続して会話を開始してください。
利用可能なモデル
モデルを選択してください
チャットで使用するインポート済みモデルを選択してください。
まだモデルがインポートされていません。「モデル」セクションでGGUFファイルを追加してください。
ウェブプレビューでは、モデルはメタデータとしてのみ表示され、ロードすることはできません。
ローカルライブラリ
モデル
LocalMindで使用するGGUFファイルを管理します。
プレビューでは選択したファイルの名前とサイズを読み取ることができますが、永続ストレージへのコピーやllama.cppへのロードはできません。Androidでは、ドキュメントセレクターとネイティブブリッジを接続してください。
デフォルトとして選択されているモデルはありません。
ライブラリはここから始まります
ここに.ggufファイルを追加してコレクションを整理してください。推論にはネイティブのllama.cpp統合が必要です。
+ 最初のモデルをインポートパフォーマンス
メモリ目標は保証されるものではありません。消費量はモデル、コンテキスト、キャッシュ、およびオペレーティングシステムによって異なります。
設定を保存ローカルネットワークアクセス
APIサーバー
同じWi-Fi上のアプリ向けに、携帯電話をローカルエンドポイントとして使用します。
ウェブプレビューではポートを開きません。ビルド済みのAndroid版では、アプリがアクティブで、同じネットワークにあり、モデルがロードされている間、ローカルサーバーが動作します。
1024から65535までのポートを使用してください。
ここで作成されたキーはこのアプリに保存されます。プレビューでは、ネイティブサービスなしにリクエストを認証することはできません。
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'Androidでは、表示されているアドレス、有効なキー、およびロード済みのモデルを使用してください。スマートフォンとコンピュータは同じローカルネットワークにある必要があります。
SFEU · Patenteado por Eric Almeida Montanario
プロジェクトのエクスポート
ZIPファイルとしてダウンロード
続行するにはパスワードを入力してください。
パスワード続行パスワードを入力して、プロジェクトファイルのZIPを作成してください。一部のファイルが自動的に読み込めない場合は、プロジェクトのルートフォルダ全体を選択してください。
パスワードは単純な確認用であり、ZIPファイル自体は暗号化されません。
指またはマウスで描画してください。「閉じる」をタップすると画面操作に戻ります。
