TRÍ TUỆ TRÊN THIẾT BỊ
Không gian AI của bạn
Mọi thứ đã sẵn sàng để chạy cục bộ — khi công cụ Android được kết nối.
Bản xem trước web này không chạy GGUF cũng như không lưu trữ API. Công cụ llama.cpp, dịch vụ Android và bộ nhớ native cần được tích hợp vào dự án Capacitor.
Tổng quan
TRÒ CHUYỆN RIÊNG TƯ
Chat
Trò chuyện với mô hình chạy ngay trên thiết bị.
THƯ VIỆN CỤC BỘ
Mô hình
Quản lý các tệp GGUF bạn muốn sử dụng với LocalMind.
Bản xem trước có thể đọc tên và kích thước của tệp được chọn, nhưng không thể sao chép vào bộ nhớ cố định hoặc tải vào llama.cpp. Trên Android, hãy kết nối trình chọn tài liệu và cầu nối native.
Không có mô hình nào được chọn làm mặc định.
Thư viện của bạn bắt đầu tại đây
Thêm các tệp .gguf để sắp xếp bộ sưu tập của bạn. Việc suy luận yêu cầu tích hợp llama.cpp gốc.
Hiệu suất
Mục tiêu bộ nhớ không được đảm bảo: mức tiêu thụ thay đổi tùy theo mô hình, ngữ cảnh, bộ nhớ đệm và hệ điều hành.
TRUY CẬP TRONG MẠNG NỘI BỘ
API Server
Sử dụng điện thoại của bạn làm endpoint cục bộ cho các ứng dụng trong cùng mạng Wi-Fi.
Bản xem trước web không mở cổng. Trong bản Android đã biên dịch, máy chủ cục bộ sẽ hoạt động khi ứng dụng đang hoạt động, trong cùng một mạng và có một mô hình đã được tải.
Sử dụng cổng từ 1024 đến 65535.
Các khóa được tạo ở đây sẽ được lưu trong ứng dụng này. Bản xem trước không xác thực các yêu cầu nếu không có dịch vụ gốc.
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'Trên Android, hãy sử dụng địa chỉ hiển thị, một khóa hợp lệ và một mô hình đã được tải; điện thoại và máy tính cần ở trong cùng một mạng cục bộ.
SFEU · Được cấp bằng sáng chế bởi Eric Almeida Montanario
Vẽ bằng ngón tay hoặc chuột. Nhấn đóng để quay lại sử dụng màn hình.
