डिवाइस इंटेलिजेंस
आपका AI स्पेस
स्थानीय रूप से चलाने के लिए सब कुछ तैयार है — जब एंड्रॉइड इंजन कनेक्ट हो जाए।
यह वेब पूर्वावलोकन GGUF नहीं चलाता है और न ही API होस्ट करता है। llama.cpp इंजन, Android सेवा और नेटिव स्टोरेज को Capacitor प्रोजेक्ट में एकीकृत करने की आवश्यकता है।
अवलोकन
इस डिवाइस की रीयल-टाइम स्थिति
आपके मॉडल यहाँ जुड़ने के बाद दिखाई देंगे।
अभी तक कोई गतिविधि नहीं
निजी बातचीत
चैट
डिवाइस पर चलने वाले मॉडल के साथ बातचीत करें।
स्थानीय लाइब्रेरी
मॉडल
उन GGUF फ़ाइलों को प्रबंधित करें जिन्हें आप LocalMind के साथ उपयोग करना चाहते हैं।
पूर्वावलोकन चुनी गई फ़ाइल का नाम और आकार पढ़ सकता है, लेकिन इसे स्थायी स्टोरेज में कॉपी नहीं कर सकता और न ही llama.cpp में लोड कर सकता है। Android पर, दस्तावेज़ चयनकर्ता और नेटिव ब्रिज को कनेक्ट करें।
कोई भी मॉडल डिफ़ॉल्ट के रूप में चयनित नहीं है।
आपकी लाइब्रेरी यहाँ से शुरू होती है
अपने संग्रह को व्यवस्थित रखने के लिए .gguf फाइलें जोड़ें। इन्फरेंस के लिए नेटिव llama.cpp एकीकरण की आवश्यकता है।
सिस्टम विज़िबिलिटी
प्रदर्शन
जब नेटिव इंजन द्वारा प्रदान किया जाएगा तब वास्तविक मेट्रिक्स प्रदर्शित होंगे।
ब्राउज़र पूर्वावलोकन के पास प्रोसेस RAM, CPU लोड या llama.cpp के आंतरिक मेट्रिक्स तक विश्वसनीय पहुंच नहीं है। माप के रूप में कोई अनुमान नहीं दिखाया जाएगा।
मेमोरी लक्ष्य की गारंटी नहीं है: खपत मॉडल, संदर्भ, कैश और ऑपरेटिंग सिस्टम के अनुसार भिन्न होती है।
लोकल नेटवर्क एक्सेस
API सर्वर
एक ही वाई-फाई पर मौजूद ऐप्स के लिए अपने सेल फोन को स्थानीय एंडपॉइंट के रूप में उपयोग करें।
नेटवर्क के माध्यम से सुलभ एक वास्तविक सर्वर के लिए एक अग्रभूमि एंड्रॉइड सेवा, नेटवर्क अनुमतियों और इंजन एकीकरण की आवश्यकता होती है। यह पृष्ठ नेटवर्क पोर्ट नहीं खोलता है।
1024 और 65535 के बीच के पोर्ट का उपयोग करें।
सुरक्षित पहुंच
प्रत्येक अनुरोध में Authorization: Bearer हेडर में एक कुंजी शामिल होनी चाहिए। एंडपॉइंट को कभी भी प्रमाणीकरण के बिना उजागर न करें।
यहाँ बनाई गई कुंजियाँ इस ऐप में सहेजी जाती हैं। नेटिव सेवा के बिना प्रीव्यू अनुरोधों को प्रमाणित नहीं करता है।
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'उदाहरण केवल नेटिव एचटीटीपी सेवा को एकीकृत करने और लोड किए गए मॉडल के साथ शुरू करने के बाद ही काम करेगा।
