បញ្ញាសិប្បនិម្មិតក្នុងឧបករណ៍
លំហ AI របស់អ្នក
អ្វីៗរួចរាល់សម្រាប់ដំណើរការក្នុងម៉ាស៊ីន — នៅពេលដែល Android engine ត្រូវបានភ្ជាប់។
ការមើលជាមុនលើវេបសាយនេះមិនដំណើរការ GGUF ឬផ្តល់សេវា API ទេ។ ម៉ាស៊ីន llama.cpp, សេវាកម្ម Android និងការផ្ទុក native ត្រូវតែរួមបញ្ចូលនៅក្នុងគម្រោង Capacitor។
ទិដ្ឋភាពទូទៅ
ការសន្ទនាឯកជន
ជជែក
សន្ទនាជាមួយម៉ូដែលដែលដំណើរការនៅលើឧបករណ៍ផ្ទាល់។
បណ្ណាល័យក្នុងម៉ាស៊ីន
ម៉ូដែល
គ្រប់គ្រងឯកសារ GGUF ដែលអ្នកចង់ប្រើជាមួយ LocalMind។
ការមើលជាមុនអាចអានឈ្មោះ និងទំហំនៃឯកសារដែលបានជ្រើសរើស ប៉ុន្តែមិនអាចចម្លងវាទៅកាន់ការផ្ទុកអចិន្ត្រៃយ៍ ឬផ្ទុកវាទៅក្នុង llama.cpp បានទេ។ លើ Android សូមភ្ជាប់ document selector និង native bridge។
មិនមានម៉ូដែលណាមួយត្រូវបានជ្រើសរើសជាលំនាំទេ។
បណ្ណាល័យរបស់អ្នកចាប់ផ្តើមនៅទីនេះ
សូមបន្ថែមឯកសារ .gguf ដើម្បីរៀបចំការប្រមូលរបស់អ្នក។ ការសន្និដ្ឋានត្រូវការការរួមបញ្ចូល llama.cpp ដើម។
ប្រសិទ្ធភាព
គោលដៅអង្គចងចាំមិនមែនជាការធានាទេ៖ ការប្រើប្រាស់ប្រែប្រួលទៅតាមម៉ូដែល, context, cache និងប្រព័ន្ធប្រតិបត្តិការ។
ការចូលប្រើក្នុងបណ្តាញមូលដ្ឋាន
ម៉ាស៊ីនមេ API
ប្រើទូរសព្ទរបស់អ្នកជា endpoint ក្នុងស្រុកសម្រាប់កម្មវិធីដែលប្រើ Wi-Fi តែមួយ។
ការមើលជាមុនលើបណ្តាញវេបសាយមិនបើកច្រក (ports) ទេ។ នៅក្នុង Android ដែលបាន compile រួច local server នឹងដំណើរការនៅពេលដែលកម្មវិធីកំពុងសកម្ម ស្ថិតក្នុងបណ្តាញតែមួយ និងមានម៉ូដែលដែលបានផ្ទុក។
សូមប្រើច្រកចន្លោះពី 1024 ដល់ 65535។
កូនសោដែលបង្កើតនៅទីនេះត្រូវបានរក្សាទុកក្នុងកម្មវិធីនេះ។ ការមើលជាមុនមិនអាចផ្ទៀងផ្ទាត់សំណើបានទេ ប្រសិនបើគ្មានសេវាកម្ម native។
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'នៅលើ Android សូមប្រើអាសយដ្ឋានដែលបានបង្ហាញ កូនសោដែលមានសុពលភាព និងម៉ូដែលដែលបានផ្ទុក; ទូរសព្ទ និងកុំព្យូទ័រត្រូវតែស្ថិតនៅក្នុងបណ្តាញមូលដ្ឋានតែមួយ។
SFEU · ក្លាយជាប៉ាតង់ដោយ Eric Almeida Montanario
គូរដោយប្រើម្រាមដៃ ឬ mouse។ ចុចបិទដើម្បីត្រឡប់ទៅប្រើអេក្រង់វិញ។
