បញ្ញាសិប្បនិម្មិតក្នុងឧបករណ៍

លំហ AI របស់អ្នក

អ្វីៗរួចរាល់សម្រាប់ដំណើរការក្នុងម៉ាស៊ីន — នៅពេលដែល Android engine ត្រូវបានភ្ជាប់។

!

Android Bridge មិនបានភ្ជាប់

ការមើលជាមុនលើវេបសាយនេះមិនដំណើរការ GGUF ឬផ្តល់សេវា API ទេ។ ម៉ាស៊ីន llama.cpp, សេវាកម្ម Android និងការផ្ទុក native ត្រូវតែរួមបញ្ចូលនៅក្នុងគម្រោង Capacitor។

ម៉ាស៊ីន AIបិទ

មិនបានភ្ជាប់ត្រូវការការរួមបញ្ចូលជាមូលដ្ឋាន

ម៉ូដែលលំនាំដើម◈

គ្មានសូមជ្រើសរើសម៉ូដែល GGUF

ម៉ាស៊ីនមេ APIបានបញ្ឈប់

មិនមានសេវាកម្ម Android មិនត្រូវបានដំឡើង

ម៉ូដែលដែលបានបន្ថែម▱

0ទិន្នន័យមេនៅក្នុងការមើលបឋមនេះ

ទិដ្ឋភាពទូទៅ

ស្ថានភាពពេលវេលាជាក់ស្តែងនៃឧបករណ៍នេះ

បន្តផ្ទាល់

⌁ធនធានឧបករណ៍

អង្គចងចាំ RAMមិនមាន

ការប្រើប្រាស់ CPUមិនមាន

ម៉ែត្រិកនឹងមាន available បន្ទាប់ពីការរួមបញ្ចូល native

✦ចាប់ផ្តើមពីទីនេះ

◈ម៉ូដែលរបស់អ្នក

◈

ម៉ូដែលរបស់អ្នកនឹងបង្ហាញនៅទីនេះ បន្ទាប់ពីត្រូវបានបន្ថែម។

◷សកម្មភាពថ្មីៗ

តែក្នុងម៉ាស៊ីនប៉ុណ្ណោះ

—

មិនទាន់មានសកម្មភាពនៅឡើយទេ

ការសន្ទនាឯកជន

ជជែក

សន្ទនាជាមួយម៉ូដែលដែលដំណើរការនៅលើឧបករណ៍ផ្ទាល់។

◈

គ្មានម៉ាស៊ីនមិនបានភ្ជាប់

មិនមានអ៊ីនធឺណិត (OFFLINE)

✦

ការសន្ទនាមួយសម្រាប់តែអ្នក។

សូមបន្ថែមម៉ូដែល GGUF និងភ្ជាប់ម៉ាស៊ីន Android ដើម្បីចាប់ផ្តើមសន្ទនា។

សាររបស់អ្នកត្រូវបានរក្សាទុកនៅក្នុងឧបករណ៍នេះ។

បណ្ណាល័យក្នុងម៉ាស៊ីន

ម៉ូដែល

គ្រប់គ្រងឯកសារ GGUF ដែលអ្នកចង់ប្រើជាមួយ LocalMind។

i

ត្រូវការការនាំចូលបែប native

ការមើលជាមុនអាចអានឈ្មោះ និងទំហំនៃឯកសារដែលបានជ្រើសរើស ប៉ុន្តែមិនអាចចម្លងវាទៅកាន់ការផ្ទុកអចិន្ត្រៃយ៍ ឬផ្ទុកវាទៅក្នុង llama.cpp បានទេ។ លើ Android សូមភ្ជាប់ document selector និង native bridge។

◈

បណ្ណាល័យរបស់អ្នកចាប់ផ្តើមនៅទីនេះ

សូមបន្ថែមឯកសារ .gguf ដើម្បីរៀបចំការប្រមូលរបស់អ្នក។ ការសន្និដ្ឋានត្រូវការការរួមបញ្ចូល llama.cpp ដើម។

ការមើលឃើញប្រព័ន្ធ

ប្រសិទ្ធភាព

ម៉ែត្រិកជាក់ស្តែងនឹងត្រូវបានបង្ហាញ នៅពេលដែលផ្តល់ឱ្យដោយម៉ាស៊ីន native។

មិនមាន

!

មិនមានការវាស់វែងដែលអាចប្រើបាន

ការមើលជាមុនក្នុង browser មិនមានសិទ្ធិចូលប្រើ RAM នៃ process, បន្ទុក CPU ឬរង្វាស់ផ្ទៃក្នុងរបស់ llama.cpp នោះទេ។ គ្មានការប៉ាន់ស្មានណាមួយនឹងត្រូវបានបង្ហាញជារង្វាស់ឡើយ។

▤RAM សរុបមិនមានរង្វាស់ native

▱RAM ដែលអាចប្រើបានមិនមានរង្វាស់ native

⌁ការប្រើប្រាស់ CPUមិនមានរង្វាស់ native

◷ថូខនក្នុងមួយវិនាទីមិនមានរង្វាស់ native

⚙ការកំណត់នៃការសន្និដ្ឋាន

បានរក្សាទុកក្នុងកម្មវិធីនេះ

Threadsទំហំបរិបទ (Context size)ដែនកំណត់ token នៃលទ្ធផលគោលដៅអង្គចងចាំ (MB)

គោលដៅអង្គចងចាំមិនមែនជាការធានាទេ៖ ការប្រើប្រាស់ប្រែប្រួលទៅតាមម៉ូដែល, context, cache និងប្រព័ន្ធប្រតិបត្តិការ។

ការចូលប្រើក្នុងបណ្តាញមូលដ្ឋាន

ម៉ាស៊ីនមេ API

ប្រើទូរសព្ទរបស់អ្នកជា endpoint ក្នុងស្រុកសម្រាប់កម្មវិធីដែលប្រើ Wi-Fi តែមួយ។

បានបញ្ឈប់

!

ម៉ាស៊ីនមេ native មិនមានក្នុងកំណែ preview នេះទេ

ម៉ាស៊ីនមេពិតប្រាកដដែលអាចចូលបានតាមបណ្តាញតម្រូវឱ្យមានសេវាកម្ម Android foreground, ការអនុញ្ញាតបណ្តាញ និងការរួមបញ្ចូលជាមួយ engine។ ទំព័រនេះមិនបើកច្រកបណ្តាញ (network port) នោះទេ។

⌘ការគ្រប់គ្រងម៉ាស៊ីនមេ

បានបញ្ឈប់

ច្រក (Port)

សូមប្រើច្រកចន្លោះពី 1024 ដល់ 65535។

URL មូលដ្ឋានhttp://IP_DO_CELULAR:8080/v1

⌑

ការចូលប្រើប្រាស់ដែលត្រូវបានការពារ

រាល់ការស្នើសុំត្រូវតែរួមបញ្ចូលសោនៅក្នុង Authorization: Bearer header។ កុំបើក endpoint ដោយគ្មានការផ្ទៀងផ្ទាត់សព្វടെ។

ជាធម្មតា ទូរសព្ទ និង PC ត្រូវតែស្ថិតក្នុងបណ្តាញមូលដ្ឋានតែមួយ។ ការចូលប្រើតាមអ៊ីនធឺណិតតម្រូវឱ្យមានការកំណត់សុវត្ថិភាពបន្ថែម។

⌑កូនសោចូលប្រើ

កូនសោដែលបង្កើតនៅទីនេះត្រូវបានរក្សាទុកក្នុងកម្មវិធីនេះ។ ការមើលជាមុនមិនអាចផ្ទៀងផ្ទាត់សំណើបានទេ ប្រសិនបើគ្មានសេវាកម្ម native។

មិនមានសោដែលបានបង្កើត។

{ }ឧទាហរណ៍សម្រាប់ PC

curl http://IP_DO_CELULAR:8080/v1/chat/completions \
  -H "Authorization: Bearer SUA_CHAVE" \
  -H "Content-Type: application/json" \
  -d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'

ឧទាហរណ៍នឹងដំណើរការ លុះត្រាតែអ្នករួមបញ្ចូល និងចាប់ផ្តើមសេវាកម្ម HTTP native ជាមួយនឹងម៉ូដែលដែលបានផ្ទុក។