ปัญญาประดิษฐ์บนอุปกรณ์
พื้นที่ AI ของคุณ
พร้อมสำหรับการรันในเครื่อง — เมื่อเชื่อมต่อเอนจิน Android แล้ว
ตัวอย่างเว็บนี้ไม่ได้รัน GGUF หรือโฮสต์ API เอนจิน llama.cpp, บริการ Android และพื้นที่จัดเก็บแบบ native จำเป็นต้องถูกรวมเข้ากับโปรเจกต์ Capacitor
ภาพรวม
สถานะเรียลไทม์ของอุปกรณ์นี้
โมเดลของคุณจะปรากฏที่นี่หลังจากเพิ่มแล้ว
ยังไม่มีกิจกรรม
การสนทนาส่วนตัว
แชท
สนทนากับโมเดลที่รันบนอุปกรณ์ของคุณเอง
คลังโลคัล
โมเดล
จัดการไฟล์ GGUF ที่คุณต้องการใช้กับ LocalMind
ตัวอย่างนี้สามารถอ่านชื่อและขนาดของไฟล์ที่เลือกได้ แต่ไม่สามารถคัดลอกไปยังพื้นที่จัดเก็บถาวรหรือโหลดเข้าสู่ llama.cpp ได้ สำหรับ Android โปรดเชื่อมต่อตัวเลือกเอกสารและ native bridge
ไม่มีโมเดลใดถูกเลือกเป็นค่าเริ่มต้น
คลังของคุณเริ่มต้นที่นี่
เพิ่มไฟล์ .gguf เพื่อจัดระเบียบคอลเลกชันของคุณ การอนุมานจำเป็นต้องมีการเชื่อมต่อแบบเนทีฟกับ llama.cpp
การมองเห็นระบบ
ประสิทธิภาพ
จะแสดงเมตริกจริงเมื่อได้รับข้อมูลจากเอนจินพื้นฐาน
ตัวอย่างในเบราว์เซอร์ไม่สามารถเข้าถึง RAM ของโปรเซส, ภาระของ CPU หรือเมตริกภายในของ llama.cpp ได้อย่างเชื่อถือได้ จะไม่มีการแสดงค่าประมาณในการวัดผล
เป้าหมายหน่วยความจำไม่ใช่การรับประกัน: การใช้งานจะแตกต่างกันไปตามโมเดล, บริบท, แคช และระบบปฏิบัติการ
การเข้าถึงในเครือข่ายท้องถิ่น
เซิร์ฟเวอร์ API
ใช้โทรศัพท์ของคุณเป็น endpoint ท้องถิ่นสำหรับแอปพลิเคชันใน Wi-Fi เดียวกัน
เซิร์ฟเวอร์จริงที่เข้าถึงได้ผ่านเครือข่ายจำเป็นต้องมีบริการ Android แบบ foreground, การอนุญาตเข้าถึงเครือข่าย และการผสานรวมกับเอนจิน หน้านี้ไม่ได้เปิดพอร์ตเครือข่าย
ใช้พอร์ตระหว่าง 1024 ถึง 65535
การเข้าถึงที่ได้รับการป้องกัน
ทุกคำขอต้องระบุคีย์ในส่วนหัว Authorization: Bearer ห้ามเปิด endpoint โดยไม่มีการตรวจสอบสิทธิ์โดยเด็ดขาด
คีย์ที่สร้างขึ้นที่นี่จะถูกเก็บไว้ในแอปนี้ การแสดงตัวอย่างจะไม่สามารถยืนยันคำขอได้หากไม่มีบริการพื้นฐาน
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'ตัวอย่างจะใช้งานได้หลังจากรวมและเริ่มบริการ HTTP พื้นฐานพร้อมโหลดโมเดลแล้ว
