ปัญญาประดิษฐ์บนอุปกรณ์
พื้นที่ AI ของคุณ
พร้อมสำหรับการรันในเครื่อง — เมื่อเชื่อมต่อเอนจิน Android แล้ว
ตัวอย่างเว็บนี้ไม่ได้รัน GGUF หรือโฮสต์ API เอนจิน llama.cpp, บริการ Android และพื้นที่จัดเก็บแบบ native จำเป็นต้องถูกรวมเข้ากับโปรเจกต์ Capacitor
ภาพรวม
การสนทนาส่วนตัว
แชท
สนทนากับโมเดลที่รันบนอุปกรณ์ของคุณเอง
คลังโลคัล
โมเดล
จัดการไฟล์ GGUF ที่คุณต้องการใช้กับ LocalMind
ตัวอย่างนี้สามารถอ่านชื่อและขนาดของไฟล์ที่เลือกได้ แต่ไม่สามารถคัดลอกไปยังพื้นที่จัดเก็บถาวรหรือโหลดเข้าสู่ llama.cpp ได้ สำหรับ Android โปรดเชื่อมต่อตัวเลือกเอกสารและ native bridge
ไม่มีโมเดลใดถูกเลือกเป็นค่าเริ่มต้น
คลังของคุณเริ่มต้นที่นี่
เพิ่มไฟล์ .gguf เพื่อจัดระเบียบคอลเลกชันของคุณ การอนุมานจำเป็นต้องมีการเชื่อมต่อแบบเนทีฟกับ llama.cpp
ประสิทธิภาพ
เป้าหมายหน่วยความจำไม่ใช่การรับประกัน: การใช้งานจะแตกต่างกันไปตามโมเดล, บริบท, แคช และระบบปฏิบัติการ
การเข้าถึงในเครือข่ายท้องถิ่น
เซิร์ฟเวอร์ API
ใช้โทรศัพท์ของคุณเป็น endpoint ท้องถิ่นสำหรับแอปพลิเคชันใน Wi-Fi เดียวกัน
ตัวอย่างเว็บจะไม่เปิดพอร์ต สำหรับ Android เวอร์ชันคอมไพล์ เซิร์ฟเวอร์ท้องถิ่นจะทำงานเมื่อแอปเปิดใช้งาน อยู่ในเครือข่ายเดียวกัน และมีการโหลดโมเดลไว้
ใช้พอร์ตระหว่าง 1024 ถึง 65535
คีย์ที่สร้างขึ้นที่นี่จะถูกเก็บไว้ในแอปนี้ การแสดงตัวอย่างจะไม่สามารถยืนยันคำขอได้หากไม่มีบริการพื้นฐาน
curl http://IP_DO_CELULAR:8080/v1/chat/completions \
-H "Authorization: Bearer SUA_CHAVE" \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Olá!"}]}'สำหรับ Android ให้ใช้ที่อยู่ที่แสดง คีย์ที่ถูกต้อง และโมเดลที่โหลดไว้ โดยโทรศัพท์และคอมพิวเตอร์ต้องอยู่ในเครือข่ายท้องถิ่นเดียวกัน
SFEU · จดสิทธิบัตรโดย Eric Almeida Montanario
วาดด้วยนิ้วหรือเมาส์ แตะปิดเพื่อกลับไปใช้งานหน้าจอ
