KM
บทที่ 2 · LOCAL AI — รันบนเครื่องตัวเอง

รัน AI บนเครื่องเรา
ศัพท์ที่ต้องรู้

ไม่ต้องพึ่งคลาวด์ · ข้อมูลอยู่ในเครื่อง

22 คำสำหรับสาย Local AI PC — เลือกโมเดล เข้าใจฮาร์ดแวร์ (VRAM/NPU) และรู้จักเครื่องมือยอดฮิต ปิดท้ายด้วย เครื่องคำนวณว่าเครื่องคุณรันโมเดลไหนไหว

22

คำในบทนี้

Local AI · ฮาร์ดแวร์ · เครื่องมือ

🔒

ข้อมูลอยู่ในเครื่อง

ไม่ส่งขึ้นคลาวด์ = ความเป็นส่วนตัว

ฟรี

โมเดลโอเพนซอร์ส

Llama · Mistral · Qwen · Gemma

แผนที่หมวด ศัพท์ AI 101

บท 1

ศัพท์ AI ทั่วไป

บท 2 · คุณอยู่ที่นี่

Local AI บนเครื่องตัวเอง

คลังคำศัพท์ · 22 คำ

เปิดคลัง — แตะการ์ดเพื่อพลิกดูคำอธิบาย

ค้นหาหรือกรองตามหมวด (Local AI · ฮาร์ดแวร์ · เครื่องมือ) แต่ละการ์ดมีไอคอน คำอธิบายสั้น และตัวอย่างจริงด้านหลัง

🔍

แสดง 22 จาก 22 คำ

ลองเอง · Parameters × Quantization × VRAM

เครื่องของคุณรันโมเดลไหนได้?

สามคำนี้ทำงานด้วยกัน: ขนาดโมเดล (พารามิเตอร์) × ระดับบีบอัด (quantization) = หน่วยความจำที่ต้องใช้ แล้วเทียบกับ VRAM ของการ์ดจอ ลองปรับดูเลย

① ขนาดโมเดล (พารามิเตอร์)

② ระดับบีบอัด (Quantization)

เล็ก/เร็ว คุณภาพลดเล็กน้อย — แนะนำมือใหม่

③ การ์ดจอ / เครื่องของคุณ (VRAM)

การ์ด 8GB · เช่น RTX 3060/4060

ต้องใช้หน่วยความจำราว

4.2 GB

7B × 0.5 ไบต์/พารามิเตอร์ × 1.2

ใช้ 4.2GB จาก 8GB

รันได้สบาย ✅

เหลือที่ว่างสำหรับ context ยาว ๆ และงานอื่น

💡 ตัวเลขเป็นค่าประมาณเพื่อให้เห็นภาพ — ของจริงขึ้นกับความยาว context และโปรแกรมที่ใช้ด้วย แต่กฎง่าย ๆ คือ มือใหม่เริ่มที่ 7–8B แบบ Q4 รันได้บนการ์ด 8GB ทั่วไป

Recap · บทที่ 2

4 ข้อที่ต้องจำจากฝั่ง Local AI

ครบ 50 คำแล้ว! ตั้งแต่พื้นฐาน AI จนถึงการรันบนเครื่องตัวเอง — พร้อมต่อยอดสู่การลงมือจริง

01

Local AI = ความเป็นส่วนตัว + ไม่ง้อเน็ต

รันบนเครื่องเอง ข้อมูลไม่ออกนอกเครื่อง เหมาะกับงานลับ/เอกสารองค์กร — แลกกับการต้องมีเครื่องแรงพอ

02

ขนาดโมเดล × การบีบอัด = หน่วยความจำที่ต้องใช้

7B แบบ Q4 รันบนการ์ด 8GB ได้สบาย ส่วน 70B ต้องการเครื่องระดับมืออาชีพ — เลือกให้พอดีกับ VRAM

03

GPU/VRAM คือพระเอกของฮาร์ดแวร์

VRAM ชี้ขาดว่ารันโมเดลใหญ่แค่ไหนได้ · NVIDIA + CUDA นิยมสุด · Mac ใช้ Unified Memory · AI PC ใหม่มี NPU ช่วย

04

เริ่มง่ายด้วยเครื่องมือสำเร็จรูป

Ollama (คำสั่งเดียว) หรือ LM Studio (คลิก ๆ ไม่ต้องโค้ด) + โหลดโมเดลจาก Hugging Face — เริ่มได้วันนี้