บูเตอรินทดสอบ AI ในเครื่องแล็ปท็อป เห็นประโยชน์ด้านความเป็นส่วนตัวและความเร็ว

ผู้ร่วมก่อตั้ง Ethereum, Vitalik Buterin เชื่อว่า AI ในเครื่องนั้นเกือบจะสามารถจัดการกิจกรรมประจำวันส่วนใหญ่ได้แล้ว เขาทดสอบ Qwen3.8-Flash-Next ของ Alibaba บนแล็ปท็อปส่วนตัวและแชร์ขอมูลประสิทธิภาพ

ซึ่งแตกต่างจาก ChatGPT การกำหนดค่านี้ไม่ได้สื่อสารกับเซิร์ฟเวอร์คลาวด์ใดๆ โมเดลอยู่บนอุปกรณ์ และอุปกรณ์จัดการคำขออย่างอิสระ

การทดสอบ AI ในเครื่องโดย Buterin แสดงให้เห็นความเร็วที่ใช้งานได้จริง

แล็ปท็อปของ Buterin ติดตังชิป Strix Halo ของ AMD คอมพิวเตอรทั่วไปแบ่งงานระหว่าง CPU และ GPU ที่แยกจากกัน แต่ละตัวมีหน่วยความจำของตัวเอง Strix Halo รวมทั้งสองเข้าดวยกันบนชิปตัวเดียว ทำให้สามารถเข้าถึงพูลหน่วยความจำที่ใช่ร่วมกันได้

สถาปัตยกรรมนี้สำคัญเพราะโมเดล AI ต้องถูกโหลดลงในหน่วยความจำเพื่อทำงาน การ์ดกราฟิกมาตรฐานให้เพียง 8 ถึง 24 GB ไม่เพียงพอสำหรับโมเดลขนาดนั้น ระบบ Strix Halo มาพร้อมสูงสุด 128 GB ที่ทั้งสองส่วนเข้าถึงได้ ดังนั้นแล็ปท็อปเครื่องเดียวสามารถรองรับโมเดลที่ก่อนหน้านี้ต้องกาอุปกรณ์ระดับเซิร์ฟเวอร์

ความเร็วที่เขารายงานนั้นเพียงพอสำหรับงานทั่วไป คำถามสั้นๆ ตอบกลับในอัตราที่อ่านสบาย การสร้างเนื้อหาล่าช้าเมื่อพารอมพทืถึงหมื่นๆ คำ ทำให้เอกสารยาวยังคงเป็นข้อจำกัด

Alibaba ปล่อยน้ำหนักเปิดเมื่อวันที่ 26 สิงหาคม ตามที่ทีมกล่าว โมเดลมีพารามิเตอร 125 พันล้าน แต่เปิดใช้งานเพียง 6 พันล้านในครั้งเดียว ทำให้ความต้องการหน่วยความจำต่ำ

Buterin เรียกมันว่า Qwen3.8-Flash แต่เวอร์ชันที่ดาวน์โหลดได้จาก Alibaba เรียกว่า Qwen3.8-Flash-Next ตัวที่ใหญ่กว่า Qwen3.8-Max ทำผลลัพธ์ benchmark ที่โดดเด่นในเดือนสิงหาคม

Qwen 3.8 flash น่าประทับใจจริงๆ และ llama.cpp ก็พัฒนาเร็วขึ้นเรื่อยๆ ในการประมวลผลมัน

columns are: pre-existing prompt, new prompt, generated, input tok/s, output tok/s

นี่คือบนแล็ปท็อปของฉัน (strix halo) ฉันคิดว่าเรากำลังใกล้ถึงจุดที่คุณ… pic.twitter.com/v5Ze4Fv5Wr

— vitalik.eth (@VitalikButerin) 17 กันยายน 2026

ความเป็นสวนตัวเปลี่ยนแปลสมการอย่างไร

นอกเหนือจากความเร็ว Buterin ยังสังเกตข้อดีอีกอย่าง โมเดลที่รันในเครื่องตอบสนองบนอุปกรณ์ หมายถึงไม่มีผู้ให้บริการได้รบคำขอ

สำหรับงานที่หนักกว่า เขาแนะนำให้แบ่งหน้าที่ โมเดลในเครื่องจะจัดการสิ่งที่ทำได้ โดยลบข้อมูลที่ละเอียดอ่อนออกจากสิ่งใดก็ตามที่มันส่งต่อไปยังระบบบนคลาวด์ที่ใหญ่กว่า

“ใช่โมเดลในเครื่องของคุณเพื่อจัดการคำสั่งไปยังโมเดลที่ทรงพลัง เพื่อให้คำสั่งของคุณไม่รั่วไหลข้อมูลส่วนตัวของคุณ”

ในทางปฏิบัติ โมเดลในเครื่องจะแยกชื่อ ที่อยู่กระเป๋าเงิน หรือโคดส่วนตัวออกจากพารอมพท์ ส่งเฉพาะคำถามที่เหลือ การกรองนี้จะลดข้อมูลที่ออกจากอุปกรณ์ มันไม่รับประกันว่าข้อมูลที่ละเอียดอ่อนจะไม่หลุดออกไp

ท่าทีนี้สอดคล้องกับการกระทำในอดีตของเขา เขาได้แสดงความกังวลเกี่ยวกับการสอดแนมระหว่างการอภิปราย EU chat control และผู้ใช่คริปโตเคอร์เรนซีได้สนับสนุนข้อจำกัดที่เข้มงวดมากขึ้นสำหรับเอเยนต์ด้วยเหตุผลที่เทียบเคียงได้

ในเดือพฤษภาคม มีคดีความแบบกลุ่มที่กล่าวหา OpenAI แซร์คำถามผู้ใช้ ChatGPT กับ Meta และ Google

ผู้ให้บริการคลาวด์ยังคงครองแนวหน้า อย่างไรก็ตาม การปรับปรุงประสิทธิภาพในเครื่องแต่ละครั้งจะเปลี่ยนงานประจำวันออกจากเซิร์ฟเวอร์ของพวกเขามากขึ้น และฮาร์ดแวรหน่วยความจำร่วมที่ราาไม่แพงก็แพร่หลายมากขึ้น

คำถามที่เหลือคือผู้คนยอมเสียสละประสิทธิภาพมากแค่ไหนเพื่อการควบคุม