คำอธิบาย: ฝึก AI บนคอมพิวเตอร์ของตัวเองแล้วพัดลมดังมาก เพราะอะไร? เข้าใจการฝึก การอนุมาน API ของ ChatGPT และ Codex
1. AI เงียบ แต่พัดลมอยากพูด
ถาม ChatGPT หรือให้ Codex เขียนโค้ดตามปกติก็เงียบดี แต่พอฝึกโครงข่ายประสาทเทียมในเครื่องเอง เสียง “วู้ววว!” ก็ดังขึ้น เหมือนคอมพิวเตอร์กำลังจะบินจากใต้โต๊ะ ตั้งใจวิจัยปัญญาประดิษฐ์ แต่พัดลมกลับขึ้นเวทีเป็นคนแรก
2. การฝึกต้องแก้ข้อผิดพลาดซ้ำ
โมเดลเรียนรู้โดยทำนายจากข้อมูล คำนวณความผิดพลาด และปรับค่าภายในซ้ำหลายครั้ง[1] ส่วนการที่โมเดลฝึกแล้วตอบข้อมูลใหม่เรียกว่าการอนุมาน สำหรับงานหนึ่งครั้งที่เทียบกันได้บนโมเดลเดียวกัน การฝึกมักใช้การคำนวณและหน่วยความจำมากกว่า แต่คำตอบยาวจากโมเดลขนาดใหญ่ก็ใช้ทรัพยากรมาก[2] CPU หรือ GPU ที่ทำงานหนักกินไฟและสร้างความร้อน พัดลมจึงหมุนเร็วขึ้นเพื่อระบายความร้อน นี่อาจเป็นสาเหตุของเสียงดัง แต่ฟังเสียงอย่างเดียวสรุปไม่ได้[4]
3. API ย้ายงานไปอีกที่
เมื่อใช้โมเดลผ่าน API ของ ChatGPT การอนุมานหลักทำงานบนระบบของผู้ให้บริการ คอมพิวเตอร์ของเราส่งคำขอและรับผลเป็นหลัก[3] โต๊ะเงียบไม่ได้หมายความว่าไม่ต้องใช้ไฟและระบบทำความเย็น การฝึกโมเดลใหม่บนเครื่องกับถามโมเดล ChatGPT ที่ฝึกแล้วเป็นคนละงาน จึงใช้เสียงพัดลมเปรียบเทียบขนาดงานโดยตรงไม่ได้
4. ChatGPT และ Codex ฉลาดกว่าไหม?
โมเดลขนาดใหญ่ที่ทำงานได้หลากหลายมักได้เปรียบด้านเขียน วิเคราะห์ และเขียนโปรแกรม แต่ ChatGPT เองก็ใช้เทคโนโลยีโครงข่ายประสาทเทียม โมเดลเล็กเฉพาะทางอาจเร็วกว่า แม่นกว่า หรือถูกกว่าสำหรับงานหนึ่งอย่าง ต้องทดสอบกับข้อมูลใหม่ Codex ยังอ่านไฟล์ เรียกโปรแกรม ทดสอบ และแก้โค้ดได้[5] ถ้ามันสั่งฝึกโมเดลหนักบนเครื่องเรา พัดลมก็ยังดังได้แม้ใช้ผู้ช่วยผ่านอินเทอร์เน็ต
5. ตรวจภาระการทำงานจริง
บน Windows ตัวจัดการงานดูการใช้ CPU, GPU และหน่วยความจำได้ เครื่องมือที่รองรับยังดูอุณหภูมิและกำลังไฟได้[4] ลองเทียบตอนกำลังฝึกกับหลังหยุด พัดลมเร็วอาจเป็นการระบายความร้อนตามปกติ แต่ถ้าร้อนเกินต่อเนื่อง ช้าลงมาก หรือมีเสียงกลไกผิดปกติ ควรตรวจสอบ เสียงดังไม่ได้วัดความฉลาด
6. ค่าใช้จ่ายที่มองไม่เห็นกลายเป็นเสียง
บนคลาวด์ การคำนวณเป็นเซิร์ฟเวอร์ ค่าไฟ และระบบทำความเย็น ที่บ้านกลายเป็นความร้อนกับเสียง “วู้ววว!” เบื้องหลังคำตอบง่าย ๆ ของ AI มีเครื่องจริงทำงานอยู่เสมอ ผลวิจัยแรกอาจเป็น พัดลมที่ขอมีชื่อเป็นผู้ร่วมเขียน
