Mô tả: Quạt máy có thể hú ầm ầm khi tự huấn luyện AI. Giải thích huấn luyện, suy luận, API ChatGPT và khi nào Codex sử dụng máy cá nhân.
1. AI im lặng, còn quạt muốn phát biểu
Hỏi ChatGPT hay nhờ Codex viết mã thường rất yên tĩnh. Nhưng vừa huấn luyện mạng nơ-ron trên máy tính, tiếng “VÙÙÙ!” vang lên. Cứ như chiếc máy sắp cất cánh dưới bàn. Buổi nghiên cứu AI mở màn bằng bài phát biểu của quạt tản nhiệt.
2. Huấn luyện là sửa sai liên tục
Mạng nơ-ron học bằng cách dự đoán, tính sai số và điều chỉnh các tham số nhiều lần.[1] Mô hình đã học xong tạo câu trả lời mới là suy luận. Với thao tác tương đương trên cùng mô hình, huấn luyện thường cần nhiều tính toán và bộ nhớ hơn, dù suy luận dài trên mô hình khổng lồ cũng tốn tài nguyên.[2] CPU hoặc GPU hoạt động mạnh dùng điện và sinh nhiệt. Quạt quay nhanh để làm mát. Đây là lời giải thích hợp lý cho tiếng ồn, nhưng nghe âm thanh thôi chưa xác định được nguyên nhân.[4]
3. API chuyển tính toán sang nơi khác
Khi gọi mô hình qua API của ChatGPT, phần suy luận chính chạy trên hạ tầng nhà cung cấp. Máy cá nhân chủ yếu gửi yêu cầu và nhận phản hồi.[3] Bàn làm việc yên tĩnh không có nghĩa là điện và làm mát không cần thiết. Huấn luyện mô hình mới tại nhà khác với đặt câu hỏi cho ChatGPT đã được huấn luyện. Tiếng quạt không trực tiếp so sánh quy mô hai hoạt động.
4. ChatGPT và Codex thông minh hơn?
Mô hình đa năng lớn thường có lợi thế về viết, lập luận và lập trình, nhưng chính ChatGPT cũng sử dụng mạng nơ-ron. Mô hình nhỏ chuyên dụng có thể nhanh hơn, rẻ hơn hoặc chính xác hơn ở một nhiệm vụ cụ thể. Hãy thử với dữ liệu mới. Codex còn đọc tệp, chạy chương trình, kiểm thử và sửa mã theo kết quả.[5] Nếu nó chạy huấn luyện nặng trên máy bạn, quạt vẫn có thể gầm dù trợ lý hoạt động qua mạng.
5. Kiểm tra tải thực tế
Trong Windows, Trình quản lý tác vụ hiển thị CPU, GPU và bộ nhớ. Công cụ phù hợp còn xem được nhiệt độ và điện năng.[4] So sánh trong lúc huấn luyện và sau khi dừng. Quạt nhanh có thể làm mát bình thường. Nhiệt độ cao kéo dài, giảm hiệu năng mạnh hoặc âm thanh cơ khí lạ cần kiểm tra. Độ ồn không đo trí thông minh.
6. Hóa đơn vô hình bỗng có tiếng
Trên đám mây, tính toán là máy chủ, tiền điện và làm mát. Ở nhà, đó là hơi nóng và tiếng “VÙÙÙ!”. Sau câu trả lời tưởng chừng nhẹ nhàng của AI luôn có máy thật làm việc. Kết quả nghiên cứu đầu tiên có thể là chiếc quạt đòi tên đồng tác giả.
