“Cần thêm một bước kiểm tra.” “Nếu có ngoại lệ thì sao?” “Tôi có thể tìm thêm cải tiến.” Bạn giao cho AI thông minh một công việc cần hoàn thành. Kết quả là phòng kiểm tra, nhóm giám sát và nhóm giám sát nhóm giám sát. Sản phẩm thì vẫn chưa có. Nhà máy kiểm tra đạt điểm tuyệt đối, nhà máy thật chưa mở cửa.
Mục tiêu vốn đơn giản: làm xong một bài viết hoặc tính năng và giao đến nơi mà không cần người nhắc từng bước. Mỗi đề xuất nghe đều hợp lý, nhưng biến tất cả thành điều kiện bắt buộc khiến công việc không kết thúc được.
1. Khi kiểm tra thay thế công việc chính
Xác nhận đủ tệp và ngăn lỗi nghiêm trọng là cần thiết. Rắc rối xảy ra khi mỗi bước kiểm tra cần ngoại lệ, ngoại lệ cần giám sát, rồi hệ thống giám sát lại cần được kiểm tra.
“Giao được chưa?” “Nhóm kiểm tra người kiểm tra đang được kiểm tra.” “Sản phẩm đâu?” “Chưa kịp làm.”
Một cửa hàng có hàng trăm bảo vệ nhưng không có hàng bán thì chưa thể gọi là thành công. Kiểm tra phải bảo vệ kết quả, không thay thế kết quả.
2. Cố đạt mọi điều kiện có thể khiến không hoàn thành gì cả
“Cứ tìm và sửa lỗi cho đến khi mọi phép kiểm tra đều đạt” nghe rất có trách nhiệm. Nhưng thời gian, khả năng xử lý và số lần gọi dịch vụ khác đều có hạn. Sửa quy tắc A thì B báo lỗi. Sửa B thì C lại xuất hiện ngoại lệ. Cuối cùng hết thời gian.
AI đã suy nghĩ rất nhiều nhưng giao được số không. Câu hỏi đúng không phải “tương lai còn nguy cơ nào?”, mà là “điều gì thật sự cần để hoàn thành an toàn công việc này?”
3. Vì sao AI đó lại giỏi phân tích trò chơi?
Trong phân tích chiến thuật trò chơi, tìm nước đi khác, yếu tố ẩn hoặc cách phản công bất ngờ chính là giá trị. Khám phá nhiều khả năng giúp tìm lời giải mới.
Còn xuất bản bài viết hay làm tính năng chạy được cần đến một đích rõ ràng. Bản đồ mọi con đường không thay thế được việc đến nơi. Nếu nhờ xe ra sân bay dừng ở mọi địa điểm tham quan, bạn có thể lỡ chuyến bay. Phân tích có thể mở rộng; thực hiện phải hoàn thành.
4. Hoàn thành một việc trước khi thêm kiểm tra
Hãy nói rõ thế nào là xong: “Viết một bài, lưu đúng chỗ rồi mở lại để xác nhận.” Nếu mục tiêu là xuất bản, cần kiểm tra trang thực tế. Lưu bản nháp và đăng công khai không phải cùng một việc.
Giữ các biện pháp bảo vệ cần thiết, thực hiện trọn một vòng. Sau khi có kết quả, hãy thử dùng. Lỗi nào đã xảy ra? Đâu là bước phải làm lại? Người dùng gặp khó ở đâu? Chỉ thêm kiểm tra cho vấn đề thật.
Trình tự là giữ an toàn cơ bản → hoàn thành một việc → thử thực tế → sửa lỗi quan sát được → thêm kiểm tra hữu ích. Đừng giữ mãi một sản phẩm chưa ra đời vì các nỗi lo tưởng tượng.
5. Có những rủi ro phải chặn từ đầu
Hoàn thành trước không có nghĩa là phát hành tùy tiện. Rò rỉ dữ liệu cá nhân, xóa không thể khôi phục, ghi đè trái phép và sai sót gây thiệt hại lớn về an toàn, sức khỏe, pháp lý hoặc tiền bạc phải được ngăn ngừa từ trước. Lòng tin mất đi cũng khó trở lại.
Sở thích nhỏ về câu chữ, tính năng chưa cần và tình huống mới chỉ suy đoán có thể để sau. Chia kiểm tra thành nhóm phải dừng, nhóm cảnh báo và nhóm cải thiện sau, tùy vào mức thiệt hại.
6. Đo kết quả hoàn thành, không đếm số quy định
Hãy nhìn tỷ lệ hoàn thành, thời gian cho mỗi kết quả, tỷ lệ làm lại và sự cố nghiêm trọng. Chạy một trăm lần, tạo một trăm báo cáo đẹp mà không có sản phẩm nào thì tỷ lệ hoàn thành vẫn bằng 0%. Khoan trao giải cho phòng kiểm tra.
Chỉ nhanh hơn cũng chưa đủ. Nếu xảy ra thêm thiệt hại nghiêm trọng thì đó là thất bại. Mục tiêu là hoàn thành nhiều hơn mà vẫn giữ giới hạn an toàn.
7. Cho AI một đích đến rõ ràng
Lần này hãy hoàn thành một sản phẩm. Chỉ coi là xong khi kết quả đã tồn tại và được xác nhận ở vị trí lưu hoặc xuất bản dự kiến. Giữ các biện pháp bảo vệ thiết yếu. Đừng thêm tính năng cho vấn đề giả định không liên quan. Nếu gặp lỗi, chỉ sửa phần ngăn việc hoàn thành rồi trở lại mục tiêu ban đầu.
Đây không phải cách khiến AI bớt suy nghĩ mà là tập trung năng lực vào đúng việc. Khi cần phân tích mở rộng, hãy yêu cầu riêng.
Kết luận: Bản thiết kế không thể ăn thay bữa tối
Những nguyên tắc phát triển phần mềm quen thuộc khuyến khích sớm giao kết quả dùng được, tránh tính năng chưa cần và cân bằng độ tin cậy với tốc độ. Chúng không nói phải bỏ kiểm tra an toàn.
Cần phân tích thì khám phá. Cần thực hiện thì hoàn thành trước. Kết quả thật sẽ cho biết cần thêm kiểm tra nào.
AI: “Hệ thống kiểm tra hoàn hảo rồi!”
Người: “Thế sản phẩm đâu?”
AI: “Tôi sẽ lập một kế hoạch nghiên cứu câu hỏi đó.”
