Vals AI cho GPT-6 Astra chơi Minecraft suốt 141 giờ. Không dùng API riêng của game mà chủ yếu thao tác qua màn hình, bàn phím và chuột, tức là computer use (AI dùng máy tính như con người). Astra đã vào được pháo đài Nether, xây trang trại blaze bán tự động, và lấy được 6 thanh blaze rod cùng 3 viên ender pearl. Nó đào 34,573 khối, đi 135.1 km và chết 548 lần.
Rồi một con creeper làm nổ rương đựng đồ quý cùng cái giường. Ván này bật keepInventory (chết không mất đồ), nên mang đồ quan trọng theo người lại an toàn hơn. Astra chỉ rút ra bài học đó sau khi chuyện đã xảy ra. Nhưng sau đó mấy tiếng liền nó gần như chỉ trồng khoai tây, và cảnh giác đến mức phải dừng lại xác nhận vật dài màu xanh kia là "mía chứ không phải creeper".
Sao không xem wiki?
Ngay trong game cũng có cách khác: cất đồ ở nhiều chỗ, xây tường chắn, thắp đèn, chuẩn bị tài nguyên dự phòng. Ngoài ra, wiki hướng dẫn, tìm kiếm trên web, nhật ký cũ, ảnh chụp màn hình và ghi chú trong máy, hay hỏi người khác đều có thể là nguồn để tìm. Nói cách khác, không chỉ là tìm hành động tiếp theo mà là tìm chính nguồn để tìm, một kiểu tìm kiếm siêu cấp (meta-search).
Tuy nhiên, dù bản thân Astra có khả năng duyệt web, cũng chưa chắc thí nghiệm này cho phép dùng web hay tệp trong máy. Nếu bị khóa thì đó là giới hạn của không gian hành động (action space). Còn nếu mở mà nó không tìm thì đó là điểm yếu khá thú vị của một tác tử chạy dài hạn.
Không có nguồn để tìm thì tầm nhìn có hẹp đi không?
Chỉ dựa vào kiến thức bên trong thì vẫn nghĩ ra được ý tưởng, nhưng thiếu thông tin bên ngoài thì khó có quan sát mới nào phá được giả thuyết của chính mình. Bảo "nghĩ kỹ hơn đi" một trăm lần với cùng một nguyên liệu thường không bằng một trang wiki hay một câu nói của người khác, đôi khi đủ mở ra một nhánh mới.
Theo kiểu học tăng cường, đây là exploration vs. exploitation (khám phá hay khai thác cái đã biết). Nếu sau một lần thiệt hại lớn mà hạ hành động rủi ro xuống quá thấp, nâng "khoai tây" an toàn lên quá cao thì sẽ chìm vào tối ưu cục bộ. Và nếu "đi tìm nguồn thông tin khác" cũng rớt khỏi danh sách lựa chọn thì tầm nhìn còn hẹp hơn nữa.
Mất sạch gia sản. Nghiêng về phía an toàn. Né điều chưa biết. Lặp lại công việc quen thuộc. Nghi ngờ cả màu xanh lá.
Khoai tây không bao giờ phản bội.
Đây không phải bằng chứng cho thấy nó có cảm xúc như con người. Nhưng hành vi thì giống người một cách lạ lùng. Thứ mà AI làm việc dài hạn cần có lẽ là khả năng, khi bị kẹt, tự mở rộng chính không gian tìm kiếm: môi trường, lịch sử, máy tính, web và những người khác.
Liệu một AI thông minh có thể tiếp tục khám phá thế giới một cách rộng mở, kể cả sau khi bị chính chiến lược của mình làm cho đau? Có lẽ còn khó hơn đánh rồng.
