Vals AI ให้ GPT-6 Astra เล่น Minecraft เป็นเวลา 141 ชั่วโมง โดยไม่ใช้ API เฉพาะของเกม แต่ทำงานผ่านหน้าจอ คีย์บอร์ด และเมาส์เป็นหลัก ซึ่งเรียกว่า computer use (ให้ AI ใช้คอมพิวเตอร์เหมือนคนทำ) Astra เดินทางไปถึงป้อมเนเธอร์ สร้างฟาร์มเบลซกึ่งอัตโนมัติ และได้ก้านเบลซ 6 อัน กับ ender pearl 3 ลูก ขุดไป 34,573 บล็อก เดินทาง 135.1 กม. และตาย 548 ครั้ง
แล้วครีปเปอร์ก็ระเบิดหีบที่เก็บของมีค่า พร้อมกับเตียงไปด้วย รอบนี้เปิด keepInventory ไว้ (ตายแล้วของไม่หาย) การพกของสำคัญติดตัวไว้จึงปลอดภัยกว่า Astra สรุปบทเรียนนี้ได้หลังเกิดเรื่องไปแล้ว แต่หลังจากนั้นหลายชั่วโมงมันแทบจะปลูกแต่มันฝรั่ง และระวังตัวมากจนต้องหยุดเช็กว่าวัตถุสีเขียวยาว ๆ นั่น "คืออ้อย ไม่ใช่ครีปเปอร์"
ทำไมไม่เปิดวิกิดู?
ในเกมเองก็ยังมีวิธีอื่น เช่น เก็บของแยกหลายที่ สร้างกำแพง ติดไฟให้สว่าง เตรียมทรัพยากรสำรอง นอกจากนี้ วิกิคู่มือ การค้นเว็บ บันทึกเก่า ภาพหน้าจอและโน้ตในคอมพิวเตอร์ หรือการถามคนอื่น ก็เป็นแหล่งที่ใช้ค้นหาได้ทั้งนั้น พูดอีกอย่างคือไม่ใช่แค่หาว่าจะทำอะไรต่อ แต่เป็น การค้นหาตัวแหล่งที่จะไปค้น หรือที่เรียกว่าการค้นหาระดับเมตา
แต่ต่อให้ Astra เองมีความสามารถในการเปิดเว็บ ก็ไม่ได้แปลว่าการทดลองนี้อนุญาตให้ใช้เว็บหรือไฟล์ในเครื่อง ถ้าปิดอยู่ ก็เป็นข้อจำกัดของขอบเขตการกระทำ (action space) แต่ถ้าเปิดอยู่แล้วไม่ไปค้น นั่นจะเป็นจุดอ่อนที่น่าสนใจของเอเจนต์ที่ทำงานระยะยาว
ถ้าไม่มีแหล่งให้ค้น มุมมองจะแคบลงไหม?
แค่ความรู้ในตัวก็ยังคิดไอเดียออกได้ แต่ถ้าไม่มีข้อมูลจากภายนอก การสังเกตใหม่ ๆ ที่จะมาทำลายสมมติฐานของตัวเองก็เข้ามายาก การบอกตัวเองว่า "คิดให้หนักขึ้น" ร้อยครั้งด้วยวัตถุดิบเดิม สู้วิกิแค่หน้าเดียวหรือคำพูดของคนอื่นแค่ประโยคเดียวไม่ได้ เพราะบางทีมันเปิดทางใหม่ให้เลย
ถ้าพูดแบบการเรียนรู้แบบเสริมกำลัง นี่คือ exploration vs. exploitation (สำรวจหรือใช้ของที่รู้) ถ้าเสียหายหนักแล้วลดการกระทำเสี่ยงลงมากเกินไป และดันมันฝรั่งที่ปลอดภัยขึ้นสูงเกินไป ก็จะจมอยู่ในค่าที่ดีที่สุดเฉพาะที่ (local optimum) และถ้า "ไปหาแหล่งข้อมูลอื่น" ตกจากตัวเลือกไปด้วย มุมมองก็ยิ่งแคบลงอีก
เสียทุกอย่าง เอนไปทางปลอดภัย หลบสิ่งที่ไม่รู้จัก ทำงานที่คุ้นเคยซ้ำ ๆ สงสัยแม้แต่สีเขียว
มันฝรั่งไม่เคยหักหลังใคร
นี่ไม่ใช่หลักฐานว่ามันมีอารมณ์เหมือนมนุษย์ แต่พฤติกรรมก็ดูเหมือนคนอย่างน่าประหลาด สิ่งที่ AI ซึ่งทำงานระยะยาวต้องการ อาจเป็นความสามารถในการขยายพื้นที่การค้นหาออกไปเอง เมื่อติดขัด ทั้งสภาพแวดล้อม ประวัติ คอมพิวเตอร์ เว็บ และคนอื่น
AI ที่ฉลาดจะยังสำรวจโลกอย่างกว้างต่อไปได้ไหม แม้เจ็บตัวจากกลยุทธ์ของตัวเองแล้ว? น่าจะยากกว่าสู้มังกรเสียอีก
