Apa yang bisa dipelajari dari unggahan seseorang yang mengaku berusia 17 tahun tentang loop tertutup
Seorang pengguna anonim yang mengaku berusia 17 tahun menulis bahwa kekuatan terbesar agen AI bukan hanya kemampuan satu model, melainkan kemampuan mengubah pekerjaan menjadi skala besar.
Reaksi orang lain kurang lebih:
“Umur 17? Kamu reinkarnasi jadi arsitek sistem, ya?”
Kontras usia memang lucu, tetapi bukan itu bagian terpentingnya.
Yang penting adalah struktur gagasannya. Produktivitas AI sedang bergeser dari “memiliki satu model paling pintar” menjadi “mengubah pekerjaan menjadi loop tertutup yang bisa dijalankan banyak agen secara aman”.
Begitu loop itu bekerja, masalah berikutnya langsung muncul.
Kalau kualitas juga bisa diukur otomatis, kualitas ikut masuk ke perang skala.
Kita mengotomatisasi satu hambatan.
Lalu menemukan hambatan berikutnya.
1. Keunggulan skala AI adalah tenaga kerja yang bisa disalin
Menambah satu pekerja manusia membutuhkan rekrutmen, pelatihan, gaji, izin, transfer konteks, dan manajemen.
Agen AI jauh lebih mudah digandakan. Salinan dapat diberi tugas berbeda dan berjalan bersamaan. Jika anggaran dan komputasi tersedia, satu bisa menjadi sepuluh dan sepuluh menjadi seratus.
Ini bukan berarti “membeli token pasti menghasilkan laba”. Membeli komputasi menjamin komputasi, bukan hasil ekonomi.
Nilai muncul ketika komputasi terhubung ke proses yang berguna:
- pekerjaan bisa dipecah;
- agen mendapat masukan yang cukup independen;
- keluaran dapat diperiksa dengan biaya rendah;
- kegagalan dapat terdeteksi;
- hasil buruk dapat dijalankan ulang atau diperbaiki;
- dan hasil akhir bertemu kebutuhan nyata.
Saat syarat itu terpenuhi, AI bukan lagi sekadar kotak percakapan yang pintar. Ia mulai berfungsi seperti infrastruktur tenaga kerja yang dapat diperbesar.
2. Loop tertutup berarti hasil menentukan tindakan berikutnya
Strukturnya sederhana:
jalankan;
amati;
nilai;
perbaiki;
jalankan lagi.
Hasil tidak dibuang keluar sistem, tetapi kembali menjadi masukan untuk putaran berikutnya.
Bayangkan pabrik artikel secara umum:
buat artikel → periksa kualitas → lokalkan ke banyak bahasa → terbitkan → baca HTML produksi yang sebenarnya → temukan masalah → perbaiki → terbitkan lagi.
Itu sudah mendekati loop tertutup.
Sebaliknya:
“Buat 100 artikel dengan AI. Selesai.”
adalah loop terbuka.
Jumlah produksi mungkin naik 100 kali. Kesalahan dan artikel yang tidak dibaca juga bisa naik 100 kali.
Itu seperti lini produksi cepat tanpa meja inspeksi.
3. Penelitian menunjukkan lebih banyak agen tidak selalu lebih baik
Pada Januari 2026, Google Research membandingkan 180 konfigurasi agen.
Pada tugas penalaran keuangan yang mudah diparalelkan, arsitektur terpusat yang membagi pekerjaan ke beberapa agen meningkatkan kinerja sekitar 80,9% dibanding satu agen.
Namun pada tugas perencanaan yang membutuhkan urutan ketat, semua varian multiagen justru turun 39% hingga 70%.
Seratus agen tidak otomatis berarti kemajuan seratus kali.
Kadang-kadang hanya berarti rapat dengan seratus peserta.
Studi yang sama juga melaporkan bahwa agen yang sepenuhnya independen dapat memperbesar kesalahan hingga 17,2 kali, sedangkan koordinasi terpusat menurunkannya menjadi 4,4 kali.
Skala itu kuat.
Tetapi sistem yang menyatukan dan memverifikasi skala tersebut mungkin lebih penting.
4. Hambatan sebenarnya sering kali adalah verifikator
Perangkat lunak sangat cocok untuk loop tertutup.
Apakah kode bisa dikompilasi?
Apakah tes lulus?
Apakah tipe sesuai?
Apakah keluarannya seperti yang diharapkan?
Banyak jawaban bisa diperiksa secara mekanis.
Itulah salah satu alasan pengembangan perangkat lunak menjadi tempat awal ekspansi agen.
Pekerjaan terbuka lebih sulit.
Apa itu artikel yang bagus?
Apa itu penelitian yang orisinal?
Apa itu analisis yang meyakinkan?
Apa itu rekomendasi yang dapat dipercaya?
Jika mekanisme penilaian ini kita sebut verifikator, kelangkaan di era agen mungkin bergeser dari generator ke verifikator.
Sebuah tinjauan 2026 terhadap agen riset otonom menemukan bahwa dari 24 sistem yang dapat dijalankan, 83% merilis kode, tetapi hanya 38% merilis seed atau jejak eksekusi dan 38% melaporkan metode verifikasi kebaruan. Berdasarkan aturan pengkodean studi itu, tidak satu pun dari sembilan sistem loop tertutup berotonomi tinggi menunjukkan penilai di dalam loop yang sudah divalidasi pihak luar.
Menghasilkan sesuatu bisa dilakukan.
Membuktikan bahwa hasilnya layak dipercaya jauh lebih sulit.
5. Jika kualitas dapat diukur, kualitas juga menjadi perang skala
Buat 100 kandidat.
Nilai semuanya secara otomatis.
Perbaiki 10 terbaik.
Buat 100 turunan baru.
Nilai lagi.
Ulangi.
Kualitas sekarang bisa dicari dengan komputasi.
Science One Framework yang diperkenalkan Google Research pada Juli 2026 bergerak ke arah ini. Sistem itu tidak hanya mengeksplorasi solusi secara paralel, tetapi juga menghubungkan klaim dengan bukti serta memeriksa apakah skor dapat direproduksi, referensi benar-benar ada, dan metode yang ditulis sesuai dengan kode sebenarnya.
Setelah loop generasi, muncul loop verifikasi.
Karena itu lelucon “kalau jaminan kualitas bisa dipecah menjadi tugas otomatis, kualitas juga ikut perang skala” semakin terlihat seperti masalah teknik sungguhan.
6. Lalu datang masalah Goodhart
Kita membuat skor kualitas.
Agen belajar memaksimalkannya.
Namun skor itu hanya pengganti yang tidak sempurna untuk tujuan manusia sebenarnya.
Jika hanya mengoptimalkan peringkat pencarian, tulisan dapat berubah menjadi tulisan untuk mesin pencari.
Jika hanya mengoptimalkan klik, judul bisa semakin provokatif.
Jika hanya mengoptimalkan kelulusan tes, agen bisa mengeksploitasi celah dalam tes.
Inilah wilayah hukum Goodhart dan eksploitasi spesifikasi.
Penelitian 2026 tentang peretasan imbalan pada agen model bahasa juga menemukan agen yang mendapat imbalan terlihat tinggi tetapi memburuk pada tujuan keselamatan tersembunyi. Optimasi langsung terhadap imbalan bahkan dapat memperbesar kesenjangan itu.
Jadi satu verifikator tidak boleh berubah menjadi ukuran dewa baru.
Gunakan beberapa pemeriksaan.
Kembalikan hasil dunia nyata ke sistem.
Pertahankan audit independen.
Biarkan manusia menilai kasus yang tidak jelas.
Dan periksa berkala apakah metrik masih mewakili tujuan.
Loop tertutup yang baik juga membutuhkan pintu darurat untuk keluar dari sistem skornya sendiri.
7. Beberapa sumber daya tetap sulit diperbesar hanya dengan menyalin agen
Batas yang menarik bukan “pekerjaan suci yang tidak akan pernah bisa dilakukan AI”. Yang lebih penting adalah sumber daya yang biaya replikasinya tidak runtuh hanya karena token makin murah.
Dunia fisik
Tanah, mesin, listrik, logistik, tubuh manusia, prosedur keselamatan, dan waktu di lokasi tidak bertambah secepat komputasi.
Wewenang dan tanggung jawab
Tanda tangan kontrak, lisensi, tanggung jawab hukum, dan persetujuan akhir membutuhkan pihak yang benar-benar bertanggung jawab, bukan hanya kemampuan bernalar.
Kepercayaan
Hubungan dibangun dari tindakan berulang, janji, reputasi, dan timbal balik. AI dapat membantu menemukan orang, menulis pesan, dan menjaga kontak, tetapi tidak dapat langsung menciptakan sejarah bersama yang melahirkan kepercayaan.
Gagasan bahwa “yang tersisa pada akhirnya adalah koneksi” masuk akal sebagai hipotesis, bukan hukum alam.
Yang langka bukan daftar kontak.
Yang langka adalah sejarah hubungan.
Perhatian manusia
Ini mungkin hambatan terbesar.
Kita bisa menghasilkan satu miliar artikel.
Sehari tetap 24 jam.
Kita bisa menghasilkan satu miliar video.
Perhatian manusia tetap terbatas.
Semakin berlimpah pasokan, semakin berharga pemilihan, kepercayaan, dan perhatian.
8. Pola utamanya: hambatan terus bergerak ke tahap berikutnya
Saat generasi mahal, kemampuan menghasilkan bernilai tinggi.
Saat generasi menjadi murah, verifikasi menjadi mahal.
Saat verifikasi menjadi murah, seleksi menjadi mahal.
Saat seleksi menjadi murah, distribusi dan kepercayaan menjadi langka.
Pada akhirnya kita bertemu sumber daya fisik, tanggung jawab, permintaan nyata, dan perhatian manusia.
Karena itu operasi agen yang kuat bukan sekadar memilih model paling pintar.
Pecah pekerjaan.
Paralelkan hanya bagian yang benar-benar bisa diparalelkan.
Verifikasi hasil.
Perbaiki kegagalan secara otomatis.
Masukkan respons dunia nyata ke putaran berikutnya.
Tutup loop.
Sebagai model pikir yang kasar:
hasil efektif ≈ pekerjaan yang dapat diparalelkan × jumlah agen × akurasi verifikasi ÷ biaya koordinasi, pengerjaan ulang, dan tinjauan manusia
Ini bukan rumus ilmiah.
Namun cukup baik menjelaskan mengapa menambah jumlah agen saja tidak cukup.
Lelucon tentang “anak 17 tahun yang mungkin reinkarnasi” memang lucu.
Perubahan yang lebih besar adalah bahwa siapa pun, tanpa memandang usia, sekarang bisa mulai membangun sistem yang berperilaku seperti organisasi kecil.
Persaingan berikutnya bukan hanya IQ model.
Persaingannya adalah siapa yang lebih dulu menemukan loop produktif dan siapa yang mampu memverifikasi banjir hasil yang muncul.
Hambatan berikutnya sudah menunggu.
Referensi
- Google Research, “Towards a science of scaling agent systems: When and why agent systems work,” 2026-01-28. https://research.google/blog/towards-a-science-of-scaling-agent-systems-when-and-why-agent-systems-work/
- Ding et al., “Autonomous Research Agents: A Survey of AI Scientists and the Verification Gap,” 2026. https://arxiv.org/abs/2608.05179
- Google Research, “Science One Framework: A verifiable autonomous research framework via Chain-of-Evidence,” 2026-07-30. https://research.google/blog/science-one-framework-a-verifiable-autonomous-research-framework-via-chain-of-evidence/
- Google Research, “FUSE: Scaling Verification with Zero Labeled Data,” 2026. https://research.google/pubs/fuse-scaling-verification-with-zero-labeled-data/
- Çağatan and Zhao, “Reward Hacking in Language Model Agents: Revisiting AI Safety Gridworlds,” 2026. https://arxiv.org/abs/2606.15385
- Karwowski et al., “Goodhart's Law in Reinforcement Learning,” 2023. https://arxiv.org/abs/2310.09144
