Di media sosial, ada orang yang bercanda bahwa begitu dia menyuruh AI "think from first principles" (berpikir dari prinsip dasar), rasanya IQ-nya naik sekitar 20 poin.
Tentu saja, begitu mantra itu diucapkan, otak silikon tidak tiba-tiba dibagi 20 poin kecerdasan.
Tapi bukan itu bagian yang menarik.
Kalimat ini tidak meminta "sebutkan banyak masalah", atau "cari kompetitor", atau "kasih ide yang kedengarannya lebih pintar".
Mundurlah sampai ke akar. Apakah pertanyaan, tujuan, batasan, dan asumsi yang ada sekarang memang benar? Bangun ulang dari situ.
Itu pekerjaan yang jauh lebih mirip filsafat.
Kalau perbaikan biasa itu begini: dinding retak, lalu kita membandingkan sepuluh jenis bahan tambal, maka berpikir dari prinsip dasar akan berhenti di tengah jalan, memandangi dinding itu, lalu bilang:
"Tunggu dulu. Memangnya dinding ini perlu ada?"
Tiba-tiba kontraktornya pindah jurusan ke fakultas filsafat.
1. "Mencari masalah" dan "meragukan pertanyaannya sendiri" adalah dua pekerjaan berbeda
Kalau kamu minta AI memperbaiki sesuatu, biasanya yang keluar ada tiga macam:
- Daftar masalah yang ada saat ini.
- Solusi yang dicari dari perusahaan lain, orang lain, atau metode yang sudah ada.
- Usulan yang lebih baik, yang disusun di dalam sistem yang sekarang.
Semuanya berguna. Tapi pada dasarnya semua itu berpikir sambil menerima papan permainan yang sekarang apa adanya.
Kalau rasio klik (CTR) artikel terkait rendah, kita ubah posisinya. Perbesar kartunya. Ganti teksnya. Perbaiki model rekomendasinya. Itu perbaikan yang bagus.
Berpikir dari prinsip dasar mundur satu langkah sebelum itu.
Sebenarnya, apa tujuan artikel terkait?
Apakah tujuannya melempar pembaca ke halaman lain? Atau menjawab pertanyaan berikutnya yang muncul di kepala pembaca? Kalau yang kedua, apakah benar-benar perlu "kartu artikel terkait"? Bukankah ada kasus yang lebih baik dijawab langsung di dalam isi artikel?
Di sini, sebelum kualitas solusi, yang diaudit lebih dulu adalah definisi masalah yang mau diselesaikan.
Kamu mengundang AI ke rapat perbaikan, lalu dia mulai menghapus sendiri "tujuan" yang tertulis paling atas di papan tulis.
Dan kurang lebih dia benar.
2. Berpikir dari prinsip dasar lebih mirip pekerjaan pondasi daripada bahan mentah ide
Kalau dipahami sebagai "cara mengeluarkan banyak ide", itu agak sempit.
Intinya adalah menyingkirkan solusi yang sudah ada untuk sementara, lalu mundur sampai pertanyaan seperti:
- Keadaan apa yang sebenarnya ingin kita capai?
- Batasan apa yang benar-benar tidak bisa diubah?
- Apa yang bisa kita amati sebagai fakta?
- Mana yang cuma kita anggap "perlu" padahal hanya kebiasaan?
- Kalau kita tidak tahu satu pun solusi yang sudah ada, bagaimana kita akan merancangnya?
Jadi ini lebih mirip menggali habis seluruh tanah sebelum menanam benih daripada memungut benih ide.
Kamu bisa menderetkan contoh dari sepuluh kompetitor, tapi kalau kesepuluhnya berbagi asumsi yang sama, perusahaan kesebelas akan membangun gedung yang sama juga.
Berpikir dari prinsip dasar dimulai dari:
"Kenapa semua orang membangunnya dengan cara ini?"
Kadang setelah ditelusuri, kesimpulannya: "ternyata memang cara membangun ini yang paling masuk akal."
Itu juga sebuah keberhasilan.
Meragukan asumsi tidak sama dengan selalu menghancurkannya.
Kalau setiap rambu jalan diragukan lalu kita menyetir melawan arah, itu bukan filsafat, melainkan kecelakaan.
3. Di sinilah pembelajaran lingkar ganda (double-loop learning) nyambung
Pembelajaran lingkar ganda yang dibahas Chris Argyris pada 1977 bukan sekadar memperbaiki kesalahan, tapi juga mempertanyakan kebijakan, tujuan, dan norma yang melahirkan tindakan itu.
Singkatnya begini:
Lingkar tunggal Hasilnya buruk → perbaiki tindakannya.
Lingkar ganda Hasilnya buruk → sebelum memperbaiki tindakan, tinjau ulang apa yang tadinya kita definisikan sebagai keberhasilan, serta aturan dan asumsinya sendiri.
Misalnya, "rasio kliknya rendah".
Dengan lingkar tunggal, kita memperbaiki judul, posisi, warna, akurasi rekomendasi.
Dengan lingkar ganda, kita mundur dan bertanya:
"Kenapa kita ingin rasio klik naik?"
Kalau yang sebenarnya diinginkan adalah "pembaca bisa terjawab pertanyaannya dan, kalau perlu, lanjut ke langkah berikutnya", maka rasio klik mungkin bukan tujuan, hanya indikator pengganti.
Lalu masalah desainnya berubah.
Dari "bagaimana membuat orang mengklik" menjadi "bagaimana menjawab pertanyaan berikutnya dengan wajar".
Naik satu tingkat, dari AI yang memperbaiki KPI (angka yang kita pakai untuk menilai berhasil tidaknya sesuatu) menjadi AI yang mengaudit alasan kita memilih KPI itu.
Itulah bagian yang menarik kali ini.
4. AI masuk ke tempat yang kita kira "hanya manusia yang bisa"
Dalam otomatisasi AI, pekerjaan yang tersisa untuk manusia sering disebut: "menetapkan tujuan", "mengajukan pertanyaan", "memikirkan makna", dan "menyetujui".
Mengeksekusi, mencari, menghitung, meringkas, membandingkan, dan menghasilkan bisa dimekanisasi.
Tapi
"Sebenarnya kita melakukan ini untuk apa?"
kelihatannya seperti wilayah suci milik manusia.
Padahal, di sini pun AI bisa dimasukkan.
Step-Back Prompting di ICLR 2024 (konferensi besar machine learning) mengusulkan agar model mundur ke pertanyaan atau prinsip yang lebih abstrak sebelum menyelesaikan masalah konkret secara langsung. Peningkatan kinerja dilaporkan pada beberapa tugas penalaran dengan PaLM-2L, GPT-4, dan Llama2-70B.
Ini bukan penelitian yang membuktikan bahwa kalimat spesifik "think from first principles" itu ajaib.
Tapi
masalah konkret → naik satu tingkat abstraksi → tarik prinsipnya → kembali ke masalah konkret
punya contoh empiris yang dekat ketika LLM diminta melakukannya.
Jadi pembagian kerja "AI hanya bisa pekerjaan remeh, filsafat khusus manusia" setidaknya sudah tidak sesederhana itu lagi.
AI kini mendapat jatah dosen paruh waktu di jurusan filsafat.
5. Kalau dimasukkan ke "perkecambahan", pencarian ide punya dua jalur
Kalau kita memikirkan perkecambahan (munculnya benih ide) untuk artikel, produk, fitur, dan topik riset, pintu masuknya bisa dibagi dua.
Perkecambahan yang dipungut dari luar
- Ada permintaan pencarian
- Sedang ramai di media sosial
- Pembaca keluar dari halaman
- Banyak pertanyaan masuk
- Kompetitor punya fitur baru
Ini menangkap sinyal dari dunia luar.
Tapi kita bisa membuat satu jalur lagi.
Perkecambahan dengan menggali ke dalam
- Fitur ini ada untuk mencapai apa?
- Apakah KPI ini benar-benar mewakili tujuannya?
- Batasan ini hukum fisika, atau kenyamanan zaman dulu?
- Kalau semuanya dibuat dari nol, apakah strukturnya akan sama?
- Kalau semua solusi yang ada sekarang dilarang dulu, apa yang tersisa?
- Memangnya ini masalah yang harus diselesaikan?
Ini menggali asumsi sistem yang sudah ada.
Kalau tren dari luar adalah pekerjaan memungut "benih yang jatuh di tanah", maka jalur prinsip dasar adalah jenis perkecambahan di mana papan lantai dicopot, lalu di bawahnya tumbuh tanaman yang tidak dikenal.
Pertanyaan yang tidak pernah dicari siapa pun lahir sebagai hasil membongkar struktur yang ada.
Di sinilah orisinalitas mudah muncul.
6. Kalau mau diterapkan, bagi jadi tiga tahap: bongkar asumsi, bangun ulang, uji
Kalau kamu cuma bilang ke AI "berfilsafatlah sebebasnya", kadang dia melayang sampai ke luar angkasa dan tidak kembali.
Dalam praktik, sebaiknya prosesnya dikunci.
Tahap 1: audit asumsi
Pisahkan tujuan, indikator, batasan, kebiasaan, dan solusi yang ada saat ini.
Terutama, jangan campur aduk antara: "fakta", "batasan yang benar-benar tak terhindarkan", "kepentingan organisasi", "sejarah", dan "hal yang terus berjalan begitu saja tanpa alasan jelas".
Tahap 2: bangun ulang dari nol
Jangan anggap usulan yang ada sebagai jawaban benar. Buat beberapa usulan hanya dari tujuan dan batasan yang tak terhindarkan.
Tidak apa-apa kalau kesimpulannya sama dengan usulan yang ada. Yang penting, kamu bisa menjelaskan kenapa hasilnya sama.
Tahap 3: kembalikan ke kenyataan
Uji dengan biaya, hukum, keamanan, perilaku pengguna, beban migrasi, data yang sudah ada, dan sebagainya.
Prinsip dasar bukan kartu pelarian dari kenyataan.
"Aku mau biaya server jadi nol, jadi mari kita jadikan server sebagai konsep" itu bukan filsafat, melainkan kabur dari tagihan.
7. Tetap saja, yang tersisa untuk manusia adalah "apa yang kita anggap penting"
AI bisa menjelajahi cukup luas hal-hal seperti:
- Apakah asumsi ini perlu?
- Apakah tujuan dan KPI-nya meleset?
- Bagaimana kalau fungsi nilainya (cara lain menilai apa yang dianggap baik) berbeda?
- Apa yang bisa dibuang agar strukturnya lebih sederhana?
Namun, ada satu garis terakhir.
Nilai mana yang akhirnya dipilih?
Memaksimalkan lamanya orang bertahan di situs? Menyelesaikan secepat mungkin lalu mempersilakan orang pulang? Memaksimalkan keuntungan? Sampai sejauh mana kepercayaan, kebebasan, keamanan, keadilan, dan keseruan diprioritaskan?
Ini bukan jawaban yang muncul tunggal hanya dengan mengamati dunia.
AI bisa menguraikan: "kalau nilainya A, desainnya X; kalau nilainya B, desainnya Y".
Tapi memilih A atau B sebagai tujuan akhir masyarakat atau produk pada akhirnya menjadi tanggung jawab pihak manusia.
Karena itu, titik akhir otomatisasi penuh bukanlah
manusia memikirkan semuanya dan juga bukan AI memutuskan semuanya.
Melainkan:
AI meragukan asumsi sampai tuntas, sementara manusia hanya memikul penilaian nilai dan percabangan yang menuntut tanggung jawab.
Pekerjaan manusia berubah dari "mengajukan 100 ide" menjadi "memilih jalur dunia yang ini".
8. Kalau benar-benar mau dilempar ke AI, pertanyaan ini intinya
Versi paling singkat sudah cukup:
"Sebenarnya, apa yang benar-benar ingin kita capai?"
Kalau mau lebih kuat satu tingkat:
Untuk sementara, jangan perlakukan implementasi saat ini, kebiasaan industri, dan contoh kompetitor sebagai "jawaban". Pertama, pisahkan tujuan, fakta yang teramati, batasan yang tak terhindarkan, asumsi tersirat, dan indikator pengganti. Lalu, pertimbangkan apakah tujuan tetap bisa dicapai kalau tiap asumsi dilepas. Terakhir, bangun ulang beberapa desain hanya dari prinsip dasar yang tersisa, dan uji dengan batasan di dunia nyata. Kalau akhirnya kembali ke usulan yang ada, jelaskan kenapa kembali.
Intinya, jangan bilang "kasih ide yang baru".
Kalau kita menuntut kebaruan secara langsung, AI kadang menciptakan sesuatu seperti sepeda dengan tiga topi ditumpuk.
Yang dibutuhkan bukan keanehan, melainkan selisih yang muncul sebagai hasil menghitung ulang dari asumsi.
9. Kesimpulan: AI bisa naik dari "yang menjawab" menjadi "yang membongkar pertanyaan"
Mendaftar masalah itu perlu. Riset kompetitor itu perlu. Memperbaiki usulan yang ada itu perlu.
Tapi hanya dengan itu, kita cuma menggerakkan bidak lebih cepat di papan permainan yang sama.
Kalau berpikir dari prinsip dasar ditugaskan secara eksplisit ke AI,
menyelesaikan masalah → meragukan rumusan masalah → meragukan tujuan → menguraikan asumsi → membangun ulang dari nol
semuanya masuk ke jangkauan otomatisasi.
Lingkar kedua dalam pembelajaran lingkar ganda pun tidak perlu lagi dinyalakan manusia dengan semangat semata setiap kali.
Cukup minta AI bertanya secara berkala:
"Jadi, sebenarnya ini buat apa?"
Bahkan sebagian "filsafat", yang kita kira akan jadi hal terakhir yang tersisa dalam otomatisasi AI, ternyata bisa dijadikan proses.
Hanya saja, kalau AI filsuf itu mulai bilang "semua tujuannya sudah saya putuskan juga!", nah di situlah manusia menarik kursi dan duduk tegak lagi.
Sampai urusan membongkar pertanyaan, bisa kita serahkan.
Memilih dunia seperti apa yang kita anggap penting, masih tugas kita.
