Kalau api bahaya jadi dilarang masuk dapur, ya tidak akan ada yang berani mencoba hal baru
Memakai AI generatif di perusahaan memang ada risikonya.
Kebocoran informasi rahasia. Data pribadi yang ikut dimasukkan. Informasi salah yang menyelinap masuk. Menyalin mentah-mentah hasil AI. Kemampuan berpikir yang menurun. Ketergantungan berlebihan pada AI.
Sampai di sini, menurutku kekhawatirannya cukup masuk akal.
Tapi kalau dari situ langsung loncat ke
AI generatif dilarang.
ceritanya jadi lain.
Itu bukan manajemen risiko, tapi cuma menyerah merancang aturan.
Rasanya seperti ini:
Api itu bahaya, jadi jangan masuk dapur. Pisau juga bahaya, jadi jangan masak. Tapi tetap penuhi permintaan pelanggan. Masaknya harus enak. Sajikan tepat waktu. Dan ingat, kondisi sekarang tidak bisa dibiarkan. Kita harus berani mencoba hal baru.
Kacau sekali.
Kalau api berbahaya, ajarkan cara memakai api. Kalau pisau berbahaya, ajarkan cara memegang dan menaruhnya. Kalau takut keracunan makanan, tetapkan aturan cuci tangan, kontrol suhu, dan pemakaian talenan yang dibedakan. Kalau takut kebakaran, pastikan ada ventilasi, cek sumber api, dan siapkan alat pemadam.
Biasanya orang melakukan itu.
Dengan aturan "dapur dilarang karena bahaya", tidak ada yang jadi jago masak. Bahkan orang yang bisa masak pun tidak akan muncul.
AI generatif juga sama.
Risikonya nyata. Tapi larangan total itu terlalu asal
Risiko AI generatif itu sendiri memang nyata.
IPA (badan promosi teknologi informasi di Jepang) merangkum bahwa AI punya masalah seperti pencurian dan kebocoran data, pemalsuan data pelatihan, kebocoran data pribadi dan rahasia dagang, serta informasi palsu dan salah. Mereka juga menyebut bahwa untuk memakai AI yang bisa dipercaya, kita perlu mempertimbangkan kinerja, kemampuan menjelaskan, kepatuhan pada aturan, dan etika.[^ipa-ai-security]
Badan Digital Jepang juga merilis materi dengan arah yang sama: "mengenali risiko dan langkah penanganan yang diperlukan, lalu melangkah ke pemanfaatan yang tepat".[^digital-ai-guidebook]
Jadi, risikonya memang ada. Tapi itu bukan berarti kita tidak perlu berbuat apa-apa.
Namun, yang penting adalah ini:
Ada risiko dan larangan total itu benar adalah dua hal yang berbeda.
Mobil punya risiko kecelakaan. Tapi mobil tidak dilarang total.
Yang dilakukan adalah SIM, aturan lalu lintas, lampu lalu lintas, batas kecepatan, uji kelayakan kendaraan, asuransi, sabuk pengaman, dan larangan mengemudi saat mabuk.
Memasak punya risiko luka bakar, kebakaran, dan keracunan makanan. Tapi memasak tidak dilarang total.
Yang dilakukan adalah memeriksa sumber api, menjaga kebersihan, ventilasi, menetapkan urutan memasak, dan melatih pemula.
AI generatif juga sama.
Yang dibutuhkan bukan larangan, tapi pengelompokan.
Yang seharusnya dilakukan: aturan berdasarkan jenis penggunaan dan tingkat kerahasiaan
Penggunaan AI generatif tidak perlu dilarang sekaligus. Seharusnya dibedakan menurut tingkat bahaya informasi yang dimasukkan dan tingkat bahaya jenis penggunaannya.
Misalnya seperti ini:
| Kategori | Contoh | Perlakuan |
|---|---|---|
| Dilarang dimasukkan | Data pribadi, data pelanggan, informasi SDM yang belum diumumkan, informasi kontrak, gambar teknik, rahasia produk, rahasia dagang | Dilarang dimasukkan |
| Risiko tinggi | Dokumen yang dikirim ke luar perusahaan, dokumen kontrak, jawaban untuk pelanggan, keputusan hukum dan SDM | Perlu persetujuan, wajib dicek manusia |
| Boleh dengan syarat | Draf prosedur kerja standar, merapikan notulen rapat, draf materi pelatihan, mengubah kalimat internal | Data dianonimkan, ada orang yang memeriksa |
| Risiko rendah | Koreksi tulisan secara umum, membuat email lebih sopan, memahami cara kerja rumus Excel, membuat daftar periksa | Pada dasarnya boleh |
| Lingkungan yang disarankan | AI dengan kontrak perusahaan, LLM lokal (model AI yang berjalan di perangkat sendiri), fitur penggunaan data untuk pelatihan dimatikan, pengelolaan hak akses, pengelolaan log | Disiapkan oleh perusahaan |
Inilah yang disebut tata kelola (governance), yaitu mengelola dengan aturan yang jelas.
"Pedoman Pelaku Usaha AI" dari Kementerian Ekonomi, Perdagangan, dan Industri Jepang (METI), pada versi terbarunya, tidak hanya memuat isi utamanya tapi juga daftar periksa dan lembar kerja. Ini materi yang membawa AI dari sikap "takut jadi dilarang" ke cara menanganinya dalam praktik.[^meti-ai-guideline]
Artinya, arah dunia adalah
bukan melarang, melainkan membuat aturan, pelatihan, daftar periksa, dan rancangan operasional.
Argumen "kemampuan menurun" juga harus diurai dulu
Kekhawatiran bahwa kemampuan kita turun kalau memakai AI generatif memang bisa dimengerti.
Tapi ini juga harus dipilah-pilah, kalau tidak jadi aneh.
Ada kemampuan yang boleh menurun, dan ada yang harus dipertahankan.
Kemampuan yang tidak terlalu masalah kalau menurun misalnya:
- Kemampuan menulis email formal dari nol setiap kali
- Menghafal rumus Excel di luar kepala
- Menyusun draf pertama prosedur kerja dengan modal nekat
- Bingung 30 menit hanya untuk mengganti susunan kalimat
- Membuat kalimat yang rapi dari halaman kosong
Sebaliknya, kemampuan yang akan makin penting adalah ini:
- Kemampuan menilai apa yang boleh dimasukkan
- Kemampuan mengenali informasi yang tidak boleh dimasukkan
- Kemampuan memeriksa apakah hasil AI ada yang janggal
- Kemampuan menyesuaikan dengan aturan di lapangan
- Kemampuan menjelaskan tujuan, syarat, dan batasan dengan kata-kata
- Kemampuan untuk tidak melempar tanggung jawab akhir ke AI
- Kemampuan menstandarkan, melatih, dan membuat daftar periksa dengan bantuan AI
Jadi, tidak melatih kemampuan yang dibutuhkan di era AI hanya demi menjaga kemampuan yang mungkin turun karena AI itu sama saja dengan mendahulukan yang tidak penting.
Ini mirip dengan bilang:
Kalkulator dilarang karena kemampuan berhitung bisa turun. Foto dilarang karena katanya jiwa bisa terisap. Mobil dilarang karena tidak sehat. Memasak dilarang karena api itu bahaya.
Ada kemampuan yang jadi tidak diperlukan karena adanya alat. Tapi sebagai gantinya, kemampuan lain jadi penting.
Di zaman kalkulator, yang dibutuhkan bukan hanya hitung di kepala. Tapi juga kemampuan menyusun rumus, memeriksa ulang hasil, dan membaca makna angka.
Di era AI generatif pun sama.
Daripada orang yang bisa menulis semuanya dengan tangan tanpa AI, orang yang bisa memakai AI dengan aman, meragukan hasilnya, dan memperbaikinya sesuai kondisi lapangan jadi lebih penting.
Kalau di lapangan pertanyaan soal Excel dan komputer berseliweran, melarang AI jelas langkah yang lebih buruk
Kalau di tempat kerja sering terdengar pertanyaan seperti
Ini di Excel gimana caranya? Ini di komputer gimana? Email ini nulisnya gimana? Prosedur kerja ini dirapikan gimana? Kalimat ini diperbaiki gimana?
maka AI generatif bisa jadi roda bantu yang sangat kuat.
AI bukan pengganti atasan untuk membuat keputusan akhir. Tapi ia cukup cocok untuk membuat draf pertama, mengubah susunan kalimat, memecah prosedur menjadi langkah-langkah, menjadikannya daftar periksa, dan menjelaskan cara kerja rumus Excel.
Terutama kalau kemampuan komputer dan menulis tiap orang di perusahaan timpang, AI generatif membantu mengurangi pelatihan yang hanya bergantung pada orang tertentu.
Misalnya,
- Menulis ulang prosedur kerja dengan bahasa mudah untuk karyawan baru
- Mengubah langkah kerja menjadi daftar periksa
- Merapikan susunan email agar sopan
- Mengusulkan kandidat rumus Excel
- Merapikan catatan rapat menjadi seperti notulen
- Mengubah alur kegiatan QC (kegiatan pengendalian mutu) menjadi lembar isian
Hal-hal seperti ini bisa dilakukan tanpa memasukkan informasi rahasia.
Kalau bahkan ini pun dilarang, orang di lapangan akan terus melempar pertanyaan yang sama ke orang lain. Beban orang yang mengajari tidak berkurang. Standarisasi tidak maju. Pekerjaan yang hanya dikuasai orang tertentu pun tetap ada.
Lalu perusahaan berkata:
Kita harus berani mencoba hal baru. Kondisi sekarang tidak bisa dibiarkan.
Lho, bukankah justru perusahaan yang menyegel alat yang dibutuhkan untuk itu?
Larangan total bukan "aman", tapi malah melahirkan AI gelap
Ada satu masalah lagi.
Larangan total sekilas tampak aman. Tapi kenyataannya bisa malah lebih berbahaya.
Sebab orang yang sudah tahu enaknya bisa saja memakainya diam-diam dengan akun pribadi.
Work Trend Index 2024 dari Microsoft dan LinkedIn melaporkan bahwa 75% pekerja berbasis pengetahuan memakai AI di pekerjaan, dan 78% dari pengguna AI itu membawa alat AI milik sendiri ke tempat kerja. Selain itu, 79% pemimpin menganggap penerapan AI penting untuk menjaga daya saing, tapi 60% khawatir perusahaan mereka tidak punya visi dan rencana penerapan AI.[^ms-wti-2024]
Ini cukup penting.
Kalau perusahaan tidak membuat aturan, orang di lapangan tidak akan berhenti. Mereka memakainya secara tidak resmi.
Jadi alurnya begini:
Secara resmi dilarang Orang di lapangan kesulitan Karena praktis, dipakai lewat akun pribadi Perusahaan tidak bisa memantau kenyataannya Tidak ada aturan input, pelatihan, maupun log Akibatnya risiko kebocoran justru naik
Ini bukan keamanan. Ini adalah "AI bayangan" (shadow AI), AI yang dipakai diam-diam.
Larangan tidak menjamin AI tidak dipakai. Larangan hanya membuatnya tidak terlihat.
Dunia bergerak ke arah "merancang pekerjaan dengan AI sebagai dasarnya", bukan melarang
Dunia di luar sudah mulai merombak pekerjaan dengan AI sebagai dasarnya.
Dalam survei McKinsey 2025, 78% responden menjawab organisasinya memakai AI di setidaknya satu fungsi bisnis, dan 71% melaporkan memakai AI generatif secara rutin di setidaknya satu fungsi bisnis.[^mckinsey-2025-ai]
Dalam Work Trend Index 2025 dari Microsoft, 82% pemimpin di seluruh dunia menjawab bahwa ini adalah titik balik untuk memikirkan ulang bagian penting dari strategi dan operasional, dan 81% memperkirakan akan memasukkan agen AI (AI yang mengerjakan tugas secara mandiri) ke dalam strategi AI perusahaan secara moderat atau besar-besaran dalam 12 sampai 18 bulan ke depan.[^ms-wti-2025]
Artinya, dunia sudah tidak lagi bertanya
pakai AI atau tidak,
melainkan
bagaimana memakai AI dengan aman, bagaimana memasukkan AI ke dalam pekerjaan, pekerjaan apa yang distandarkan dengan AI, di bagian mana manusia memegang tanggung jawab keputusan.
Di tengah situasi itu, perusahaan yang berhenti di "AI generatif dilarang total" akan tertinggal.
Terutama perusahaan yang menggembar-gemborkan "berani mencoba hal baru" tapi melarang AI total, itu cukup bertentangan.
Berani mencoba bukan berarti memuja alat baru tanpa syarat. Tapi juga bukan menyegel alat baru tanpa melihatnya sama sekali.
Kalau memang bicara soal berani mencoba, setidaknya katakan seperti ini:
Dilarang memasukkan informasi rahasia dan data pribadi. Tapi mulailah mencoba dengan aman dari penggunaan berisiko rendah. Koreksi tulisan, merapikan email, konsultasi umum soal Excel, kerangka prosedur kerja, dan pembuatan daftar periksa boleh dilakukan dalam lingkungan yang ditentukan dan aturan pemeriksaan. Hasilnya wajib dicek manusia, dan yang dikirim ke luar atau menyangkut keputusan harus disetujui.
Kalau begini, aku paham.
Inilah menyeimbangkan keamanan dan keberanian mencoba.
Kesimpulan Mendoi-chan: jangan larang api, ajarkan mengatur nyalanya
Risiko AI generatif tidak boleh dianggap enteng.
Kebocoran rahasia, informasi salah, dan ketergantungan, semuanya benar-benar berbahaya. Makanya aturan itu perlu.
Tapi larangan total bukan aturan.
Itu adalah kontradiksi seperti ini:
Api itu bahaya, jadi jangan masuk dapur. Tapi penuhi permintaan pelanggan. Masak yang enak. Sajikan tepat waktu. Kita harus berani mencoba hal baru. Kondisi sekarang tidak bisa dibiarkan.
Kalau bahaya, ajarkan mengatur nyala api. Ajarkan cara memakai pisau. Mulai dari menu untuk pemula. Pisahkan talenan untuk daging mentah dan sayur. Standarkan pengecekan sumber api. Siapkan alat pemadam. Buat daftar periksa.
AI generatif juga sama.
Larang cara pakai yang berbahaya. Izinkan cara pakai yang aman. Tentukan siapa yang bertanggung jawab memeriksa. Siapkan lingkungan yang bisa dipakai. Coba dari pekerjaan berisiko rendah. Berikan pelatihan. Jadikan daftar periksa.
Inilah manajemen risiko yang sebenarnya.
Larangan total bukan tata kelola. Itu cuma berhenti berpikir: karena tidak bisa mengelola, ya disegel saja.
Kalau pakai gaya Mendoi-chan, ini adalah
sihir hitam yang mengibarkan keberanian mencoba, tapi menyegel alat yang dibutuhkan untuk mencoba.
Dan ilmu pertahanannya sederhana:
Bukan soal pakai AI atau tidak, tapi dipikirkan sampai ke detail ini: apa yang tidak boleh dimasukkan, untuk apa boleh dipakai, siapa yang memeriksa, dan di lingkungan mana dipakai.
Jangan larang api. Ajarkan mengatur nyalanya.
Referensi
[^ipa-ai-security]: IPA (Badan Promosi Teknologi Informasi Jepang), "Keamanan AI" https://www.ipa.go.jp/digital/ai/security/index.html
[^digital-ai-guidebook]: Badan Digital Jepang, "Panduan Penanganan Risiko dalam Pemanfaatan AI Generatif Teks (versi alfa)" https://www.digital.go.jp/resources/generalitve-ai-guidebook
[^meti-ai-guideline]: Kementerian Ekonomi, Perdagangan, dan Industri Jepang (METI), "Pedoman Pelaku Usaha AI" https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
[^ms-wti-2024]: Microsoft Jepang / LinkedIn, "Work Trend Index 2024 tentang kondisi AI di tempat kerja" https://news.microsoft.com/ja-jp/2024/05/09/240509-microsoft-and-linkedin-release-the-2024-work-trend-index-on-the-state-of-ai-at-work/
[^mckinsey-2025-ai]: McKinsey & Company “The State of AI: Global Survey” https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-how-organizations-are-rewiring-to-capture-value
[^ms-wti-2025]: Microsoft “2025 Work Trend Index: The year the Frontier Firm is born” https://www.microsoft.com/en-us/worklab/work-trend-index/2025-the-year-the-frontier-firm-is-born
