Saat diminta melakukan sesuatu yang berbahaya, chatbot bisa menjawab, “Maaf, saya tidak bisa membantu.” Lalu muncul pertanyaan: kalau aturan keamanan AI terus diperketat, apakah peretas akhirnya kehilangan alat mereka?
Pembatasan layanan dapat mempersulit penyalahgunaan, tetapi tidak bisa mengendalikan semua model AI yang dijalankan secara mandiri. Selain itu, membuat chatbot mengeluarkan jawaban yang dilarang tidak sama dengan berhasil membobol perangkat orang lain.
Akun bisa diblokir, file model belum tentu bisa ditarik
Penyedia chatbot dapat menolak permintaan, memantau penyalahgunaan, dan menangguhkan akun. OpenAI menyatakan bahwa upaya mengakali pengaman dapat membuat pengguna kehilangan akses.
Namun, ada model AI yang dapat diunduh dan dijalankan di komputer sendiri. Cara ini bermanfaat bagi penelitian dan pengembangan teknologi. Tantangannya, setelah file model tersebar luas, pembuatnya sulit menarik semua salinan. Laporan Keselamatan AI Internasional 2026 membahas manfaat dan risiko tersebut.
Petugas keamanan di pintu pusat perbelanjaan bisa sangat ketat. Tapi ia tidak otomatis menjaga setiap rumah di kota.
Tiga masalah keamanan yang sering dianggap sama
Pertama, jailbreak AI: upaya memengaruhi chatbot agar menjawab hal yang biasanya ditolak. Ini menunjukkan celah dalam perilaku model, bukan kemampuan ajaib untuk meretas internet.
Kedua, perintah jahat bisa disisipkan dalam halaman web atau dokumen yang dibaca AI. Masalah muncul ketika AI menganggap isi bahan bacaan sebagai instruksi. Risikonya lebih besar jika AI juga diberi izin mengoperasikan alat lain. OWASP memasukkan masalah ini dalam daftar risiko utama aplikasi AI.
Ketiga, ada model yang dijalankan secara lokal. Membangun AI tercanggih dari nol membutuhkan biaya besar, sedangkan menjalankan atau menyesuaikan model yang sudah dirilis merupakan pekerjaan yang berbeda. Tetap saja, aturan hukum berlaku di luar platform chat.
Pengguna biasa takut akunnya hilang. Penyerang mungkin tidak memakai akun itu
Orang yang memakai chatbot untuk pekerjaan sehari-hari tentu berpikir dua kali sebelum mencoba hal yang berisiko membuat akunnya diblokir.
Bagi seseorang yang menjalankan model sendiri, sanksi akun dari satu layanan tidak selalu memengaruhi program tersebut secara langsung. Itu bukan jaminan bebas dari penyelidikan. Artinya, pemblokiran akun hanya efektif pada bagian yang memang dikendalikan penyedia layanan.
Di film, peretas jenius mengalahkan penjaga gerbang. Dalam kenyataan, jawabannya bisa sesederhana, “Saya bahkan tidak masuk lewat gerbang itu.” Agak antiklimaks, tetapi justru itulah masalahnya.
AI membuat satu orang mampu mengurus lebih banyak pekerjaan
AI bisa membantu merangkum informasi, menulis kode biasa, memeriksa kesalahan, dan mengulang pengecekan. Kemampuan tersebut bisa mempercepat pekerjaan tanpa otomatis menjadikan penggunanya ahli keamanan komputer.
Dalam laporan 10 September 2026, Anthropic menggambarkan kasus operator tunggal yang menangani beberapa target secara bersamaan, dengan sebagian pembobolan berlangsung dalam dua sampai tiga jam. Itu adalah temuan dari kasus tertentu, bukan bukti bahwa siapa pun dapat meretas apa pun.
Ancaman kini bukan cuma seorang jenius di depan layar. Bisa juga satu orang dengan tim digital yang tak pernah mengeluh lembur. Meski begitu, tim itu kadang salah dengan percaya diri luar biasa.
Apakah AI sudah bisa menyebar lewat kulkas?
Pada 12 Oktober 2026, Anthropic menerbitkan penelitian tentang kemungkinan AI menyalin dirinya ke perangkat lain. Para peneliti menjalankan satu model dengan membagi komputasi ke 15 kotak Android TV murah. Model kecil lain berhasil menyiapkan lingkungan untuk menjalankan AI pada delapan dari sembilan jenis perangkat keras. Replikasi berulang juga diuji pada jaringan terisolasi yang sengaja dibuat lebih mudah dimasuki.
Temuan tersebut menunjukkan bagian-bagian penting dari kemungkinan ancaman. Ini bukan laporan tentang kulkas rumahan yang sudah terinfeksi secara massal. Kapan kemampuan penyebaran mandiri di perangkat nyata akan terjadi masih merupakan perkiraan.
Lima belas kotak TV berbagi satu AI? Rasanya seperti kos-kosan khusus robot. Tolong periksa kunci pagar sebelum menerima penghuni baru.
Keamanan bukan sekadar jawaban “maaf, tidak bisa”
Perangkat perlu diperbarui, koneksi yang tidak dibutuhkan sebaiknya dimatikan, hak akses AI dibatasi, dan tindakan penting harus mendapat persetujuan manusia. Aktivitas jaringan yang tidak biasa juga perlu diperhatikan.
Menolak permintaan berbahaya adalah lapisan perlindungan yang berguna. Tetapi chatbot yang sopan bukan pengganti pintu yang terkunci.
