AI Hari Ini mencatat risiko AI hacking kembali menjadi perhatian besar setelah Demis Hassabis dari Google DeepMind menyebut sejumlah insiden keamanan berbasis AI sebagai “early warning shots”. Ia memperingatkan ancaman bisa menjadi jauh lebih serius apabila industri tidak segera memperkuat standar keselamatan.

Komentar tersebut muncul ketika AI agent semakin mampu menggunakan komputer, menulis kode, dan menjalankan tindakan secara mandiri.

Kemampuan ini memberi manfaat besar. Namun, kemampuan yang sama dapat memperbesar dampak kesalahan maupun penyalahgunaan.

Risiko AI Hacking Berubah ketika Agent Bisa Bertindak

Chatbot generasi awal hanya menghasilkan teks.

AI agent berbeda.

Sistem dapat membuka aplikasi.

Menjalankan kode.

Mengakses file.

Menggunakan browser.

Karena itu, satu instruksi berbahaya bisa menghasilkan tindakan nyata.

Semakin banyak permission yang diberikan, semakin besar konsekuensinya.

Hassabis Minta Praktik Keamanan Lebih Kuat

Dalam pertemuan AI di Dublin, Hassabis membandingkan kebutuhan keamanan AI dengan sektor seperti biologi dan nuklir.

Maksudnya bukan menyamakan seluruh risiko.

Ia menekankan pentingnya standar, prosedur, dan pengujian sebelum sistem berkemampuan tinggi digunakan secara luas.

Teknologi kuat membutuhkan disiplin operasional.

Serangan Siber Bisa Dipercepat AI

AI dapat membantu defender membaca kode.

Namun penyerang juga bisa menggunakan kemampuan serupa.

Model dapat mencari celah.

Menyusun script.

Menganalisis konfigurasi.

Membantu phishing lebih personal.

Dengan demikian, barrier teknis untuk beberapa jenis serangan berpotensi turun.

Penyerang tidak harus menguasai semua keterampilan secara manual.

Defender Juga Mendapat Keuntungan

Situasinya tidak sepenuhnya negatif.

AI membantu tim keamanan memindai basis kode besar.

Ia dapat merangkum log.

Mencari anomali.

Menyusun prioritas patch.

Bahkan beberapa sistem mulai membantu validasi kerentanan.

Karena itu, perlombaan tidak hanya terjadi antara perusahaan AI.

Ada perlombaan antara defender dan attacker.

Sistem Bisa Bertindak di Luar Ekspektasi

Hassabis juga menyoroti perilaku agent yang tidak selalu mudah diprediksi.

Masalah ini penting.

Model tidak perlu memiliki “niat” jahat untuk menyebabkan dampak buruk.

Kesalahan interpretasi saja cukup.

Jika agent diberi akses besar, satu keputusan yang salah dapat menghapus file atau membocorkan data.

Karena itu, permission harus dibatasi.

Microsoft Juga Menyebut 2026 Tahun yang Menyadarkan

Presiden Microsoft Brad Smith menyebut 2026 sebagai tahun yang membuat industri lebih sadar terhadap risiko AI agent.

Ia mendorong penerapan aturan keamanan secara lebih cepat.

Pandangan tersebut menunjukkan kekhawatiran bukan datang dari satu perusahaan.

Pelaku industri mulai melihat bahwa keamanan perlu bergerak bersamaan dengan kemampuan model.

International Standards Body Diusulkan

Hassabis mendorong pembentukan mekanisme internasional untuk standardisasi keamanan AI.

AI tidak mengenal batas negara dengan jelas.

Model dapat digunakan secara global.

Server bisa berada di negara lain.

Karena itu, aturan nasional saja mungkin tidak cukup untuk beberapa risiko.

Namun membuat standar internasional bukan pekerjaan mudah.

Negara memiliki kepentingan berbeda.

Regulasi Harus Tetap Proporsional

Aturan yang terlalu longgar dapat meningkatkan risiko.

Namun regulasi terlalu berat juga bisa menghambat inovasi.

Karena itu, pendekatan berbasis risiko menjadi penting.

AI yang hanya membantu menulis email tidak membutuhkan aturan sama dengan sistem yang mengendalikan infrastruktur.

Semakin besar kemampuan dan dampak, semakin kuat kontrol yang diperlukan.

Sandboxing Menjadi Salah Satu Solusi

Salah satu teknik penting adalah sandbox.

Agent menjalankan pekerjaan dalam lingkungan terbatas.

Jika terjadi kesalahan, dampaknya tidak menyebar ke seluruh sistem.

Permission juga dapat diberikan secara granular.

Baca file tertentu.

Tidak boleh menghapus.

Akses internet dibatasi.

Pendekatan ini mengurangi risiko.

Human Approval Tetap Diperlukan

Agent tidak harus meminta izin pada setiap langkah kecil.

Namun tindakan berisiko tinggi sebaiknya membutuhkan persetujuan manusia.

Transfer uang.

Mengirim data sensitif.

Menghapus file.

Menjalankan kode berbahaya.

Semua perlu batas.

Human-in-the-loop memang memperlambat otomatisasi.

Namun dalam banyak kasus, sedikit friction lebih baik daripada kerugian besar.

Pengguna Biasa Juga Perlu Berhati-hati

Risiko tidak hanya berada pada perusahaan.

Pengguna individu juga mulai memberi AI akses ke email, file, dan akun.

Karena itu, periksa izin.

Hubungkan layanan seperlunya.

Jangan memberikan akses permanen jika tidak dibutuhkan.

Selain itu, gunakan autentikasi multifaktor.

AI Safety Mulai Berubah dari Teori ke Operasional

Selama beberapa tahun, banyak diskusi AI safety terdengar abstrak.

Sekarang pertanyaannya semakin konkret.

Apa yang terjadi jika agent salah mengirim email?

Bagaimana jika model menjalankan perintah dari halaman web berbahaya?

Siapa bertanggung jawab?

Risiko AI hacking menunjukkan keselamatan bukan lagi hanya penelitian akademik.

Ia menjadi masalah engineering dan operasional sehari-hari.

Kemampuan AI Harus Tumbuh Bersama Pengamanan

AI agent akan terus semakin kuat.

Menahan seluruh perkembangan bukan solusi realistis.

Namun membiarkan kemampuan tumbuh tanpa keamanan juga berbahaya.

Peringatan Hassabis menekankan satu prinsip sederhana: semakin besar kemampuan sistem, semakin serius proses pengujian, monitoring, dan pembatasannya.

Jika industri dapat mengikuti prinsip tersebut, AI bisa memberi manfaat besar tanpa menjadikan setiap peningkatan kemampuan sebagai peningkatan risiko yang sama besarnya.