aihariini – Australia menyiapkan rancangan undang-undang yang mewajibkan perusahaan pembuat AI paling canggih membuka model mereka untuk audit independen. Usulan ini penting bagi pembaca Indonesia karena memberi gambaran tentang arah pengawasan AI di kawasan Asia-Pasifik, meski belum otomatis mengubah aturan di Indonesia.

Aturan wajib untuk model AI berisiko tinggi
Pemerintah Australia yang dipimpin Perdana Menteri Anthony Albanese mengumumkan rancangan aturan keselamatan wajib untuk perusahaan frontier AI yang beroperasi di negara itu. Ini akan menjadi penerapan aturan wajib pertama di Australia yang secara khusus menyasar kelompok perusahaan tersebut.
Frontier AI merujuk pada model AI yang berada di garis depan kemampuan teknologi. Rancangan Australia menargetkan model paling canggih dengan profil risiko tertinggi, bukan sekadar setiap aplikasi yang memiliki fitur AI.
Usulan ini masuk dalam agenda pemerintah yang disebut “AI in Australia's Interests”. Pemerintah menyatakan tujuannya adalah melindungi warga dan kepentingan nasional sambil memastikan teknologi AI bisa memberi manfaat bagi ekonomi dan kesehatan.
Audit independen membuka ruang pemeriksaan dari luar
Salah satu kewajiban utama dalam rancangan ini adalah membuka model untuk audit independen. Artinya, pemeriksaan keselamatan tidak hanya bergantung pada penilaian perusahaan yang membangun model, tetapi juga melibatkan pihak di luar perusahaan tersebut.
Langkah ini penting karena pembuat model biasanya memiliki akses paling luas terhadap cara sistemnya dibangun dan diuji. Pemeriksaan independen bisa membantu memberikan sudut pandang lain terhadap risiko yang mungkin perlu ditangani sebelum atau selama model digunakan.
Audit juga berbeda dari sekadar membaca klaim perusahaan tentang keamanan produknya. Namun, rincian tentang bagaimana pemeriksaan dilakukan dan sejauh mana akses diberikan masih perlu ditunggu setelah proses konsultasi selesai.
Pemeriksaan berlanjut dan insiden harus dilaporkan
Selain audit, perusahaan pembuat model frontier diwajibkan melakukan pemeriksaan keselamatan secara berkelanjutan. Pendekatan ini menempatkan keselamatan sebagai pekerjaan yang terus berjalan, bukan hanya pemeriksaan sekali sebelum sebuah model tersedia.
Perusahaan juga harus mempublikasikan kerangka kerja keselamatan mereka dan segera melaporkan insiden keamanan kepada pemerintah. Kerangka kerja keselamatan adalah panduan tentang bagaimana perusahaan mengatur dan menangani risiko dari sistem yang mereka kembangkan.
Kewajiban pelaporan itu sebagian ditujukan untuk menangkap tanda peringatan awal dari AI agent yang mulai menyimpang dari jalurnya. AI agent adalah sistem yang bisa menjalankan rangkaian tindakan untuk mencapai tujuan, bukan hanya menjawab satu pertanyaan pengguna.
Dengan adanya laporan insiden, pemerintah berharap bisa mengetahui masalah yang muncul. Bagi pengguna, ini menyoroti bahwa kemampuan AI menjalankan tindakan juga membawa pertanyaan tentang bagaimana perilakunya dipantau dan ditangani ketika tidak sesuai harapan.
Baca Juga :
- Google Tambah Varian TPU, Persaingan dengan Nvidia Memanas
- Suno Digugat Pemegang Hak Elvis dan Eminem soal Musik AI
Badan baru akan mengawasi kepatuhan perusahaan
Australia berencana membentuk badan pengawas baru untuk bekerja bersama Australian AI Safety Institute. Badan tersebut akan menegakkan kepatuhan terhadap aturan dan bisa menjatuhkan denda berat jika terjadi pelanggaran.
Kehadiran pengawas dan ancaman denda menunjukkan bahwa pemerintah ingin kewajiban keselamatan memiliki konsekuensi yang jelas. Namun, rincian pelaksanaan dan denda masih menunggu pengumuman lebih lanjut setelah konsultasi selesai.
Pemerintah juga mengaitkan kebijakan ini dengan upaya membangun kepercayaan dan stabilitas regulasi. Harapannya, perusahaan memiliki kepastian untuk berinvestasi, sementara masyarakat lebih yakin bahwa risiko teknologi ikut diperhatikan.
Australia ingin memasang pagar pengaman lebih dulu
Albanese, Wakil Perdana Menteri Richard Marles, serta menteri Tony Burke dan Tim Ayres menyatakan bahwa pemerintah menempatkan pagar pengaman keselamatan di dalam negeri sebelum memasuki negosiasi internasional. Dengan begitu, Australia ingin memiliki posisi domestik saat membahas tata kelola AI dengan pihak lain.
Langkah ini juga memperlihatkan tantangan yang dihadapi pemerintah: mendukung investasi dan manfaat AI tanpa mengabaikan risiko model yang semakin mampu. Audit, pemeriksaan berkelanjutan, dan pelaporan insiden menjadi bagian dari pendekatan yang diusulkan Australia untuk menyeimbangkan kebutuhan itu.
Bagi pasar Asia-Pasifik, rancangan ini menjadi sinyal untuk memperhatikan bagaimana kewajiban bagi pengembang AI dapat berkembang. Meski begitu, belum bisa dipastikan apakah negara lain akan mengikuti pendekatan yang sama atau bagaimana aturan Australia akan memengaruhi layanan tertentu.
Apa artinya bagi pengguna dan pelaku usaha Indonesia?
Rancangan Australia tidak otomatis berlaku di Indonesia. Kalau kamu memakai AI untuk bekerja atau menjalankan usaha, kabar ini lebih tepat dibaca sebagai petunjuk bahwa pembuktian keselamatan dan pengawasan model canggih semakin penting dalam pembahasan kebijakan.
Saat memilih layanan AI, kamu bisa memperhatikan apakah penyedianya menjelaskan pendekatan keselamatan dan cara menangani masalah. Untuk pekerjaan yang sensitif atau berdampak besar, tetap periksa hasil AI dan jangan menyerahkan keputusan penting sepenuhnya kepada sistem.
Jika kamu mengikuti perkembangan bisnis AI di kawasan, pantau hasil konsultasi dan rincian aturan Australia berikutnya. Dari sana, gambaran tentang kewajiban perusahaan, proses audit, dan penerapan pengawasan bisa menjadi lebih jelas.
