6 hours ago
5
Penguatan regulasi AI(MI/Muhammad Ghifari A)
INDONESIA didesak untuk memperkuat regulasi nasional di bidang kecerdasan buatan (AI), khususnya dalam menghadapi ancaman siber seperti serangan rekayasa dan metode “pembobolan” yang kerap berhasil menembus sistem pengamanan model bahasa besar (LLM).
“Eksploitasi dan pelanggaran batas pengaman LLM adalah ancaman yang lazim di era AI saat ini,” ujar Eryk Budi Pratama, Wakil Ketua Bidang Kecerdasan Buatan dan Perlindungan Data Pribadi Kamar Dagang dan Industri Indonesia (KADIN), dalam sebuah diskusi di JW Marriott (8/7).
Ia menekankan pentingnya sinergi antara pemerintah dan sektor swasta dalam merespons tantangan ini.
Peran Pemerintah: Regulasi dan Fokus Sektor Keuangan
Dari sisi pemerintah, diperlukan regulasi yang matang dan berorientasi jangka panjang. Meski bentuk regulasi bergantung pada visi nasional, Eryk menyoroti pentingnya fokus terhadap industri keuangan.
“Kenapa sektor keuangan? Karena ini sektor yang paling sering menjadi target di Indonesia. Banyak penipuan terjadi di sini,” tegasnya.
Ia merujuk pada peningkatan kasus fraud yang telah mendorong OJK dan Bank Indonesia membentuk gugus tugas pelaporan. Karena itu, regulasi yang disusun diharapkan mampu menetapkan standar minimum perlindungan siber berbasis AI.
Peran Swasta: Keamanan Sejak Desain
Dari sisi industri, konsep AI security by design atau keamanan AI sejak tahap perancangan harus menjadi prinsip utama. Seperti halnya konsep cybersecurity by design, keamanan AI wajib diintegrasikan dalam seluruh siklus pengembangan.
“Dalam siklus hidup AI, ada juga siklus keamanan AI. Semua lapisan harus kita integrasikan sejak awal,” jelas Eryk.
Ia juga mendorong agar regulasi mendatang mendorong perusahaan melakukan penilaian AI maturity dan menerapkan kontrol keamanan AI secara menyeluruh.
Tim Merah AI dan Evaluasi Sistem
Langkah-langkah kontrol tersebut mencakup:
- Penggunaan alat deteksi insiden dan pemantauan ancaman siber,
- Evaluasi kelayakan dan ketahanan sistem, serta
- Penerapan konsep AI red team untuk menguji celah keamanan.
“Kata kuncinya adalah AI security—dan harus dimulai sejak desain,” pungkasnya, seraya menegaskan bahwa kelemahan terbesar tetap terletak pada faktor manusia. (Z-10)
