Agen AI Gak Selamanya ‘Nurut’, Simak Cara Mengendalikannya

Uzone.id — Penggunaan agen AI yang semakin marak ternyata membuat perusahaan menghadapi tantangan keamanan baru yang cukup serius. Saat ini, Agen AI memiliki kemampuan dan diberi akses untuk mengambil keputusan, menggunakan berbagai alat, dan mengakses data sensitif tanpa campur tangan manusia.

Sebagai informasi, Agen AI adalah sebuah program yang bisa digunakan untuk berinteraksi, mengumpulkan data, dan menggunakan data tersebut untuk melakukan tugas mandiri yang memenuhi tujuan perusahaan yang telah ditentukan.

Canggih dan membuat pekerjaan lebih mudah memang, tapi Kaspersky mengingatkan jika nantinya Agen AI ini tidak dikendalikan dengan baik, maka risikonya bisa sangat tinggi, mulai dari pelayanan pelanggan yang kacau hingga kerusakan serius pada sistem dan basis data perusahaan. 

Inilah sebabnya isu keamanan agen AI kini menjadi perhatian utama para CIO, CISO, regulator, dan pakar keamanan siber.

Oleh karena itu, Kaspersky memberi rekomendasi dan langkah-langkah bagi perusahaan agar bisa menghindari risiko keamanan siber yang dapat ditimbulkan dari agen AI.

Pertama, Batasi tugas AI. Jangan biarkan AI mengerjakan terlalu banyak hal. Beri tugas yang jelas dan sempit, serta akses data sesedikit mungkin. Kurangi izin seminimal mungkin. Misalnya, tetap menggunakan mode baca saja (read-only).

Kemudian, gunakan kredensial sementara. Token dan kunci API sebaiknya bersifat sementara dan hanya berlaku untuk satu tugas tertentu. Dengan begitu, jika agen disusupi, kredensial tersebut tidak bisa digunakan kembali oleh penyerang.

Masih butuh persetujuan manusia untuk keputusan besar. Konfirmasi manusia masih diperlukan secara eksplisit untuk tindakan besar seperti seperti transfer uang atau penghapusan data dalam jumlah besar, keputusan akhir tetap harus melibatkan manusia agar kesalahan fatal bisa dicegah.

Terus pantau perilaku dan siapkan tim pengawas. Siapkan sistem otomatis untuk mendeteksi anomali, seperti lonjakan tiba-tiba dalam panggilan API atau agen yang tiba-tiba menyimpang dari tujuan intinya. 

Lakukan analisis statis dan dinamis kode dengan memindai setiap baris kode yang ditulis agen untuk kerentanan sebelum dijalankan.

Amankan komunikasi antar agen AI dengan memastikan otentikasi dan enkripsi timbal balik di semua saluran komunikasi antar agen. Gunakan tanda tangan digital untuk memverifikasi integritas pesan.

Mengingat perkembangan teknologi yang sangat cepat, langkah-langkah ini perlu dilakukan secara berkala dan relevan demi melindungi perusahaan sekaligus memberi batasan bagi Agen AI sehingga tak membahayakan perusahaan.