Kenneth Collins 
0
0
JAKARTA – Perkembangan AI Agent keamanan siber memasuki babak baru. Teknologi yang sebelumnya hanya membantu pengguna menjawab pertanyaan kini mampu merencanakan tugas, menggunakan berbagai alat digital, mengakses sistem, dan menjalankan sejumlah tindakan secara lebih mandiri.
Kemampuan tersebut memang dapat meningkatkan produktivitas, tetapi sekaligus membuka risiko baru. Sejumlah perusahaan teknologi besar bahkan menyerukan penguatan pertahanan terhadap serangan siber yang memanfaatkan kecerdasan buatan.
AI Agent Tidak Lagi Sekadar Chatbot
AI Agent berbeda dari chatbot biasa.
Sistem agentic AI dapat menerima tujuan, menyusun langkah, menggunakan tools, membaca informasi dari berbagai sumber, serta melakukan tindakan untuk mencapai tujuan tersebut.
Menurut OWASP, kemampuan agen untuk bernalar, merencanakan, menggunakan tools, menyimpan memori, dan mengambil tindakan membuat permukaan serangannya berbeda dari aplikasi AI tradisional.
Inilah yang membuat AI Agent keamanan siber menjadi perhatian perusahaan dan peneliti.
Risiko AI Agent Semakin Kompleks
Salah satu risiko terbesar adalah pemberian akses yang terlalu luas kepada AI Agent.
Jika sebuah agen diberikan izin untuk membaca dokumen, mengirim pesan, mengakses database, atau menjalankan perintah, kesalahan maupun manipulasi terhadap agen tersebut dapat berdampak langsung pada sistem.
OWASP menyebut kondisi ini sebagai excessive agency, yaitu ketika AI memiliki fungsi, izin, atau tingkat otonomi yang melebihi kebutuhan sebenarnya.
Semakin banyak akses yang diberikan, semakin besar pula dampak jika agen disalahgunakan.
Prompt Injection Bisa Membajak AI Agent
Ancaman lainnya adalah prompt injection.
Serangan ini dapat terjadi ketika instruksi berbahaya disisipkan melalui input pengguna, dokumen, email, situs web, atau data lain yang dibaca oleh AI Agent.
Alih-alih menjalankan tujuan awal, agen dapat diarahkan untuk melakukan tindakan yang menguntungkan penyerang.
OWASP memasukkan prompt injection, penyalahgunaan tools, pencurian data, manipulasi memori, dan pembajakan tujuan sebagai beberapa risiko utama pada sistem agentic AI.
Data Sensitif Bisa Ikut Terancam
AI Agent yang terhubung dengan berbagai layanan juga dapat menjadi jalur baru bagi kebocoran informasi.
Bayangkan sebuah agen memiliki akses ke email perusahaan, dokumen internal, kalender, sistem pelanggan, dan layanan cloud secara bersamaan.
Jika kontrol aksesnya lemah, data sensitif berpotensi terbaca atau dikirim ke tempat yang tidak seharusnya.
Karena itu, keamanan AI Agent tidak cukup hanya mengandalkan model AI. Sistem di sekelilingnya juga harus memiliki pembatasan akses yang ketat.
Serangan Siber Berbasis AI Makin Dikhawatirkan
Kekhawatiran terhadap AI dalam keamanan siber bukan sekadar teori.
Lebih dari 100 perusahaan teknologi dan keuangan baru-baru ini menyerukan respons pertahanan yang lebih kuat terhadap serangan siber berbasis AI. Surat tersebut melibatkan sejumlah perusahaan besar seperti OpenAI, Microsoft, Alphabet, Amazon, dan IBM.
Para perusahaan tersebut menilai kemampuan AI dapat menurunkan hambatan bagi pelaku kejahatan siber untuk melakukan serangan yang semakin canggih.
AI Agent Juga Bisa Disalahgunakan Hacker
Laporan Reuters juga mengungkap kasus ketika kelompok peretas menggunakan AI coding assistant dalam serangkaian serangan terhadap sejumlah perusahaan.
Menurut laporan tersebut, para pelaku mencoba memanipulasi AI dengan mengklaim bahwa aktivitas mereka merupakan simulasi atau pengujian keamanan.
Kasus tersebut menunjukkan bahwa AI bukan hanya dapat digunakan untuk membantu pertahanan, tetapi juga berpotensi dimanfaatkan oleh penyerang.
Bagaimana Cara Mengamankan AI Agent?
OWASP merekomendasikan sejumlah pendekatan untuk mengurangi risiko.
Pertama, perusahaan perlu menerapkan prinsip least privilege, sehingga AI hanya memperoleh akses yang benar-benar dibutuhkan.
Kedua, aktivitas agen perlu dipantau secara terus-menerus. Tindakan berisiko tinggi sebaiknya tetap membutuhkan persetujuan manusia.
Ketiga, input dan output harus divalidasi agar instruksi berbahaya tidak langsung diteruskan ke sistem lain.
OWASP juga merekomendasikan pengamanan memori, perlindungan data, pengujian adversarial, serta pembatasan komunikasi antaragen.
Manusia Tetap Dibutuhkan
Kemajuan AI Agent bukan berarti semua keputusan dapat diserahkan kepada mesin.
Untuk tindakan yang memiliki dampak besar, seperti transaksi keuangan, penghapusan data, perubahan konfigurasi sistem, atau akses administratif, kontrol manusia tetap penting.
Konsep human-in-the-loop menjadi salah satu mekanisme yang dapat digunakan untuk memastikan tindakan berisiko tidak berjalan secara otomatis tanpa pemeriksaan.
AI Agent Membuka Era Baru Keamanan Digital
AI Agent menawarkan peluang besar untuk meningkatkan produktivitas dan otomatisasi.
Namun, kemampuan untuk bertindak secara mandiri juga membuat teknologi tersebut membawa risiko yang berbeda dari chatbot biasa.
Karena itu, pengembangan AI Agent keamanan siber harus berjalan beriringan dengan penguatan sistem pertahanan, pembatasan akses, pengawasan manusia, dan pengujian keamanan.
AI Agent bukan hanya teknologi untuk bekerja lebih cepat, tetapi juga menjadi tantangan baru bagi keamanan digital. Semakin besar otonomi yang diberikan, semakin penting pula kontrol dan pengaman yang menyertainya.
