AI Sering Salah Deteksi Bug, Cisco Bikin Kerangka Solusi Berbasis Agentic AI

- Perusahaan jaringan komputer dan keamanan siber asal AS, Cisco memperkenalkan Foundry Security Spec.

Foundry Security Spec merupakan kerangka yang telah teruji untuk membangun sistem evaluasi keamanan berbasis agentic AI, sebagai software open source.

Blueprint ini dirancang untuk membantu organisasi membangun sistem evaluasi keamanan software berbasis kecerdasan buatan (AI).

Solusi ini hadir untuk mengatasi salah satu tantangan yang mulai muncul seiring meningkatnya penggunaan AI dalam keamanan siber, yakni temuan bug yang tidak akurat atau sulit diverifikasi.

Saat ini, model AI generatif dan large language model (LLM) semakin sering digunakan untuk membantu mencari kerentanan pada perangkat lunak. Namun, menurut Cisco, pendekatan yang umum dilakukan saat ini masih memiliki banyak kelemahan.

Baca juga: Cisco Cetak Rekor Pendapatan, tapi PHK 4.000 Karyawan

Banyak tim keamanan hanya memberikan source code atau repositori perangkat lunak kepada AI lalu memintanya menemukan bug atau celah keamanan.

Hasilnya sering kali berupa daftar temuan yang tidak terstruktur, mencampurkan analisis yang valid dengan temuan yang keliru, tanpa cara yang jelas untuk memastikan apakah seluruh area sudah diperiksa atau kapan proses evaluasi benar-benar selesai.

Cisco menyebut kondisi tersebut membuat AI lebih terlihat sebagai demonstrasi teknologi yang menarik daripada sistem evaluasi keamanan yang dapat dipertanggungjawabkan kepada tim keamanan perusahaan maupun auditor.

"Dengan membagikan pengetahuan yang telah kami pelajari, kami ingin membantu komunitas di bidang perlindungan keamanan (defender) agar bisa bergerak lebih cepat dan lebih cerdas," kata Distinguished Engineer, AI Security Engineering, S&TO Cisco, Omar Santos dalam keterangan resmi yang diterima KompasTekno.

"Dengan demikian, berbagai organisasi tidak lagi disibukkan untuk mengurusi banyak notifikasi tapi lebih fokus pada temuan keamanan yang bisa diverifikasi dan memberikan dampak nyata," imbuhnya.

"Resep" membangun sistem AI keamanan

Meski diumumkan sebagai proyek open-source, Foundry Security Spec bukanlah aplikasi atau alat pemindai keamanan yang siap digunakan.

Cisco menjelaskan bahwa Foundry merupakan spesifikasi acuan atau blueprint yang dapat digunakan organisasi untuk membangun sistem evaluasi keamanan berbasis AI sesuai kebutuhan masing-masing.

Sederhananya, jika alat keamanan siap pakai dapat diibaratkan sebagai rumah yang sudah jadi, maka Foundry Security Spec lebih mirip gambar arsitektur lengkap yang menjelaskan bagaimana rumah tersebut harus dibangun.

Karena bersifat model-agnostic dan stack-agnostic, spesifikasi ini dapat digunakan dengan berbagai model AI maupun infrastruktur perangkat lunak yang berbeda. Artinya, organisasi tidak harus menggunakan model AI tertentu untuk mengadopsinya.

Cisco merancang Foundry untuk digunakan bersama GitHub Spec-Kit, seperangkat alur kerja pengembangan berbasis spesifikasi yang sudah banyak digunakan di industri.

Baca juga: Cisco Umumkan Universal Quantum Switch, Perangkat Krusial untuk Jaringan Kuantum Masa Depan

Mengandalkan "tim" agentic AI

Salah satu konsep utama yang diusung Cisco adalah penggunaan agentic AI, yaitu sistem yang terdiri dari beberapa agen AI yang bekerja sama untuk menyelesaikan tugas tertentu.

Berbeda dengan chatbot biasa yang hanya menjawab pertanyaan pengguna, agen AI dapat menjalankan peran dan tugas yang berbeda-beda secara otomatis.

Dalam Foundry Security Spec, Cisco mendefinisikan delapan agen inti, termasuk Orchestrator, Detector, Validator, Triager, Coverage Guide, hingga Reporter. Masing-masing memiliki fungsi berbeda.

Cisco Dalam Foundry Security Spec, Cisco mendefinisikan delapan agen inti, termasuk Orchestrator, Detector, Validator, Triager, Coverage Guide, hingga Reporter.

Sebagai ilustrasi, Detector bertugas mencari kerentanan, Validator memeriksa apakah temuan tersebut benar, Triager menentukan prioritas penanganan, sementara Reporter menyusun hasil evaluasi. Orchestrator bertindak layaknya manajer yang mengoordinasikan seluruh proses.

Menurut Cisco, pendekatan ini lebih efektif dibanding mengandalkan satu model AI untuk melakukan seluruh pekerjaan sekaligus.

Dipadukan dengan CodeGuard

Foundry Security Spec juga dirancang untuk bekerja bersama Project CodeGuard, proyek open-source Cisco yang sebelumnya telah disumbangkan ke Coalition for Secure AI (CoSAI).

CodeGuard berisi kumpulan aturan keamanan yang digunakan untuk membantu AI mengenali pola kerentanan pada kode program.

Awalnya, proyek ini dibuat untuk membantu agen AI yang digunakan developer menulis kode lebih aman secara otomatis.

Namun, Cisco menemukan bahwa aturan-aturan tersebut juga efektif digunakan untuk audit kode, pengujian keamanan, dan evaluasi kerentanan secara otomatis.

Kombinasi Foundry dan CodeGuard menciptakan mekanisme yang oleh Cisco disebut sebagai siklus deteksi dan pencegahan yang terus belajar.

Cara kerjanya cukup sederhana. CodeGuard terlebih dahulu mencari kerentanan yang sudah dikenal melalui kumpulan aturan yang dimilikinya.

Baca juga: Cisco dan Nvidia Hadirkan Solusi AI Siap Pakai yang Aman dan Mudah

Di saat yang sama, agen eksploratif dalam Foundry mencoba mencari pola kerentanan baru yang belum tercakup dalam aturan tersebut.

Cisco Foundry Security Spec.

Jika ditemukan celah yang belum dikenali CodeGuard, sistem akan mencatatnya sebagai "rule gap" atau kekurangan aturan. Temuan tersebut kemudian diubah menjadi aturan baru atau penyempurnaan aturan yang sudah ada.

Pada pemeriksaan berikutnya, kerentanan yang sebelumnya hanya bisa ditemukan melalui eksplorasi kini bisa dideteksi secara otomatis sejak awal.

Lebih jauh lagi, karena aturan CodeGuard bersifat portabel, aturan yang sama juga dapat digunakan oleh asisten coding berbasis AI.

Dengan demikian, bug yang sebelumnya ditemukan saat evaluasi keamanan berpotensi dicegah sejak proses penulisan kode dilakukan.

Dirancang agar tidak cepat usang

Cisco menegaskan Foundry Security Spec tidak dibangun berdasarkan model AI tertentu, melainkan berdasarkan pembagian peran dan persyaratan fungsional.

Karena itu, Cisco menilai spesifikasi tersebut tetap relevan meski model AI terus berkembang.

"Baik Anda menggunakan model AI terdepan saat ini maupun agen penalaran yang lebih kompleks di masa depan, kebutuhan akan orchestrator, detector, dan validator akan tetap sama," kata Omar.

Baca juga: Riset Cisco: Utang Infrastruktur AI Jadi Momok Baru Perusahaan di Indonesia

Cisco juga menjelaskan alasan mereka membuka spesifikasi, bukan kode sumber internalnya. Menurut perusahaan, implementasi internal mereka sangat terikat dengan infrastruktur Cisco, seperti gateway LLM, private cloud, dan sistem internal lainnya, sehingga sulit diterapkan secara langsung di lingkungan organisasi lain.

Sebaliknya, desain sistem, pembagian peran, mekanisme evaluasi, serta prinsip-prinsip yang mendasarinya dinilai lebih bermanfaat untuk dibagikan kepada komunitas.

Melalui Foundry Security Spec, Cisco berharap organisasi yang ingin memanfaatkan AI untuk keamanan siber tidak perlu memulai dari nol, sekaligus membantu membangun sistem evaluasi keamanan yang lebih terstruktur, dapat diaudit, dan mampu menghasilkan temuan yang lebih dapat dipercaya.

Tag:  #sering #salah #deteksi #cisco #bikin #kerangka #solusi #berbasis #agentic