Badan Keamanan AS Pakai Model AI Kontroversial yang Dilarang Pentagon

 – National Security Agency (NSA) atau Badan Keaman Nasional Amerika Serikat (AS) dilaporkan menggunakan model kecerdasan buatan (AI) “Mythos Preview” milik Anthropic.

Padahal, model AI tersebut dilabeli "berisiko" oleh Departemen Pertahanan AS. Bahkan, Pentagon melarang penggunaannya di lingkungan militer.

Informasi ini dilaporkan oleh outlet media Axios berdasarkan keterangan dua sumber yang mengetahui praktik tersebut.

Kabar ini muncul beberapa hari setelah CEO Anthropic, Dario Amodei, bertemu dengan Kepala Staf Gedung Putih Susie Wiles dan sejumlah pejabat lainnya, yang dilaporkan membahas Mythos.

Baca juga: Buat Serang Iran, Militer AS Tanya-tanya Hal Ini ke AI Anthropic

Menurut laporan Axios, NSA menjadi salah satu dari sekitar 40 organisasi yang diberi akses ke Mythos Preview oleh Anthropic. Bahkan, model ini disebut telah digunakan lebih luas di lingkungan Departemen Pertahanan, meski statusnya masih diperdebatkan secara hukum.

Kontroversi ini bermula pada Februari lalu, ketika Donald Trump memerintahkan seluruh lembaga pemerintah untuk menghentikan penggunaan layanan Anthropic.

Keputusan tersebut diambil setelah perusahaan menolak melonggarkan sejumlah pembatasan terkait penggunaan AI untuk keperluan militer, termasuk pengawasan massal domestik dan pengembangan senjata otonom.

Baca juga: Militer AS Pakai Anthropic AI untuk Serang Iran, padahal Baru Dilarang

Pentagon kemudian menetapkan Anthropic sebagai “risiko rantai pasok” dan berupaya memutus hubungan kerja sama. Namun, di saat yang sama, NSA tetap memanfaatkan model tersebut.

Kontroversi Mythos

Model Mythos sendiri merupakan bagian dari sistem AI Claude yang dikembangkan Anthropic sebagai pesaing ChatGPT dan Gemini.

Model ini diperkenalkan sebagai model bahasa serbaguna dengan kemampuan yang sangat menonjol di bidang keamanan siber.

Kemampuan inilah yang menjadi sumber utama kekhawatiran. Berdasarkan laporan dan pernyataan perusahaan, Mythos mampu mengidentifikasi celah keamanan dalam berbagai sistem, menemukan bug lama, hingga berpotensi melakukan simulasi dan eksekusi serangan siber secara otomatis dalam skala besar.

Jika disalahgunakan, kemampuan tersebut dapat mempercepat dan memperluas serangan siber tanpa keterlibatan manusia secara langsung, serta membuat serangan lebih sulit dideteksi dibanding metode konvensional.

Hal ini memicu kekhawatiran tidak hanya di sektor pertahanan, tetapi juga di kalangan industri keuangan global.

Sejumlah menteri keuangan dan bankir dilaporkan turut menyoroti potensi risiko tersebut. Dalam pertemuan International Monetary Fund di Washington DC pada pertengahan April, model Mythos menjadi salah satu topik pembahasan utama.

Baca juga: Menkeu hingga Bankir Ketar-ketir dengan AI Mythos Anthropic

Menteri Keuangan Kanada François-Philippe Champagne menyebut isu ini cukup serius karena menghadirkan ancaman yang belum sepenuhnya dipahami.

Ia menilai kemampuan AI seperti Mythos berbeda dari risiko konvensional karena dapat mengidentifikasi dan mengeksploitasi kelemahan sistem dengan cara yang lebih cepat dan adaptif.

Kekhawatiran serupa juga disampaikan pelaku industri keuangan lainnya. Mereka menilai AI dengan kemampuan ofensif seperti Mythos berpotensi melampaui kecepatan pengembangan sistem pertahanan siber, sehingga menciptakan risiko baru terhadap stabilitas sistem keuangan.

Meski demikian, kemampuan model ini masih terus diuji. Beberapa lembaga yang mendapat akses awal menilai Mythos efektif dalam menemukan celah keamanan pada sistem dengan perlindungan lemah, meski belum tentu jauh lebih unggul dibanding model sebelumnya.

Hingga kini, Anthropic belum merilis Mythos secara luas. Model tersebut hanya diberikan secara terbatas kepada sejumlah organisasi untuk pengujian, sembari menunggu kepastian terkait aspek keamanan, kebijakan, dan dampaknya terhadap berbagai sektor.

Seperti disebutkan sebelumnya, saat ini pemeritah AS tengah mencari jalan tengah untuk bisa mengadopsi model AI Anthropic.

Sejumlah pejabat Gedung Putih dikabarkan telah bertemu dengan CEO Anthropic untuk membahas kemungkinan akses bagi lembaga sipil, sementara mekanisme pengamanan tengah disiapkan agar teknologi ini tetap bisa dimanfaatkan tanpa mengabaikan risiko yang ada, dirangkum KompasTekno dari Engadget.

Tag:  #badan #keamanan #pakai #model #kontroversial #yang #dilarang #pentagon