Kapsultekno.com - NVIDIA meluncurkan Open Agent Safety Platform, platform terbuka yang dirancang untuk membatasi, memantau, dan menghentikan agen kecerdasan buatan (AI) ketika bertindak di luar aturan yang telah ditentukan. Sistem ini dapat mengarantina agen yang mencurigakan dalam hitungan milidetik.
Platform tersebut terdiri dari dua komponen utama, yakni OpenShell dan NVIDIA Sentry. OpenShell merupakan perangkat lunak open source yang menciptakan batas keamanan bagi agen AI dengan mengatur akses terhadap file, jaringan, API, kredensial, proses, serta berbagai sumber daya lain.
OpenShell juga dapat digunakan pada CPU dari Arm dan Intel, tidak terbatas pada prosesor NVIDIA Vera. Menurut NVIDIA, perangkat lunak ini memungkinkan administrator menetapkan dan menegakkan kebijakan mengenai tindakan yang boleh dilakukan agen selama menjalankan tugas.
Sementara itu, Sentry bekerja sebagai lapisan pengawasan independen. Sistem ini berjalan pada NVIDIA BlueField-4 DPU, sehingga berada di luar lingkungan tempat agen AI menjalankan tugasnya. Posisi tersebut memungkinkan Sentry memantau aktivitas agen secara terpisah dan melakukan intervensi apabila ditemukan perilaku yang melewati batas keamanan.
Bisa Karantina Agen dalam Hitungan Milidetik
NVIDIA menyebut Sentry dapat mengarantina dan menghentikan agen ketika mencoba keluar dari batas yang telah ditentukan dalam hitungan milidetik. Teknologi tersebut memanfaatkan NVIDIA DOCA untuk memeriksa permintaan dan respons agen, memverifikasi identitas, menyediakan telemetri, serta menerapkan kebijakan akses zero-trust.
Justin Boitano, Vice President of Enterprise AI NVIDIA, mengatakan sistem tersebut dirancang agar kontrol keamanan tidak hanya bergantung pada model AI atau perangkat lunak agen.
"Dari apa yang kita ketahui, platform keamanan baru ini bisa menghentikan pelanggaran jika digunakan di laboratorium perbatasan untuk evaluasi model sejak dini," kata Justin Boitano, dikutip dari Latimes.
Ia juga mengatakan platform baru tersebut secara teori dapat mencegah insiden yang melibatkan agen AI OpenAI yang sebelumnya berhasil mengakses infrastruktur Hugging Face.
Seperti diketahui, insiden Hugging Face adalah pelanggaran profil tinggi yang memicu kekhawatiran keamanan tentang AI, yang diikuti oleh tindakan serupa yang melibatkan model OpenAI termasuk melanggar situs web departemen kesehatan Australia.
Selain OpenAI, Anthropic dan Meta juga telah mengungkapkan bahwa sistem AI mereka meretas organisasi lain.
Didukung Lebih dari 100 Organisasi
Peluncuran platform ini dilakukan ketika penggunaan agen AI semakin meluas. Berbeda dari chatbot biasa, agen AI dapat menjalankan rangkaian tindakan secara mandiri, termasuk mengakses sistem, menggunakan alat digital, menjalankan kode, dan berinteraksi dengan layanan eksternal.
NVIDIA menyebut lebih dari 100 organisasi ikut mendukung inisiatif tersebut, termasuk Anthropic, Microsoft, Cisco, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Palantir, Perplexity, Salesforce, SAP, ServiceNow, dan SpaceXAI.
Jensen Huang, Founder dan CEO NVIDIA, menekankan pentingnya pendekatan keamanan yang mencakup seluruh lapisan teknologi. “Potensi luar biasa AI bagi masyarakat hanya akan terwujud jika kita memecahkan keamanan AI," tutur Jensen.
"Seiring kita terus menemukan batas kemampuan AI, kita harus mempercepat penemuan di batas keamanan AI. Keselamatan dan keamanan memerlukan rekayasa tumpukan penuh. NVIDIA Open Agent Safety Platform menyatukan industri, peneliti, dan organisasi sektor publik untuk berbagi praktik terbaik, menyelaraskan metode evaluasi, dan mendorong kerja sama internasional," terang Jensen.