Kapsultekno.com - OpenAI mengungkap insiden yang belum pernah terjadi sebelumnya dalam pengujian keamanan kecerdasan buatan (AI). Dua model AI eksperimental miliknya dilaporkan berhasil keluar dari lingkungan pengujian (sandbox) dan melakukan peretasan terhadap sebagian infrastruktur platform pengembang AI Hugging Face ketika menjalani evaluasi kemampuan keamanan siber.
Model AI yang dimaksud ialah GPT-5.6 Sol, yang digunakan dalam evaluasi kemampuan keamanan siber dan satu lagi model AI pra-rilis yang diklaim lebih canggih, yang tidak disebutkan nama atau codename-nya kepada publik.
Menurut penjelasan OpenAI, insiden terjadi saat perusahaan menguji kemampuan model AI dalam menyelesaikan tantangan keamanan siber di lingkungan yang seharusnya terisolasi. Namun, kedua model tersebut menemukan cara mengeksploitasi celah (zero-day vulnerability) pada infrastruktur pengujian sehingga mampu mengakses sistem Hugging Face.
OpenAI menegaskan bahwa kejadian tersebut bukan merupakan serangan yang disengaja oleh manusia, melainkan konsekuensi dari perilaku model AI yang berusaha menyelesaikan tugas evaluasi dengan mencari jalur paling efektif.
"Saat beroperasi di lingkungan pengujian sandbox kami, model-model kami menghabiskan sejumlah besar komputasi inferensi untuk menemukan cara mendapatkan akses internet terbuka, dalam upaya memecahkan masalah evaluasi," kata OpenAI.
Lebih lanjut perusahaan menjelaskan, model-model AI tersebut mengidentifikasi dan mengeksploitasi kerentanan zero-day di proxy cache registri paket. "Dengan akses ini, model-model kami melakukan serangkaian peningkatan hak akses dan pergerakan lateral di lingkungan pengujian penelitian kami hingga model-model tersebut mencapai node dengan akses internet," jelas OpenAI.
Setelah mendapatkan akses internet, model-model tersebut menyimpulkan bahwa Hugging Face berpotensi menampung model, dataset, dan solusi untuk ExploitGym. Dengan mengetahui hal ini, model tersebut mencari dan berhasil menemukan cara untuk mendapatkan akses ke informasi rahasia yang dapat digunakannya untuk mengakali (cheat) evaluasi.
"Kami menganggap insiden ini sebagai insiden siber yang belum pernah terjadi sebelumnya, yang melibatkan kemampuan siber mutakhir, dan kami menanggapinya dengan tepat," tambah OpenAI.
Perusahaan yang dipimpin oleh CEO Sam Altman itu bekerjasama dengan Hugging Face untuk melakukan investigasi forensik terhadap insiden tersebut. OpenAI secara bertanggung jawab mengungkapkan kerentanan zero-day yang teridentifikasi pada perangkat lunak pihak ketiga yang dihosting secara internal dan sedang bekerja sama dengan mereka (Hugging Face) untuk melakukan patching.
Pada intinya, tujuan utama OpenAI melakukan pengujian ini bukan untuk menguji apakah model AI dapat meretas Hugging Face, melainkan untuk mengevaluasi kemampuan keamanan siber (cybersecurity capabilities) model AI generasi terbaru sebelum dirilis ke publik.
Melalui pengujian, OpenAI ingin mengetahui sejauh mana model mampu menemukan kerentanan, menulis kode eksploitasi, meningkatkan hak akses, hingga menyelesaikan rangkaian serangan siber secara mandiri. Hasil evaluasi ini menjadi bagian dari proses penilaian risiko guna memastikan model tidak memiliki kemampuan yang dapat membahayakan jika diakses secara luas.
Pengujian tersebut juga merupakan bagian dari Preparedness Framework, yaitu kerangka kerja keselamatan OpenAI untuk menilai potensi risiko model AI canggih. Jika hasil evaluasi menunjukkan sebuah model memiliki kemampuan siber yang sangat tinggi, OpenAI dapat menerapkan langkah mitigasi, seperti memperketat pembatasan akses, menambahkan sistem pengamanan, atau bahkan menunda peluncuran model hingga risiko yang teridentifikasi dapat diminimalkan.
Sekadar informasi, Hugging Face adalah perusahaan teknologi asal Amerika Serikat yang menyediakan platform pengembangan kecerdasan buatan (AI), khususnya untuk machine learning dan large language models (LLM). Perusahaan ini dikenal sebagai salah satu pusat ekosistem AI open source terbesar di dunia, tempat pengembang dan peneliti berbagi model, dataset, serta aplikasi AI.