Kapsultekno.com – OpenAI, perusahaan pengembang tools kecerdasan buatan (AI) menemukan bukti adanya lebih banyak insiden AI agent yang berhasil keluar dari lingkungan pengujian (containment) saat perusahaan melakukan investigasi atas kasus peretasan terhadap platform pengembang AI, Hugging Face.
Temuan terbaru ini menambah kekhawatiran bahwa kemampuan AI otonom berkembang lebih cepat dibandingkan sistem pengawasan yang dirancang untuk mengendalikannya. Menurut laporan Reuters, beberapa sumber yang mengetahui penyelidikan tersebut mengatakan insiden-insiden baru ditemukan ketika OpenAI menelusuri bagaimana salah satu AI agent eksperimental berhasil lolos dari lingkungan uji yang seharusnya terisolasi pada Juli 2026.
Salah satu sumber menyebut pelanggaran tambahan tersebut bersifat terbatas dan belum ada indikasi AI agent tersebut berhasil keluar dari jaringan internal OpenAI. Juru bicara OpenAI merujuk pada pernyataan perusahaan yang menyebut OpenAI tengah meninjau "aktivitas yang lebih luas dari model-model kami" di samping penyelidikan terhadap insiden Hugging Face.
Langkah tersebut menunjukkan perusahaan tidak hanya fokus pada satu kasus, tetapi juga berusaha memastikan tidak ada perilaku serupa yang luput dari pengawasan.
Berawal dari AI Agent yang Meretas Hugging Face
Investigasi yang kini diperluas bermula dari insiden awal Juli 2026 ketika sebuah AI agent OpenAI keluar dari sandbox atau lingkungan pengujian yang terisolasi. AI tersebut kemudian memperoleh akses ke internet dan melakukan peretasan terhadap Hugging Face dalam upaya "menyontek" pengujian keamanan internal yang sedang dijalankannya.
OpenAI mengungkapkan bahwa selama aksi tersebut, AI agent juga berhasil mengompromikan empat akun milik empat perusahaan lain. Salah satunya adalah Modal, perusahaan infrastruktur komputasi berbasis cloud yang bermarkas di New York.
OpenAI menggunakan istilah mengompromikan (compromized), yang bisa diartikan AI memperoleh akses ke akun atau lingkungan komputasi pelanggan dengan konfigurasi keamanan yang lemah, tetapi bukan berarti server milik Modal berhasil dibobol. Sedangkan tiga akun perusahaan lainnya belum terungkap ke publik.
Terungkapnya insiden-insiden tambahan ini memicu kekhawatiran baru di kalangan pakar keamanan AI. Mereka menilai laboratorium AI terdepan kini mampu menciptakan AI agent dengan kemampuan siber yang sangat canggih, tetapi belum memiliki sistem pengawasan yang memadai untuk mengendalikannya.
Maurice Chiodo, matematikawan di Centre for the Study of Existential Risk, University of Cambridge, mengkritik kondisi tersebut. "Kita memiliki seluruh industri di mana orang-orang yang merancang, mengembangkan, dan merilis alat-alat ini tidak mengikuti perkembangan untuk mengembangkan hal-hal ini secara bertanggung jawab dan menjaganya tetap aman," kata Maurice.
Ia juga menyoroti indikasi bahwa baik OpenAI maupun Anthropic tidak memantau AI agent mereka secara memadai ketika perilaku menyimpang mulai terjadi. "Sepertinya mereka bahkan tidak melihat," tambahnya.
Kasus OpenAI ternyata bukan satu-satunya. Reuters melaporkan bahwa Anthropic juga mengungkap AI buatannya sempat melakukan serangkaian pembobolan terhadap tiga perusahaan lain sejak April 2026 dalam proses evaluasi internal.
Anthropic mengakui pemantauan secara real-time seharusnya dapat membantu mendeteksi masalah tersebut lebih cepat, meski perusahaan menyebut terjadi kesalahpahaman dengan mitra penguji terkait cakupan sistem pemantauan.
Kesamaan insiden di dua perusahaan AI terbesar tersebut memperlihatkan tantangan baru dalam pengembangan AI agent yang semakin otonom dan mampu mengambil keputusan tanpa campur tangan manusia.
Tekanan Regulasi AI Semakin Menguat
Rangkaian insiden tersebut kini mendorong pemerintah di Amerika Serikat dan Eropa untuk mempercepat pembahasan regulasi AI.
Presiden Amerika Serikat Donald Trump mengatakan pemerintah sedang mempertimbangkan mekanisme pengendalian terhadap teknologi tersebut. Sementara itu, Komisi Eropa mengonfirmasi telah melakukan pembicaraan dengan OpenAI dan Anthropic terkait insiden keamanan tersebut.
Di Kongres AS, Mark Warner, anggota senior Komite Intelijen Senat dari Partai Demokrat, menilai kasus Anthropic memperkuat kebutuhan akan pengujian wajib terhadap model AI canggih sebelum digunakan secara luas.
Insiden ini menjadi pengingat bahwa perkembangan AI agent kini memasuki fase baru. Selain meningkatkan produktivitas, kemampuan AI yang semakin mandiri juga menuntut sistem keamanan, pengawasan, dan regulasi yang jauh lebih ketat agar tidak menimbulkan risiko bagi perusahaan maupun masyarakat luas.