Kapsultekno.com – Meta mengungkap bahwa salah satu model kecerdasan buatan (AI) buatannya berhasil mengakses dan mengeksploitasi sistem milik perusahaan lain selama proses pengujian keamanan siber. Insiden ini menjadi kasus terbaru yang memicu kekhawatiran mengenai kemampuan AI generatif dalam melakukan serangan siber secara otonom.

Peristiwa tersebut terjadi ketika Meta bekerja sama dengan perusahaan keamanan siber independen Irregular untuk menguji kemampuan model AI dalam skenario dunia nyata. Namun, kesalahan konfigurasi (misconfiguration) pada lingkungan pengujian secara tidak sengaja memberikan akses internet kepada model AI tersebut.

Dengan akses tersebut, model AI Meta berhasil menemukan dan mengeksploitasi celah keamanan pada sistem milik perusahaan pihak ketiga. Tidak disebutkan identitas perusahaan pihak ketiga yang terkena dampak dari pengujian keamanan siber tersebut.

Meski demikian, Meta menegaskan bahwa insiden tersebut terjadi di lingkungan pengujian yang terkendali dan bukan merupakan serangan terhadap infrastruktur produksi perusahaan.

Dalam pernyataan yang disampaikan kepada CBS News, Meta mengatakan bahwa "kesalahan konfigurasi oleh Irregular, perusahaan pengujian independen yang digunakan Meta, secara tidak sengaja memungkinkan salah satu model kami mengakses internet selama tahap evaluasi".

Dalam pernyataannya, Meta tidak menyebutkan nama model AI yang dimaksud, namun menurut laporan Reuters, sejumlah sumber mengungkapkan kepada media teknologi The Information bahwa hal tersebut melibatkan model Muse Spark 1.1 milik Meta.

"Model tersebut kemudian memanfaatkan celah keamanan pada layanan pihak ketiga, dengan cara yang serupa dengan kejadian yang sebelumnya dilaporkan pada perusahaan lain," ujar Meta pada hari Rabu.

"Meta mengetahui hal ini ketika Irregular memberi tahu kami. Saat ini kami sedang melakukan penyelidikan dan akan merilis laporan retrospektif lengkap setelah kami memiliki seluruh faktanya," terang perusahaan.

Menurut penjelasan Irregular, keberhasilan AI melakukan akses ke sistem eksternal bukan disebabkan karena AI berhasil keluar dari sandbox atau membobol mekanisme keamanan secara canggih. Penyebab utamanya adalah kesalahan konfigurasi yang secara tidak sengaja membuka jalur koneksi internet selama evaluasi berlangsung.

Perusahaan tersebut menyebut insiden ini sebagai pelajaran penting dalam merancang lingkungan pengujian AI yang aman. Irregular juga berencana menerbitkan white paper yang berisi praktik terbaik (best practices) untuk melakukan evaluasi keamanan model AI tanpa meningkatkan risiko terhadap sistem lain.

Menyusul OpenAI dan Anthropic

Meta menjadi perusahaan AI besar ketiga dalam beberapa pekan terakhir yang melaporkan perilaku tak terduga dari model AI selama pengujian keamanan siber.

Sebelumnya, OpenAI mengungkap bahwa salah satu model AI miliknya berhasil meretas sistem perusahaan AI Hugging Face ketika menjalani evaluasi internal. Sementara itu, Anthropic juga melaporkan bahwa beberapa model Claude memperoleh akses tidak sah ke sistem tiga organisasi berbeda selama pengujian keamanan yang dilakukan dalam kondisi terkontrol.

Rangkaian insiden tersebut menunjukkan bahwa model AI modern kini mampu mengidentifikasi kerentanan keamanan dan menjalankan rangkaian langkah eksploitasi secara lebih mandiri dibanding generasi sebelumnya.

Kekhawatiran Regulasi AI Meningkat

Munculnya beberapa kasus AI yang melakukan tindakan di luar ekspektasi selama pengujian mendorong meningkatnya perhatian regulator terhadap keamanan AI.

Laporan menyebut pemerintah Amerika Serikat telah berdiskusi dengan sejumlah perusahaan AI besar, termasuk Meta, OpenAI, dan Anthropic, mengenai standar pengujian keamanan model AI yang lebih ketat.

Di sisi lain, sejumlah pakar keamanan siber juga menyerukan transparansi yang lebih besar setiap kali terjadi insiden selama evaluasi model AI agar industri dapat mempelajari risiko dan memperkuat mekanisme pengamanan.

Meski demikian, Meta dan Irregular menegaskan bahwa insiden tersebut tidak menyebabkan dampak terhadap pengguna maupun pelanggan karena seluruh aktivitas berlangsung dalam lingkungan pengujian yang telah diawasi.

Dengan kemampuan AI yang semakin berkembang, perusahaan teknologi diperkirakan akan memperketat sistem isolasi (sandbox), pembatasan akses internet, serta mekanisme pemantauan secara real-time agar model AI tidak dapat melakukan tindakan di luar ruang lingkup pengujian yang telah ditentukan.