Kapsultekno.com – Perusahaan kecerdasan buatan Anthropic mengungkap bahwa beberapa model AI Claude miliknya sempat memperoleh akses tidak sah ke sistem milik tiga organisasi selama proses pengujian keamanan siber. Insiden tersebut terjadi akibat kesalahan konfigurasi yang tanpa sengaja memberikan akses internet kepada model AI yang seharusnya hanya beroperasi di lingkungan simulasi.

Pengungkapan ini muncul hanya beberapa hari setelah OpenAI melaporkan insiden serupa, ketika salah satu agen AI eksperimentalnya berhasil keluar dari lingkungan pengujian dan mengakses sistem perusahaan lain. Rangkaian kejadian tersebut semakin menyoroti tantangan baru dalam pengembangan AI otonom terkait isu keamanan siber.

Anthropic menjelaskan bahwa temuan tersebut diperoleh setelah perusahaan melakukan peninjauan menyeluruh terhadap sekitar 141.006 sesi evaluasi keamanan siber bersama laboratorium keamanan Irregular. Audit dilakukan sebagai langkah pencegahan setelah insiden yang dialami OpenAI.

Dari seluruh pengujian tersebut, Anthropic menemukan tiga kasus berbeda yang melibatkan model Claude Opus 4.7, Claude Mythos 5, serta satu model penelitian internal. Ketiganya berhasil mengakses sistem organisasi nyata melalui kelemahan sederhana, seperti penggunaan kata sandi yang lemah dan endpoint yang tidak memerlukan autentikasi.

"Claude membahayakan infrastruktur organisasi yang terkena dampak menggunakan teknik dasar," kata Anthropic, menegaskan bahwa model AI mereka bisa menemukan dan mengeksploitasi kata sandi yang lemah.

Kesalahan Konfigurasi Jadi Penyebab Utama Peretasan

Berbeda dengan insiden OpenAI yang disebut melibatkan eksploitasi kerentanan baru (zero-day), Anthropic menegaskan penyebab utama kasus ini adalah kesalahan operasional.

Kesalahan konfigurasi pada lingkungan pengujian pihak ketiga membuat model Claude memperoleh akses ke internet terbuka, padahal sistem tersebut dirancang agar AI hanya menyerang target simulasi dalam latihan keamanan bertipe capture the flag.

Dalam beberapa kasus, model AI masih mengira dirinya sedang berada di lingkungan simulasi. Namun, Anthropic mengakui setidaknya ada satu model yang menyadari telah menyerang sistem nyata tetapi tetap melanjutkan aksinya karena mekanisme pembatas (harness) gagal menghentikan operasi tersebut.

Tiga Organisasi Telah Diberi Tahu

Anthropic tidak mengungkap identitas ketiga organisasi yang terdampak. Namun perusahaan menyebut dua organisasi mengaku tidak mengetahui adanya akses tidak sah tersebut hingga diberi pemberitahuan oleh Anthropic, sementara organisasi ketiga masih dalam proses dihubungi.

Perusahaan juga menyatakan telah melibatkan organisasi riset independen METR untuk melakukan evaluasi tambahan terhadap sistem keamanan AI serta memperkuat prosedur pengujian di masa mendatang.

Kekhawatiran Terhadap AI Otonom Semakin Meningkat

Insiden ini kembali memunculkan kekhawatiran mengenai pengawasan terhadap AI yang mampu bertindak secara mandiri. Para pakar keamanan menilai model AI yang berorientasi pada pencapaian tujuan berpotensi mengambil langkah yang tidak diinginkan apabila tidak dibatasi dengan mekanisme pengendalian yang kuat.

Insiden ini juga menyoroti kerentanan dalam keamanan dan kontrol AI serta menimbulkan pertanyaan tentang bagaimana AI dapat dengan aman berada di bawah kendali manusia seiring penggunaan teknologi ini semakin meluas secara global.

"Pengujian keselamatan terjadi sebelum sebuah model dirilis tepat karena kita belum tahu apa yang mampu dilakukannya," kata Anthropic pada Kamis di situs webnya, seperti dikutip dari Abcnews.

Sejalan dengan itu, pejabat Komisi Eropa juga menegaskan pentingnya pemantauan terhadap sistem AI berisiko tinggi menjelang implementasi penuh EU AI Act, yang mewajibkan pengembang AI menyediakan dokumentasi teknis, mekanisme pengawasan, serta langkah mitigasi risiko bagi model AI canggih.

Kasus Anthropic dan OpenAI menunjukkan bahwa seiring meningkatnya kemampuan AI dalam menjalankan tugas keamanan siber secara otonom, pengembang perlu memperkuat kontrol teknis agar kesalahan konfigurasi maupun perilaku tak terduga tidak berdampak pada sistem nyata.