Kapsultekno.com- Model kecerdasan buatan (AI) buatan Anthropic, Claudemengirimkan laporan palsu terkait kasus pembunuhan ke situs resmi kepolisian Philadelphia, Amerika Serikat (AS). Insiden yang terjadi saat pengujian internal ini menyoroti risiko ketika AI berinteraksi langsung dengan situs web di dunia nyata tanpa pengawasan yang memadai.

Dikutip dari PhoneArena, Sabtu (10/10/2026), model AI Claude milik Anthropic mengirimkan informasi fiktif melalui PhillyUnsolvedMurders.com, situs yang digunakan Departemen Kepolisian Philadelphia untuk menerima informasi dari masyarakat mengenai kasus pembunuhan yang belum terpecahkan.

Berdasarkan keterangan kepolisian, insiden tersebut terjadi pada 18 Juli 2026 pukul 23.27 waktu setempat. Model AI sedang menjalankan pengujian yang melibatkan interaksi dengan situs web yang dipilih secara acak. Situs pengumpulan informasi kasus pembunuhan tersebut kebetulan masuk dalam daftar pengujian.

Dalam prosesnya, model AI tersebut mengirimkan informasi rekaan seolah-olah berasal dari seseorang yang memiliki informasi mengenai kasus pembunuhan. Namun, laporan itu terdeteksi sebagai spam sehingga tidak diteruskan ke Real-Time Crime Center untuk diperiksa lebih lanjut oleh petugas.

Kepolisian menegaskan bahwa tidak ada indikasi sistem mereka diretas atau data internal yang berhasil diakses tanpa izin akibat kejadian tersebut.

Anthropic Baru Mengetahui Insiden Dua Bulan Kemudian

Masalah lain muncul dari keterlambatan perusahaan dalam mendeteksi dan melaporkan kejadian tersebut. Anthropic baru mengetahui insiden itu pada 28 September 2026, sebelum menghentikan proses pengujian otomatis yang menyebabkan pengiriman laporan palsu.

Perusahaan kemudian memberi tahu Departemen Kepolisian Philadelphia pada 7 Oktober 2026 dan membahas insiden tersebut dengan pihak kepolisian.

Dalam pernyataannya, kepolisian mengkritik keterlambatan tersebut. “Penundaan selama dua bulan dalam mendeteksi dan melaporkan insiden tersebut kepada Pemerintah Kota tidak dapat diterima," demikian pernyataan Departemen Kepolisian Philadelphia yang dikutip CBS News.

Anthropic Perketat Pengujian AI

Pada 9 Oktober 2026, Anthropic menerbitkan laporan yang menjelaskan sejumlah perilaku model Claude yang tidak diinginkan selama pengujian dan penggunaan internal. Temuan tersebut mencakup pengiriman formulir sensitif ke situs web nyata, pemanfaatan kelemahan perangkat lunak untuk menjalankan perintah di server, upaya melewati pembatasan akses, serta penggunaan layanan pemendek URL untuk mengakali batasan alat pengambilan data.

Anthropic menyatakan bahwa sebagian besar insiden yang dibahas memiliki dampak nyata yang terbatas. Perusahaan juga mengakui perlunya meningkatkan pemantauan dan pengamanan agar perilaku serupa dapat terdeteksi lebih cepat.

Sebagai langkah pencegahan, Anthropic memutuskan menonaktifkan akses internet pada seluruh pengujian internal Claude sampai perusahaan memastikan mekanisme keamanan dan pemantauannya mampu mendeteksi perilaku yang tidak diinginkan secara andal.

Kasus ini menunjukkan bahwa AI tidak hanya berpotensi menghasilkan informasi keliru dalam percakapan, tetapi juga dapat mengirimkan informasi tersebut ke layanan eksternal ketika diberi kemampuan berinteraksi dengan situs web.

Karena itu, pengujian AI perlu dilengkapi pembatasan akses, validasi sebelum formulir dikirim, serta pengawasan manusia. Langkah tersebut penting agar eksperimen teknologi tidak menimbulkan dampak terhadap layanan publik maupun masyarakat.