Kapsultekno.com- OpenAI baru-baru ini memperingatkan bahwa browser AI terbaru mereka, ChatGPT Atlas, menghadapi risiko serius dari prompt injection. Ini merupakan serangan yang bisa menyisipkan instruksi berbahaya ke dalam sistem AI browser.
Walau sudah menerapkan pembaruan keamanan dan rapid response loop untuk mendeteksi serta menangkal teknik eksploitasi, perusahaan menyatakan prompt injection kemungkinan besar tidak akan pernah sepenuhnya bisa diatasi, dikutip dari IT Pro.
Fitur agent mode pada ChatGPT Atlas memungkinkan AI melihat dan menavigasi halaman web, mengisi formulir atau melakukan tugas atas nama pengguna. Namun kemampuan ini juga membuka celah baru bagi penyerang (adversarial attacks) karena agen AI berpotensi membaca konten tersembunyi di halaman yang seharusnya tidak menjadi instruksi operasional.
Menurut pernyataan resmi OpenAI, prompt injection adalah salah satu ancaman terbesar yang terus mereka pertahankan dengan berbagai teknik pertahanan. Perusahaan membandingkan tantangan ini dengan scams atau serangan rekayasa sosial di internet, di mana tidak ada solusi yang sempurna, hanya mitigasi berkelanjutan.
Dalam menanggapi ancaman tersebut, OpenAI telah memperkuat Atlas dengan sejumlah lapisan pertahanan, termasuk model yang dilatih secara adversarial serta sistem tanggap cepat yang dirancang untuk meningkatkan ketahanan terhadap eksploitasi baru.
Baca Juga: ChatGPT Punya Fitur Kilas Balik 2025, Rangkuman Interaksi Sepanjang Tahun
Perusahaan juga menganjurkan praktik penggunaan yang lebih hati-hati, seperti menggunakan mode logged out untuk meminimalkan akses ke data sensitif.
Meski begitu, para peneliti dan analis keamanan sejak awal menemukan teknik-teknik eksploitasi prompt injection yang berhasil menipu AI browser. Dalam beberapa kasus, instruksi tersembunyi dalam halaman web atau email bisa membuat agen AI mengeksekusi tindakan yang tidak diminta oleh pengguna, seperti mengabaikan perintah asli atau mengakses informasi pribadi.
Baca Juga: Jangan Baper, Sadari 4 Fakta Ini Tentang Penggunaan Aplikasi ChatGPT
Beberapa ahli memperingatkan bahwa ini bukan masalah yang unik pada ChatGPT Atlas saja, melainkan tantangan struktural yang melekat pada semua browser AI yang mencoba menggabungkan pemrosesan bahasa alami dengan akses web yang luas. Risiko ini tetap menjadi fokus utama di komunitas keamanan siber saat pengembangan teknologi AI generatif semakin maju.