Kapsultekno.com - Risiko terbesar dari kecerdasan buatan (artificial intelligence/AI) saat ini terletak pada sifatnya yang bersifat ganda. Model bahasa besar (large language models/LLMs) seperti ChatGPTdan Google Gemini telah banyak dimanfaatkan oleh pelaku usaha maupun layanan publik di Indonesia.
Di samping manfaat yang dapat dirasakan dari tools tersebut, teknologi yang sama juga dapat disalahgunakan untuk mengotomatisasi phishing, penipuan, hingga penyebaran malware dalam skala besar.
Tingginya adopsi layanan digital di Indonesia membuat ancaman ini semakin nyata. Ketergantungan masyarakat pada aplikasi pesan instan, platform e-commerce, dan layanan publik digital membuka peluang lebih besar bagi pelaku kejahatan siber berbasis AI untuk melancarkan aksinya.
LLM Berbahaya Muncul dan Diperdagangkan Bebas
Riset Palo Alto Networks Unit 42 bertajuk The Dual-Use Dilemma of AI: Malicious LLMs mengungkap keberadaan LLM berbahaya atau dark LLMs seperti WormGPT, FraudGPT, dan KawaiiGPT. Model-model AI ini dikembangkan tanpa sistem pengaman dan kini diperjualbelikan secara terbuka melalui Telegram serta forum dark web.
Baca Juga: X Milik Elon Musk Akhirnya Hilangkan Fitur Mesum di Grok AI, Tapi..
Keberadaan dark LLMs ini menurunkan hambatan teknis bagi pelaku kejahatan siber, baik dari sisi keahlian maupun waktu. Dengan bantuan AI, serangan siber dapat dilakukan lebih cepat, dalam skala besar, dan disesuaikan dengan konteks lokal, termasuk penggunaan Bahasa Indonesia yang natural.
Tiga Dampak Utama bagi Lanskap Keamanan Siber Indonesia
Unit 42 menilai LLM berbahaya berpotensi mengubah lanskap kejahatan siber di Indonesia dalam tiga aspek utama. Pertama, kemampuan AI menghasilkan bahasa yang sangat presisi memungkinkan pelaku membuat pesan phishing dan penipuan email bisnis yang tampak meyakinkan, dengan meniru gaya komunikasi pimpinan perusahaan, institusi keuangan, atau lembaga pemerintah.
Baca Juga: Tantang Google Translate, OpenAI Luncurkan Fitur Terjemah Bahasa di ChatGPT
Kedua, teknologi ini mendorong komersialisasi kejahatan siber. Pembuatan malware, phishing kits, hingga skrip pencurian data kini bisa dilakukan secara instan, tanpa memerlukan keahlian teknis tinggi.
Ketiga, hilangnya hambatan teknis membuat kejahatan siber semakin “terdemokratisasi”, sehingga pelaku dengan kemampuan rendah pun dapat menjalankan penipuan dan pemerasan digital secara cepat dan berulang.
Sebagai contoh, WormGPT mampu menghasilkan konten penipuan dalam Bahasa Indonesia yang fasih dan kontekstual, sehingga serangan phishing dan social engineering melalui email maupun aplikasi pesan menjadi semakin sulit dikenali oleh korban.
Pendekatan Prevention-First dalam Peta Jalan AI
AI tingkat lanjut kini dimanfaatkan secara aktif oleh pelaku ancaman siber, mendorong percepatan aktivitas berbahaya di ruang digital. Karena itu, Unit 42 menilai penting bagi pembuat kebijakan untuk menetapkan standar dan kerangka kerja yang mengatur proliferasi model AI berbahaya, sekaligus mewajibkan penerapan praktik keamanan terbaik, seperti audit keamanan secara berkala.
Seiring Indonesia menyusun peta jalan AI nasional, tantangan utama bukanlah membatasi atau melarang penggunaan AI, melainkan membangun ketahanan keamanan siber terhadap serangan berbasis AI yang cepat dan masif.
Pendekatan prevention-first yang mengintegrasikan praktik AI aman ke dalam tata kelola dan strategi pertahanan dinilai krusial agar manfaat inovasi AI dapat dimaksimalkan tanpa meningkatkan risiko digital.
Kolaborasi antara pemerintah, regulator, dan sektor swasta pun menjadi kunci dalam mewujudkan ekosistem AI yang aman di Indonesia.