Kapsultekno.com - Pemerintah telah memutus akses sementara terhadap aplikasi Grok. Hal ini dilakukan usai layanan yang dikembangkan oleh xAIitu viral disalahgunakan untuk konten asusila maupun deepfake.
"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," kata Menteri Komunikasi dan Digital RI (Menkomdigi), Meutya Hafid melalui keterangan resminya.
Lebih lanjut, dalam pernyataannya, pemerintah memandang praktik deepfakeseksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
Baca Juga: xAI Milik Elon Musk Raih Investasi Rp332 Triliun di Tengah Kontroversi Grok AI
"Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," terangnya.
Baca Juga: Saingi ChatGPT, Gemini dan Grok Catat Pertumbuhan Tinggi di 2025
Terkait dengan pemutusan akses sementara terhadap aplikasi Grok AI di Indonesia, tindakan ini berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Sebelumnya diberitakan bahwa Grok AI menjadi sorotan karena mampu menghasilkan gambar seseorang tanpa busana dan mendesak perbaikan sistem oleh tim pengembang.
Dilaporkan dari BBC News, seorang perempuan yang menjadi "korban" dari Grok AI melaporkan perasaan "dehumanisasi” atau merasa direndahkan martabatnya setelah layanan berbasis kecerdasan buatan itu digunakan untuk menampilkan visual dirinya secara tidak pantas dan tanpa persetujuan.