Kapsultekno.com -Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) telah memblokir Grok AI milik xAI, perusahaan pengembang aplikasi kecerdasan buatan yang didirikan oleh Elon Musk. Malaysia juga mengambil langkah serupa atas fenomena deepfake yang dibuat oleh aplikasi tersebut.
Menurut CNBC.com, tindakan negara-negara yang memblokir Grok AI ini dilakukan di tengah meningkatnya kekhawatiran terkait penggunaan Grok untuk menghasilkan gambar eksplisit dan deepfake tanpa persetujuan, termasuk gambar anak di bawah umur.
Tanggapan dari xAI dan CEO Elon Musk sejauh ini gagal memuaskan kekhawatiran regulator di Indonesia dan Malaysia, serta yurisdiksi lain seperti India.
Malaysia memblokir akses ke chatbot kecerdasan buatan (AI) Grok milik Elon Musk pada akhir pekan karena kekhawatiran bahwa alat tersebut digunakan untuk menghasilkan konten seksual eksplisit tanpa izin.
Regulator Malaysia memerintahkan pembatasan sementara pada chatbot dari xAI pada hari Minggu setelah "kegagalan berulang oleh X Corp" untuk mengatasi risiko yang terkait dengan alat AI tersebut.
Baca Juga: Komdigi Blokir Sementara Aplikasi Grok Terkait Penyalahgunaan Konten AI Pornografi
Langkah ini dilakukan hanya satu hari setelah Indonesia memutuskan untuk menangguhkan akses ke Grok karena kekhawatiran serupa dan memanggil pejabat X terkait masalah tersebut.
Tindakan negara-negara Asia Tenggara ini muncul setelah ditemukan bahwa Grok milik xAI memungkinkan pengguna untuk dengan mudah membuat dan membagikan gambar secara online yang mencakup gambar eksplisit tanpa persetujuan dan materi pelecehan seksual anak (CSAM).
Baca Juga: Grok AI Jadi Sorotan Pemerintah Inggris soal Deepfake, Ini Tanggapan Elon Musk
Di tengah meningkatnya kekhawatiran atas kebijakan moderasi konten Grok, xAI mengumumkan akan membatasi fitur pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar, dalam upaya untuk menambal celah perlindungan yang memungkinkan keluaran berbau seksual.
Musk, menanggapi di X, juga menegaskan bahwa pengguna yang membuat konten ilegal melalui Grok akan menghadapi konsekuensi yang setara dengan mengunggah materi tersebut langsung ke platform media sosial.