Kapsultekno.com - Googlememiliki kebijakan yang jelas tentang konten yang dilarang di Google Play Store, termasuk aplikasi yang “mengandung atau mempromosikan konten terkait perilaku predator seksual, atau mendistribusikan konten seksual non-konsensual” serta aplikasi yang memanfaatkan teknologi deepfake untuk membuat konten tersebut.
Pernyataan ini diambil langsung dari kebijakan Play Store yang dirancang untuk mencegah penyalahgunaan teknologi digital yang berbahaya.
Kebijakan Google bahkan secara eksplisit melarang aplikasi yang “mengklaim dapat menggunduli orang” atau memodifikasi foto orang tanpa persetujuan mereka. Ini menjadi aturan yang menyasar aplikasi manipulasi citra generatif seperti Grok AI.
Baca Juga: Grok AI Jadi Sorotan Pemerintah Inggris soal Deepfake, Ini Tanggapan Elon Musk
Secara teori, ini berarti aplikasi buatan xAI yang kini digunakan untuk menghasilkan atau mengedit gambar yang berpotensi menciptakan konten seksual non-konsensual dan eksplisit, seharusnya tidak lagi ada di Play Store.
Kenapa Grok AI Masih Tersedia di Play Store?
Meski aturan Google tampak tegas, penegakan kebijakan tersebut belum terjadi terhadap aplikasi Grok. Aplikasi ini masih diberi rating T (Teen), memungkinkan pengguna usia remaja untuk mengunduhnya meski konten yang bisa dihasilkan berpotensi melanggar kebijakan konten.
Menurut laporan, Google belum memberikan klarifikasi resmi mengenai alasan Grok tetap berada di Play Store atau mengapa rating tersebut belum dinaikkan ke kategori yang lebih ketat.
Baca Juga: Setelah Indonesia, Malaysia Blokir Grok AI Terkait Konten Pornografi dan Deepfake
Adapun pihak pengembang xAI telah membatasi sejumlah fungsi pengeditan gambar untuk pengguna gratis, yang sebelumnya digunakan untuk menghasilkan konten eksplisit. Versi aplikasi mandiri Grok belum dibatasi untuk pengguna tertentu dan masih bisa dipakai untuk membuat konten bermasalah.
Arstechnica telah menghubungi Googleuntuk menanyakan mengapa Grok belum dihapus dan mengapa aplikasi ini masih memiliki peringkat Remaja atau T. Perusahaan menolak untuk memberikan pernyataan saat ini.