Kapsultekno.com -Grok AI beberapa waktu belakangan ini menjadi perhatian warganet usai layanan tersebut digunakan untuk mengubah gambar seseorang menjadi konten pornografi atau tanpa mengenakan busana, fenomena yang dianggap bertentangan dengan etika dan keselamatan digital.
Beberapa negara mengambil langkah seperti Indonesia yang memblokir sementara aplikasi Grok AI dan juga Inggris yang sebelumnya diketahui tengah mempertimbangkan langkah untuk melarang alat yang memfasilitasi pembuatan gambar tanpa pakaian (nudification tools).
Terkini, pemerintah Inggris tampak serius untuk menindak layanan yang dikembangkan oleh xAI tersebut. Pemerintah mengancam akan melarang situs media sosial X karena penyalahgunaan alat AI-nya, Grok untuk menghasilkan gambar-gambar seksual anak-anak dan perempuan, dikutip dari Standard.co.uk.
Mendapat kritik dari pemerintah Inggris, respons Musk malah terkesan "menantang" dengan memposting ulang gambar palsu Perdana Menteri Keir Starmer memakai bikini serta menuduh pemerintah Inggris ingin “menekan kebebasan berbicara”.
Baca Juga: Perempuan Ini Syok Gara-Gara Grok AI Hasilkan Gambar Vulgar Tanpa Izin
Polemik ini bermula setelah fitur AI Grok di X, yang dimiliki oleh Elon Musk, digunakan oleh sejumlah pengguna untuk menghasilkan gambar "sexualised deepfake", termasuk perempuan dan anak-anak.
Platform tersebut kemudian membatasi kemampuan pembuatan dan pengeditan gambar hanya untuk pengguna berbayar, namun pihak berwenang serta pejabat Inggris tetap menilai langkah ini tidak cukup.
Musk menolak kritik tersebut dan menuduh bahwa reaksi keras dari pemerintah hanya merupakan alasan untuk menerapkan sensor. Dalam serangkaian unggahan di X, ia mempertanyakan motivasi pihak berwenang Inggris, menyiratkan bahwa kritik atas AI Grok bukan hanya tentang keselamatan digital.
X Diminta Segera Ambil Tindakan Tegas
Perdana Menteri Keir Starmer secara tegas mengkritik penggunaan Grok untuk menghasilkan gambar yang tidak pantas dan tidak konsensual. Dalam pernyataannya, Starmer menyebut bahwa platform seperti X harus segera mengendalikan konten berbahaya tersebut dan bekerja sama dengan regulator untuk memastikan kepatuhan terhadap hukum.
Starmer menegaskan, “X harus mengendalikan ini. Ini salah. Ini melanggar hukum, kami tidak akan mentolerirnya". Ia menyoroti bahwa konten deepfake tersebut adalah tidak dapat ditoleransi dan melanggar hukum jika tidak ditindaklanjuti.
Baca Juga: Komdigi Blokir Sementara Aplikasi Grok Terkait Penyalahgunaan Konten AI Pornografi
Media regulator Inggris, Ofcom, telah diminta untuk mengambil langkah yang diperlukan sesuai dengan Online Safety Act, yang memberi wewenang untuk memblokir atau membatasi akses jika platform gagal menyingkirkan konten ilegal.
Menteri Teknologi Liz Kendall turut mendukung tindakan regulator, menyebut manipulasi seksual gambar sebagai sesuatu yang “menghina dan tercela”.