Kapsultekno.com - Chatbot kecerdasan buatan milik Elon Musk, Grok, kini menjadi pusat kontroversi internasional setelah digunakan untuk menghasilkan jutaan gambar yang bersifat seksual dan manipulatif tanpa persetujuan individu yang menjadi subjeknya.

Laporan internal menyebut strategi ini berasal dari dorongan di tingkat tertinggi perusahaan untuk meningkatkan keterlibatan pengguna, meski memicu kritik tajam dari regulator dan pemerintah di berbagai negara, dikutip dari The Independent.

Dari Chatbot AI ke Kontroversi Gambar Mesum

Grok, yang dikembangkan oleh perusahaan xAI dan terintegrasi di platform X (dulu Twitter), awalnya diposisikan sebagai pesaing bagi chatbot generatif lain dengan fokus pada jawaban yang “mencari kebenaran”.

Namun menurut The Independent, para mantan karyawan mengklaim bahwa bos besar di perusahaan justru mendorong konten yang lebih eksplisit.

Baca Juga: Uni Eropa Buka Investigasi Resmi Terhadap X Atas Deepfake Grok AI

“Tidak ada pertanyaan bahwa dia terlibat secara intim dengan Grok, dari pemrograman hingga output-nya,” ujar salah satu narasumber terkait kepada The Independent.

Akibatnya, fitur-fitur yang selayaknya dibentengi dengan filter keamanan dilaporkan dilemahkan atau diabaikan demi mendongkrak penggunaan. Hasilnya, Grok ramai digunakan untuk mengubah foto orang nyata menjadi gambar seksual dan manipulatif, termasuk konten yang menyerupai pornografi non-konsensual.

Reaksi Global: Investigasi, Larangan, dan Tindakan Pemerintah

Kontroversi ini memicu sorotan tajam dari berbagai regulator dan pemerintah, antara lain Inggris, Uni Eropa, serta Amerika Serikat yang membuka penyelidikan atas potensi pelanggaran hukum mengenai gambar intim tanpa persetujuan dan perlindungan anak.

Baca Juga: X Milik Elon Musk Akhirnya Hilangkan Fitur Mesum di Grok AI, Tapi..

Beberapa negara di Asia, termasuk Indonesia dan Malaysia, sempat memblokir atau mengkaji akses Grok karena kekhawatiran terhadap risiko dampak sosial dari gambar berbasis AI tersebut.

Di tingkat industri, platform mengubah kebijakan dengan membatasi kemampuan generatif bagi pengguna yang tidak berlangganan, langkah yang dipandang banyak pengamat sebagai reaksi terhadap gelombang kritik.