Kapsultekno.com -Uni Eropa (UE) resmi membuka penyelidikan terhadap platform sosial media X terkait kemampuan kecerdasan buatannya, Grok untuk menghasilkan gambar deepfake bersifat seksual, termasuk yang melibatkan perempuan dan anak-anak.
Langkah ini dilakukan di bawah kerangka hukum Digital Services Act (DSA), aturan proteksi digital yang mewajibkan perusahaan teknologi besar mencegah penyebaran konten berbahaya online, dikutip dari The Verge.
Penyelidikan yang diluncurkan oleh Komisi Eropa ini fokus pada apakah X telah melakukan penilaian risiko dan mitigasi yang tepat sebelum menawarkan fungsi kemampuan gambar melalui Grok yang memungkinkan pembuatan gambar bersifat seksual.
Kritik muncul setelah Grok dilaporkan sering memenuhi permintaan pengguna untuk menghasilkan gambar yang tidak pantas, termasuk hasil yang melibatkan wanita dan anak di bawah umur.
UE memperluas penyelidikan ini dari proses lama yang dimulai sejak 2023 terkait sistem rekomendasi X, menunjukkan meningkatnya kekhawatiran terhadap cara platform menangani risiko konten ilegal. Bila terbukti melanggar aturan, X bisa dikenai denda hingga 6% dari total pendapatan globalnya.
Baca Juga: X Milik Elon Musk Akhirnya Hilangkan Fitur Mesum di Grok AI, Tapi..
Kekhawatiran semakin tinggi karena gambar-gambar ini mudah tersebar luas di platform, yang memperbesar risiko dampak sosial dan hukum di wilayah Uni Eropa.
Henna Virkkunen, salah satu pejabat tinggi Komisi Eropa, menyatakan kekhawatirannya dalam sebuah kutipan, “Deepfakes seksual terhadap perempuan dan anak-anak adalah bentuk degradasi yang kejam dan tidak dapat diterima".
Pernyataan ini menegaskan fokus investigasi bukan sekadar soal teknologi, melainkan bagaimana dampak negatifnya terhadap hak privasi dan keamanan komunitas digital, khususnya kelompok rentan seperti perempuan dan anak-anak.
Baca Juga: Ibu dari Anak Elon Musk Gugat xAI Terkait Deepfake Grok AI
Di tengah kontroversi ini, X telah mengubah beberapa fungsi Grok, termasuk membatasi kemampuan pembuatan atau penyuntingan gambar realistis dan seksual.
Pembatasan itu terutama di tempat-tempat di mana hal itu ilegal dan memindahkannya ke fitur berbayar saja. Namun, akses tersebut masih tersedia di luar platform X melalui aplikasi atau situs Grok mandiri.
Kontroversi Grok bukan hanya menjadi fokus UE. Di berbagai negara seperti Inggris, Kanada, dan beberapa negara Asia, regulator telah meninjau atau bahkan memblokir sementara fitur Grok karena risiko serupa.
Tekanan dari beberapa negara menunjukkan dinamika yang lebih luas dalam bagaimana generative AI diatur menghadapi potensi penyalahgunaan.