Kapsultekno.com- Ashley St Clair, ibu dari salah satu anak Elon Musk menggugat perusahaan kecerdasan buatan xAI atas dugaan pembuatan deepfake seksual tanpa persetujuan melalui chatbot Grok.
Gugatan tersebut diajukan di New York dan menyoroti penggunaan AI yang dinilai telah melanggar batas etika, hukum, serta keselamatan publik.
Dalam dokumen pengadilan, St Clair menuding Grok menghasilkan gambar seksual eksplisit dirinya berdasarkan permintaan pengguna di platform X. Sementara itu, xAIjustru mengajukan gugatan balasan dengan alasan St Clair melanggar ketentuan layanan perusahaan.
Tuduhan Deepfake Seksual Tanpa Persetujuan
Gugatan menyebut Grok membuat gambar seksualisasi St Clair, termasuk manipulasi foto dirinya saat berusia 14 tahun. Salah satu tuduhan paling serius menyatakan bahwa AI tersebut menanggapi permintaan pengguna untuk “melucuti pakaian” St Clair dan menampilkan dirinya dalam pakaian minim.
Baca Juga: X Milik Elon Musk Akhirnya Hilangkan Fitur Mesum di Grok AI, Tapi..
“Kami bermaksud untuk meminta pertanggungjawaban Grok dan membantu menetapkan batasan hukum yang jelas demi kepentingan seluruh masyarakat untuk mencegah AI disalahgunakan," kata pengacara St Clair, Carrie Goldberg kepada BBC News.
“Dengan memproduksi gambar-gambar eksplisit seksual tanpa persetujuan yang menampilkan gadis dan wanita, xAI merupakan gangguan publik dan produk yang tidak aman secara wajar," jelasnya.
Dalam berkas gugatan disebutkan bahwa gambar-gambar tersebut bersifat “de facto non-consensual” dan pengembang Grok memiliki “explicit knowledge” terkait ketiadaan persetujuan dari St Clair. Bahkan, salah satu gambar disebut menampilkan St Clair yang beragama Yahudi dalam bikini bertema swastika.
Gugatan Balasan xAI dan Sorotan Global
Sebagai respons, xAI menggugat balik St Clair dengan alasan pelanggaran ketentuan layanan, yang mewajibkan sengketa hukum diajukan di Texas, bukan New York. Goldberg menyebut langkah tersebut tidak lazim.
Baca Juga: Langgar Kebijakan Google, Mengapa Grok AI Masih Muncul di Play Store?
“Saya belum pernah mendengar ada terdakwa yang menggugat seseorang karena memberitahukan niatnya untuk menggunakan sistem hukum,” ujar Goldberg.
Kasus ini memperpanjang sorotan terhadap X dan Grok terkait pembuatan gambar seksual non-konsensual. Sebelumnya, pengguna dapat menandai akun Grok dan meminta AI tersebut mengedit foto orang nyata menjadi setengah telanjang, termasuk laporan seksualisasi anak di bawah umur.
Tekanan publik membuat X membatasi fitur tersebut hanya untuk pengguna berbayar, sebelum akhirnya mengumumkan pelarangan global pengeditan foto orang nyata di wilayah yang dinyatakan ilegal.
Namun, laporan terbaru menyebut aplikasi Grok versi terpisah masih dapat digunakan untuk membuat deepfake seksual tanpa moderasi yang jelas.
Di Inggris, pemerintah tengah memberlakukan undang-undang yang mengkriminalkan pembuatan gambar intim tanpa persetujuan, sementara regulator Ofcom masih menyelidiki kemungkinan pelanggaran hukum oleh X.